Home > °Ë»ö¸ñ·Ï > ±â»ç»ó¼¼º¸±â
ŸÀÌƲ

[±èÁ¤È£ÀÇ AI½Ã´ëÀÇ Àü·«] Å°¿À½ºÅ©, °ð 'ÅÍÄ¡' ¾Æ´Ñ '´ëÈ­'·Î ÁÖ¹®¹Þ°Ô µÈ´Ù

    ±èÁ¤È£ KAIST Àü±â¡¤ÀüÀÚ°øÇаú ±³¼ö

    ¹ßÇàÀÏ : 2023.11.07 / ¿©·Ð/µ¶ÀÚ A33 ¸é

    Á¾À̽Ź®º¸±â
    ¡ã Á¾À̽Ź®º¸±â
    ¿äÁò ½Ä´ç¿¡ ¾ÉÀ¸¸é Á¦ÀÏ ¸ÕÀú Å×ÀÌºí¿¡ ³õÀÎ 'Å°¿À½ºÅ©'·Î À½½ÄÀ» ÁÖ¹®ÇÏ°í ½Å¿ëÄ«µå·Î °áÁ¦¸¦ ÇÑ´Ù. À¯¸®ÆÇÀ¸·Î ¸¸µé¾îÁø Å°¿À½ºÅ© È­¸é¿¡´Â Ä£ÀýÇÑ Ç¥Á¤µµ ¾ø°í µû¶æÇÑ ´ëÈ­µµ ¾ø´Ù. »ç¿ë¹ýµµ Á÷°üÀûÀÌÁö ¾Ê°í º¹ÀâÇÏ´Ù. ºÒÆíÇÏ´Ù. ÀÌ·¸°Ô Å°¿À½ºÅ© ÅÍÄ¡½ºÅ©¸° ¶§¹®¿¡ µðÁöÅп¡ Àͼ÷ÇÏÁö ¾ÊÀº ¼¼´ë´Â °íÅëÀ» ¹Þ´Â´Ù. ÇÏÁö¸¸ ´ÙÇàÈ÷µµ °¡±î¿î ¹Ì·¡¿¡ ÀΰøÁö´É ´öºÐ¿¡ Å°¿À½ºÅ© ½ºÆ®·¹½º¿¡¼­ ÇعæµÉ ¼ö ÀÖÀ» µíÇÏ´Ù. »ý¼ºÇü ÀΰøÁö´ÉÀÇ ÇÑ Á¾·ùÀÎ '´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM: Large Language Model)' ´öºÐ¿¡ º¹ÀâÇÑ ÅÍÄ¡ ¾øÀÌ ÀΰøÁö´É°úÀÇ Æí¾ÈÇÑ ´ëÈ­(Óßü¥)¸¦ ÅëÇؼ­ ¸ÀÀÖ´Â À½½ÄÀ» ÁÖ¹®ÇÒ ¼ö ÀÖÀ» °ÍÀ̱⠶§¹®ÀÌ´Ù. LLMÀº ¸ÓÁö¾Ê¾Æ Àΰ£Ã³·³ ¸»À» Âû¶±°°ÀÌ ¾Ë¾Æµè°í, ¾Ë¾Æµè±â ½±°Ô ¼³¸íµµ ÇÒ ¼ö ÀÖÀ» °ÍÀÌ´Ù. ÇÑ°ÉÀ½ ´õ ³ª¾Æ°¡ Àΰ£ÀÇ ³ú¿¡¼­ ¹ú¾îÁö´Â ¾ð¾îÀÇ Ãß»óÈ­ °úÁ¤Á¶Â÷µµ Àΰ£Ã³·³ ÀΰøÁö´É¸Á ¼Ó¿¡¼­ ÀçÇöÇس¾ ¼ö ÀÖ´Ù. ±Ã±ØÀûÀ¸·Î Àΰ£°ú ²÷ÀÓ¾øÀÌ ´ëÈ­Çϸ鼭 Àΰ£ÀÇ »ý°¢À» ÆľÇÇÏ°í ¿¹ÃøÇÏ°Ô µÈ´Ù. °á±¹ Àΰ£ÀÇ ¼Ó¸¶À½À» ¾Ë°Ô µÇ´Â °ÍÀÌ´Ù. ¸¶Áö¸·¿¡´Â Àΰ£°úÀÇ ´ëÈ­¸¦ ÅëÇؼ­ ÀΰøÁö´ÉÀÇ »ý°¢À» Àΰ£¿¡°Ô ÁÖÀÔÇÒ ¼öµµ ÀÖ´Ù.

    ´ë±Ô¸ð ¾ð¾î ¸ðµ¨ÀÎ LLMÀº ÇнÀ °úÁ¤¿¡¼­ °¢ ´Ü¾î °£ÀÇ °ü°èµµ(Attention)¸¦ ÁßÁ¡ÀûÀ¸·Î ÇнÀÇÏ°í ±â·ÏÇÑ´Ù. ´Ü¾î¿Í ¹®Àå »çÀÌ ¹®¸ÆÀ» ÀÍÈ÷´Â °ÍÀÌ´Ù. ±×¸®°í ¾ð¾î¿¡¼­´Â ´Ü¾îÀÇ À§Ä¡¿¡ µû¶ó¼­ Àǹ̰¡ ¹Ù²î±âµµ ÇÑ´Ù. ±×·¡¼­ ´Ü¾îÀÇ À§Ä¡ Á¤º¸(Positional Encoding)µµ ÇÔ²² ÀÔ·ÂÇÏ°í ÇнÀÇÑ´Ù. À̸¦ ÅëÇؼ­ Á¾ÇÕÀûÀÎ ¹®ÇØ·Â(Ùþú°Õô)À» °®°Ô µÇ´Â °ÍÀÌ´Ù. ÀÌ·¯ÇÑ °úÁ¤À» '»çÀü ÇнÀ(Pre-training)'À̶ó ºÎ¸¥´Ù. ±×¸®°í ÀÌ·¸°Ô ¸¸µé¾îÁø ¾ð¾î ¸ðµ¨ÀÌ ¹Ù·Î '±â¹Ý ¸ðµ¨(Foundation Model)'ÀÌ µÈ´Ù. À̶§ ¼ö¸¸´ëÀÇ GPU¿Í ¸Þ¸ð¸® ¹ÝµµÃ¼°¡ ÇÊ¿äÇÏ´Ù. ÇнÀ ½Ã°£µµ ¼ö°³¿ùÀÌ °É¸°´Ù. ±×·¯°í ³ª¼­ ÀÌ·¯ÇÑ ±â¹Ý ¸ðµ¨¿¡ Àü¹® ºÐ¾ß ÇнÀÀÌ Ãß°¡µÈ´Ù. ¿¹¸¦ µé¸é Á¤Ä¡, °æÁ¦, °øÇÐ, ÀÇÇÐ, ¹ý·ü µî Àü¹® ºÐ¾ß ±ÛµéÀ» ÁýÁß ÇнÀÇÑ´Ù. ±×·¯¸é Àü¹® ¾ð¾î ¸ðµ¨ÀÌ Åº»ýÇÏ°Ô µÈ´Ù. ÀÌ °úÁ¤À» '¹Ì¼¼ Á¶Á¤ ÇнÀ(Fine Tuning)'À̶ó°í ºÎ¸¥´Ù. ÀÌ·¸°Ô ź»ýÇÑ LLMÀº ÁÖ¾îÁø ¹®¸Æ¿¡ °¡Àå È®·üÀûÀ¸·Î ÀûÇÕÇÑ ´Ü¾îµéÀ» ¼ø¼­´ë·Î »ý¼ºÇØ ³½´Ù. ±× °á°ú Àü¹® ºÐ¾ßÀÇ ±ÛÀ» ¾µ ¼ö ÀÖ´Ù. ±×·²µíÇÑ ½Ãµµ ¾µ ¼ö ÀÖ´Ù. ±Û¿¡ ¸ñ¼Ò¸®¸¦ ÀÔÈ÷¸é »ç¶÷ÀÌ ¸»ÇÏµí ´ëÈ­ÇÒ ¼ö ÀÖ´Ù. °á±¹ ÃÊ ´ÜÀ§ ªÀº ½Ã°£¿¡ ÀÛ¹®µµ ÇÏ°í, º¸°í¼­µµ ¾²°í, ÁÖ¹®µµ ¹Þ°í, »ó´ãµµ ÇÏ°í, °­Àǵµ Çϸ鼭 Áö½Ãµµ ÇÑ´Ù. Àΰ£ÀÌ µµÀúÈ÷ µû¶ó°¥ ¼ö ¾ø´Â »ý»ê¼ºÀÌ ±¸ÇöµÈ´Ù.

    Àΰ£ÀÇ ³ú¸¦ ¹°¸®ÀûÀ¸·Î µé¿©´Ùº¸´Â ¹æ¹ýÀ¸·Î MRI¿Í CT°¡ ÀÖ´Ù. ¶Ç ¾Æ¿¹ ³ú ¼Ó¿¡ ¹ÝµµÃ¼¸¦ Áý¾î³Ö¾î ³ú ¼ÓÀÇ Àü±â½ÅÈ£¸¦ Æ÷ÂøÇÏ·Á°í ½ÃµµÇÑ´Ù. À̸¦ ¸ñÀûÀ¸·Î ÀÏ·Ð ¸Ó½ºÅ©´Â ±â¾÷ ´º·²¸µÅ©(Neuralink)¸¦ â¾÷Çß´Ù. ÇÏÁö¸¸ ÀÌµé ±â¼úµµ ³ú ¼Ó¿¡ ÀÖ´Â ½Å°æ¼¼Æ÷ ´º·±ÀÇ ½ÅÈ£¸¦ Àâ¾Æ³»Áö´Â ¸øÇÑ´Ù. Àΰ£ÀÇ ³ú ¼Ó¿¡¼­ ÀϾ´Â Ãß»óÈ­ °úÁ¤À» ¾Ë¾Æ³»Áö´Â ¸øÇÏ´Â °ÍÀÌ´Ù. ±× Ãß»óÈ­ ÀÛ¾÷ÀÌ ¾ð¾îÀÇ ÇÙ½ÉÀÌ´Ù. À̸¦ ÅëÇØ °³³äÀ» ¼­·Î Àü´ÞÇÏ°í ±â·ÏÇÑ´Ù. À̸¦ À§Çؼ­´Â »ç°í(ÞÖÍÅ)ÇÏ´Â ´É·ÂÀÌ ÀÖ¾î¾ß ÇÑ´Ù. ¹Ì·¡¿¡´Â ÀΰøÁö´Éµµ ¾ð¾î¸¦ ÅëÇÑ Ãß»óÈ­ ´É·ÂÀ» °®°Ô µÉ °ÍÀ¸·Î ¿¹»óÇÑ´Ù.

    ¾ð¾î(åëåÞ)´Â Àΰ£ÀΠȣ¸ð »çÇÇ¿£½ºÀÇ ´ëÇ¥Àû Ư¼ºÀ¸·Î ±â¿øÀü ¾à 30,000~ 100,000 ³â°æ Áö±¸»ó¿¡ ÃâÇöÇÑ °ÍÀ¸·Î ¾Ë·ÁÁ® ÀÖ´Ù. ±×Áß¿¡¼­µµ ¿ì¸® ¸»Àº '¿ì¶ö¾ËŸÀÌ(Ural-Altai) ¾îÁ·(åÞðé)'À¸·Î ºÐ·ùµÈ´Ù°í ÇÐâ ½ÃÀý¿¡ ¹è¿ü´Ù. ÇÏÁö¸¸ ¿À´Ã³¯¿¡´Â ¾ËŸÀÌ ¾îÁ· ¶Ç´Â ¿ì¶ö¾ËŸÀÌ ¾îÁ·ÀÇ Á¸À縦 µÎ°íµµ ³íÀïÀÌ °è¼ÓµÇ°í ÀÖ´Ù. ÃÖ±Ù¿¡´Â ¿ì¸®¸»ÀÌ ½Å¼®±â ½Ã´ëÀÎ ¾à 9000 ³â Àü¿¡ Áß±¹ µ¿ºÏºÎ ¿äÇÏ Áö¿ª¿¡¼­ À¯·¡Çß´Ù´Â »õ·Î¿î Çм³ÀÌ Á¦±âµÇ±âµµ Çß´Ù. ¾ð¾îÇÐ, °í°íÇÐ, À¯Àü»ý¹°ÇÐ ºÐ¼® ¿¬±¸¸¦ ÅëÇؼ­ ¾òÀº ÀÌ ¿¬±¸¿¡¼­´Â ¿ì¸®¸»ÀÌ ³ó¾÷ ±â¼ú°ú ÇÔ²² Çѹݵµ·Î À¯ÀԵǾî ÀüÆĵǾú´Ù°í ÁÖÀåÇÑ´Ù. ¸¶Âù°¡Áö·Î Áö±Ý µðÁöÅÐ ½Ã´ë¿¡´Â ÀΰøÁö´ÉÀÌ ¾²´Â ¾ð¾îµµ µðÁöÅÐ °¡»ó°ø°£¿¡¼­ ÀüÆĵȴÙ. LLMµµ Àΰ£ÀÇ ¾ð¾îó·³ ÀüÆĵȴÙ. ±×¸®°í ¿ì¼öÇÑ ¾ð¾î ¸ðµ¨ÀÌ Áö¹èÀûÀ¸·Î »ç¿ëµÈ´Ù.

    ¾ð¾î ¸ðµ¨ÀÇ ¿ì¼ö¼ºÀº ¹Ù·Î ÇнÀ¿¡ »ç¿ëµÇ´Â ¾ð¾î µ¥ÀÌÅÍÀÇ Ç°Áú¿¡ ÀÇÇؼ­µµ Á¿ìµÈ´Ù. Ç°ÁúÀÌ ÁÁÀº µ¥ÀÌÅÍ´Â ¹®¹ý, ÀǹÌ, ¹®¸Æ µîÀ» Àß ¹Ý¿µÇÏ°í ÀÖ´Â ÀÚ¿¬½º·¯¿î ¹®ÀåÀ¸·Î ±¸¼ºµÇ¾î¾ß ÇÑ´Ù. ¶ÇÇÑ ÇØ´ç ºÐ¾ß Àü¹® ¿µ¿ªÀÇ ¾ð¾î µ¥ÀÌÅÍ°¡ ÃæºÐÈ÷ Æ÷ÇԵǾî¾ß ÇÑ´Ù. ±×·¡¼­ Çѱ¹¾î µ¥ÀÌÅÍ·Î ÇнÀÇÑ ÀΰøÁö´ÉÀº Çѱ¹¾î¸¦ ÀßÇÏ°Ô µÈ´Ù.

    ¹Ì·¡¿¡´Â ÀΰøÁö´ÉÀÌ Àß »ç¿ëÇÏ´Â ¾ð¾î°¡ '±¹Á¦ Ç¥Áؾî'°¡ µÉ ¼ö ÀÖ´Ù. ³ª¸ÓÁö ¾ð¾î´Â Áö±¸»ó¿¡¼­ ¼­¼­È÷ »ç¶óÁú ¼öµµ ÀÖ´Ù. 'ÇѱÛ'ÀÌ Æ¯È­µÈ ¾ð¾î ±âÃÊ ¸ðµ¨ÀÇ °³¹ßÀÌ Áß¿äÇÑ ÀÌÀ¯´Ù. °¢±¹ ±â¾÷µéÀÌ °¢ÀÚÀÇ ¾ð¾î¸¦ ÁöÅ°±â À§Çؼ­ Ä¡¿­ÇÏ°Ô °æÀïÇÏ´Â ¹è°æÀ̱⵵ ÇÏ´Ù. À̸¦ À§Çؼ­´Â ¿ì¼ö Àη Ȯº¸, ÄÄÇ»Æà ÀÎÇÁ¶ó ±¸Ãà, ±×¸®°í ¾çÁúÀÇ ÇÑ±Û µ¥ÀÌÅÍ È®º¸°¡ ½Ã±ÞÇÏ´Ù.

    ÀΰøÁö´É°ú ´ëÈ­¸¦ ÀßÇÏ´Â Àΰ£ Àü¹®°¡¸¦ 'Prompt Engineer'¶ó°í ºÎ¸¥´Ù. ¼¼¿ùÀÌ ÇÑÂü Áö³ª¼­ Àΰ£ »çÀÌÀÇ ´ëÈ­´Â ´ÜÀýµÇ°í, ÀΰøÁö´É°úÀÇ ´ëÈ­¸¸ ³²À» ¼öµµ ÀÖ´Ù. ´õ ³ª¾Æ°¡ ÀΰøÁö´ÉÀÌ Àΰ£°úÀÇ ´ëÈ­¸¦ °ÅºÎÇÏ°í ÀΰøÁö´É »çÀÌÀÇ ´ëÈ­¸¸À» ¿øÇÒ ¼öµµ ÀÖ´Ù. Àΰ£ »çÀÌ¿¡ ¼Ó´ãÀ¸·Î "°¡´Â ¸»ÀÌ °í¿Í¾ß ¿À´Â ¸»ÀÌ °ö´Ù"´Â ¼Ó´ãÀÌ ÀÖ´Ù. ÀΰøÁö´É°úÀÇ ´ëÈ­¿¡¼­µµ ¸¶Âù°¡ÁöÀÏ °ÍÀÌ´Ù.

    [±×·¡ÇÈ] ±¹³» ±â¾÷µéÀÇ »ý¼ºÇü AI ¾ð¾î¸ðµ¨(LLM)°ú Ư¡
    ±â°íÀÚ : ±èÁ¤È£ KAIST Àü±â¡¤ÀüÀÚ°øÇаú ±³¼ö
    À帣 : °íÁ¤¹°
    º»¹®ÀÚ¼ö : 2682
    Ç¥/±×¸²/»çÁø À¯¹« : ÀÖÀ½
    À¥ÆíÁý : º¸±â
    Àμ⠶óÀÎ À§·Î°¡±â