[NAVER Cloud] Vision °È ÇнÀ LLM °³¹ß (°æ·Â)
ºÎ¼¼Ò°³
ÀúÈñ ºÎ¼´Â HyperCLOVA X¸¦ ±â¹ÝÀ¸·Î, À̹ÌÁö¿Í ºñµð¿À µîÀÇ Multimodal µµ¸ÞÀÎÀ¸·ÎÀÇ ±â´É È®ÀåÀ» À§ÇÑ ¾ÆÅ°ÅØÃ³ ¼³°è ¹× ¸ðµ¨ »ý»êÀ» ´ã´çÇϰí ÀÖ½À´Ï´Ù. ÃÖÁ¾ÀûÀ¸·Î´Â Native Multimodal ¹× ÀÔÃâ·Â Ãø¸é¿¡¼ Any-to-Any ±îÁöÀÇ È®ÀåÀ» ¸ñÇ¥·Î Çϰí ÀÖ½À´Ï´Ù.
2024³â 9¿ù Çѱ¹ ÃÖÃÊ·Î Vision LLM ±â´ÉÀ» HyperCLOVA X ¿¡ Àû¿ëÇØ ¼ºñ½º¸¦ ½ÃÀÛÇÏ¿´°í, ƯÈ÷ 2025³â 4¿ù¿¡µµ ¿ª½Ã ´ëÇѹα¹ AI »ýŰ踦 À§ÇÏ¿© ±¹³» ÃÖÃÊ·Î »ó¾÷¿ë ¿ÀǼҽº AI ¸ðµ¨À» °ø°³Çß½À´Ï´Ù.(°ü·Ã ¸µÅ© Click) ³ª¾Æ°¡ Global Frontier Big Tech ¿Í °æÀïÇϱâ À§ÇØ NAVERÀÇ ÀÚ»êÀÎ µ¥ÀÌÅÍ¿Í ±â¼ú Ãø¸é¿¡¼ ¿À·§µ¿¾È ÃàÀûµÈ °æÇè°ú ¿ì¼öÇÑ ÀÎÀ縦 ¹ÙÅÁÀ¸·Î ´Ù¾çÇÑ ÇÁ·ÎÁ§Æ®¿¡ µµÀüÇϰí ÀÖ½À´Ï´Ù.
´ë¿ë·®ÀÇ Computing°ú ¾çÁúÀÇ µ¥ÀÌÅÍ´Â Machine Learning ¿¡ ÀÖ¾î ÇÙ½ÉÀÔ´Ï´Ù. Computing ÀÚ¿øÀº »ý»êÀ» ¹Ýº¹ÇÒ ¶§¸¶´Ù ºñ¿ë¿¡ »êÀÔÀÌ µÇ±â¿¡, ÇнÀ È¿À²¼º ¹× ¼º´É Çâ»óÀ» À§ÇØ µ¥ÀÌÅ͸¦ Á¤±³ÇÏ°Ô Filtering Çϰí CurationÇÏ´Â °ÍÀÌ Áß¿äÇÕ´Ï´Ù. À̸¦ À§ÇØ ÇØ´ç µ¥ÀÌÅ͵éÀ» ¿©·¯ ¹æ¹ý·ÐÀ» ÅëÇÏ¿© (Model Driven) ÇнÀ °øÁ¤À» ´ÜÃàÇÏ°í µ¥ÀÌÅÍ¿Í ¸ðµ¨ÀÇ »óÈ£ÀÛ¿ëÀ» ޱ¸Çϸç SOTA ¼öÁØÀÇ ¼º´É °³¼±À» ¸ñÇ¥·Î ÇÕ´Ï´Ù.
´ã´ç¾÷¹«
»ý»ê °øÁ¤ Áß Multimodal RL (RLVR, RLHF) ÇнÀ ¿Ï¼º ¹× Reasoning °ü·Ã Target Benchmark ÀÇ SOTA ±Þ ¼º´É ´Þ¼º
• Hyperscale ±Ô¸ðÀÇ GPU ÀÚ¿ø (InfiniBand ±â¹Ý GPU Cluster)°ú VERL, VeOmni ¸¦ Ȱ¿ëÇÑ Vision RL °ü·Ã ÇнÀ ȯ°æ °³¹ß ¹× ½ÇÇè
• RLVR À» À§ÇÑ Target Scenario Ž»ö ¹× Reward Design, °ü·Ã ÇнÀ Data °¡°ø ¹× È®º¸
• RLHF ÇнÀÀ» À§ÇÑ Reward Model (RM) ÇнÀ ¹× °ü¸®, Reward ±â¹Ý Policy ÃÖÀûÈ ½ÇÇè
• Hyperscale ±Ô¸ðÀÇ GPU ÀÚ¿ø (InfiniBand ±â¹Ý GPU Cluster)¿¡¼ÀÇ Multimodal RL ÇнÀ, Ablation ¹× ¸ðµ¨ »ý»ê ÀÚµ¿È
• LLMÀÇ Text ¼º´É ¹× ±âÁ¸ Vision ¼º´ÉÀÇ Forgetting À» ÃÖ¼ÒÈ ¹× Reasoning ´É·Â Çâ»ó ¿¬±¸
ÀÚ°Ý¿ä°Ç
• ¼®»ç ÇÐÀ§ º¸À¯ÀÚ È¤Àº 2³â ÀÌ»óÀÇ À¯°ü °æ·ÂÀ» º¸À¯ÇϽŠºÐ
• VLM (LLaVA, Qwen VL, DeepSeek VL µî) ÀÇ ±¸Á¶ ¹× ÇнÀ °úÁ¤¿¡ ´ëÇÑ »ó¼¼ÇÑ ÀÌÇØµµ¸¦ °®Ã߽ŠºÐ
• Code Level ÀÇ °æÇèÀ» º¸À¯ÇϽŠºÐ
• RL °ü·Ã ±âº» Áö½Ä (RLHF, DPO, PPO, GRPO µî) ¹× ½Ç¹«ÀûÀÎ ÇнÀ °æÇèÀ» º¸À¯ÇϽŠºÐ
• Vision RL ¿¡¼ »ç¿ëµÇ´Â µ¥ÀÌÅÍÀÇ Æ¯¼º, Á¾·ù¿¡ ´ëÇÑ ÀÌÇØµµ¸¦ °®Ã߽ŠºÐ
• Python ¹× LLM °³¹ß °ü·Ã Library, FW, Platform(PyTorch, Hugging Face) Ȱ¿ë ¿ª·®À» º¸À¯ÇϽŠºÐ
¿ì´ë»çÇ×