[NAVER Cloud] Multimodal LLM (경력)

부서소개 저희 부서는 HyperCLOVA X를 기반으로, 이미지와 비디오 등의 Multimodal 도메인으로의 기능 확장을 위한 아키텍처 설계 및 모델 생산을 담당하고 있습니다. 최종적으로는 Native Multimodal 및 입출력 측면에서 Any-to-Any 까지의 확장을 목표로 하고 있습니다. 2024년 9월 한국 최초로 Vision LLM 기능을 HyperCLOVA X 에 적용해 서비스를 시작하였고, 특히 2025년 4월에도 역시 대한민국 AI 생태계를 위하여 국내 최초로 상업용 오픈소스 AI 모델을 공개했습니다.(관련 링크 Click) 나아가 Global Frontier Big Tech 와 경쟁하기 위해 NAVER의 자산인 데이터와 기술 측면에서 오랫동안 축적된 경험과 우수한 인재를 바탕으로 다양한 프로젝트에 도전하고 있습니다. 대용량의 Computing과 양질의 데이터는 Machine Learning 에 있어 핵심입니다. Computing 자원은 생산을 반복할 때마다 비용에 산입이 되기에, 학습 효율성 및 성능 향상을 위해 데이터를 정교하게 Filtering 하고 Curation하는 것이 중요합니다. 이를 위해 해당 데이터들을 여러 방법론을 통하여 (Model Driven) 학습 공정을 단축하고 데이터와 모델의 상호작용을 탐구하며 SOTA 수준의 성능 개선을 목표로 합니다. 담당업무 Vision Language Model 개발: Multimodal 확장을 위한 효과적인 Architecture 완성 및 Benchmark 전반에 대한 동일 학습 수준 경쟁 모델 대비 우위 달성 • Real-time streaming/efficient Multimodal understanding를 위한 Multimodal (Vision) encoding 에 대한 실증적인 architecture design • Distributed Training(FSDP, ZeRO), Sequence Packing, Sequence Parallel 등 VLM 학습 효율 개선을 위한 기술 stack 적용 및 개발 • 추가적인 Modality(Audio I/O, Image/Video) 확장을 위한 유관 부서와의 소통 • Hyperscale 규모의 GPU 자원 (InfiniBand 기반 GPU Cluster)에서의 VLM Ablation, 학습 및 생산 • Public Benchmark SOTA 달성을 위한 Small Scale Ablation 및 분석 Multimodal Pretraining: 경쟁사 수준의 학습량에 도달하는 Vision Backbone 확보 및 최종 성능 향상. Omni modality로의 확장 • Hyperscale 규모의 GPU 자원 (InfiniBand 기반 GPU Cluster)을 활용한 Multimodal Backbone에 Vision 능력 추가를 위한 모델 학습 • Hyperscale 규모의 GPU 자원을 활용한 Backbone 생산을 위한 Framework 도입과 관련된 Engineering • 다양한 Multimodal Backbone 이 최종 모델의 성능에 미치는 영향 탐색 • 효과적인 Pretraining Recipe 탐색과 Pretraining Data 에 대한 Curation 및 Filtering 작업 • Distributed Training(FSDP, ZeRO, Megatron), Sequence Packing, Sequence Parallel 등 VLM 학습 효율 개선을 위한 적용 및 개발