Who We Are
팀네이버 AI Risk Management Framework를 글로벌 최신 연구 동향과 발맞춰 고도화하고,
전사의 안전성 평가와 정책 실행을 지원하는 조직입니다.
AI 모델의 위험 요인 식별 및 평가 지원, 최신 규제와 기술 트렌드 분석을 통해
팀네이버 전체가 안전하고 투명한 AI 모델과 서비스를 만들어갈 수 있도록 돕습니다.
향후 국내외 규제나 산업 표준이 형성되는 과정에서 선도적 아젠다를 다루고,
정책과 기술 양쪽의 통합적인 역량을 쌓고자 하는 분들께 큰 기회가 될 것입니다.
What You'll Do
1. AI Risk/Safety 평가 연구 트렌드 파악
국내외 AI 연구기관/기업들이 발표하는 안전성 평가 결과와 방법론, 오픈소스 툴 등을 파악하여 유관 부서에 공유합니다.
다앙한 AI Risk 분야에 대한 최신 평가 기법을 파악하고, 내부 안전성 테스트셋에 통합합니다.
2. 실제 평가(자동/수동) 수행
사내외 모델에 대한 자동화 테스트 파이프라인을 설계/운영하고,
Risk 분야별 결과를 수집/분석하여 모델의 안전성 현황을 정량화된 지표로 관리합니다.
3. AI Safety 평가 관련 외부 생태계 협력
AI 안전성 평가 연구, 실행 업무를 수행하는 다양한 외부 주체들과 협력하여 공동 연구, 레드티밍 프로젝트 등을 진행합니다.
Required Skills
•AI 모델의 학습, 인퍼런스, 평가 전반에 대한 기본적 이해를 갖추신 분
•AI Safety 평가 분야의 최신 기법을 빠르게 파악해 실제 테스트로 구현할 수 있는 역량을 보유하신 분
•자동화된 테스트 프레임워크를 개발/운영해본 경험, 또는 대규모 테스트를 수행할 수 있는 스크립팅 역량을 보유하신 분
•테스트 결과를 정량 지표로 체계적으로 취합하고, 문서/대시보드 형태로 가시화할 수 있는 분
•여러 이해관계자와 공유/협업할 수 있는 커뮤니케이션 역량을 보유하신 분
Preferred Skills
•AI 모델 성능 혹은 안전성 평가 관련 업무 경험을 1년 이상 보유하신 분
•AI Safety 벤치마크와 레드티밍 툴(대규모 데이터 기반 fuzzing, 에이전트 기반 공격 등) 환경 활용 및 연구 경험이 있으신 분
•GPU를 활용한 자동화 파이프라인, 분산 로깅/모니터링 등 대규모 ML 테스트를 설계/운영해본 경험을 보유하신 분
•AI 안전성/윤리/규제 문제에 대한 연구 및 논문 작성 경험을 보유하신 분
(사이버공격, 불법/유해 콘텐츠, 차별/편향, 저작권/IP 침해, 개인정보 노출 등)