AI가 과거 대화의 의미까지 찾아낸다…카카오, 한국어 특화 임베딩 모델 2종 오픈소스 공개↗ (원문, 새 창)

카카오가 질문과 과거 정보 사이의 의미적 연관성을 찾아내는 한국어 특화 임베딩 모델 2종, '카나나-2-3B-임베딩'과 '카나나-2-1.3B-임베딩'을 오픈소스로 공개했다. 양방향 어텐션과 평균 풀링을 적용해 문장 의미를 벡터로 표현하며, 마트료시카 표현 학습을 통해 1024~128차원까지 벡터 크기를 조절해 검색 정확도와 처리 비용의 균형을 맞출 수 있다. 한국어 검색 평가(Ko-Retrieval)에서 30억 파라미터 모델은 0.8211점으로 큐원3 임베딩 4B(0.7837점)와 라마 네모트론(0.7985점)을 앞섰으며, 영어 평가에서는 과제에 따라 다소 엇갈린 결과를 보였다. 개인화 AI 에이전트가 과거 대화나 이용자 정보를 검색·활용하는 데 핵심 기반 기술로 활용될 전망이다.

• 카카오, 한국어 특화 임베딩 모델 2종(30억·13억 파라미터) 허깅페이스에 오픈소스 공개
• 한국어 검색 평가(Ko-Retrieval)서 30억 파라미터 모델 0.8211점으로 비교모델 앞서
• 마트료시카 표현학습으로 벡터 크기 1024~128차원 조절 가능, 비용·성능 균형
• RAG·문장 유사도 분석에도 활용 가능, 개인화 AI 에이전트의 과거 정보 검색에 기여
• 13억 파라미터 모델은 지식 증류 기법 적용, 상업적 이용 가능한 '카나나 오픈 라이선스' 적용