Ettin Reranker Family는 Johns Hopkins의 Ettin ModernBERT 인코더를 기반으로 구축된 6종의 새로운 CrossEncoder 리랭커 모델군입니다. 17M부터 1B까지 다양한 크기로 제공되며, mixedbread-ai/mxbai-rerank-large-v2 교사 모델로부터 pointwise MSE 증류 방식으로 훈련되었습니다. 각 크기에서 MTEB(eng, v2) 검색 벤치마크 최고 성능을 달성했으며, 1B 모델은 1.54B 교사 모델과 MTEB 점수 0.0001 차이로 동등한 성능을 보입니다. Flash Attention 2와 입력 언패딩 기술로 최대 8.26배의 처리량 향상을 제공하며, 모든 모델은 Apache 2.0 라이선스로 공개됩니다.
- •17M~1B 파라미터 6종 크기 변형 제공, MTEB(eng, v2) 검색 벤치마크에서 각 크기별 최고 성능 달성
- •1.54B 교사 모델 mxbai-rerank-large-v2로부터 pointwise MSE 증류 훈련, 1B 모델은 교사 모델과 MTEB 점수 차이 0.0001로 동등
- •Flash Attention 2 및 입력 언패딩(unpadding) 기술로 fp32+SDPA 대비 최대 8.26배 처리량 향상 달성
- •약 1.43억 (쿼리, 문서, 점수) 트리플 학습 데이터셋과 훈련 스크립트를 함께 Apache 2.0으로 공개
0단 자동
AI가 규칙대로 쓰고 그대로 게시했습니다. 사람이 따로 보지 않았습니다.
- 규칙 판
- 규칙 판 도입 이전 기사입니다.
- 남기는 것
- 규칙 판 · 모델 · 시각
- 판 기록
- 아직 없습니다.
Introducing the Ettin Reranker Family
- 1.Ettin ModernBERT 기반 크로스인코더 리랭커 6종(17M~1B) 공개, 각 크기별 SOTA 달성
- 2.1.54B 교사 모델 mxbai-rerank-large-v2의 MTEB 점수를 0.0001 차이로 추적하는 1B 학생 모델 포함
- 3.언패딩 FA2 활용으로 동일 크기 경쟁 모델 대비 최대 8.26배 추론 속도 우위 확보
- 4.143M (쿼리, 문서, 점수) 트리플로 MSE 증류 학습, Apache 2.0 라이선스로 전체 공개
왜 중요한가?
RAG 파이프라인의 retrieve-then-rerank 단계에서 핵심 역할을 하는 리랭커 모델이 크기별로 최고 성능을 달성하면서 동시에 속도까지 앞서는 것은 실서비스 적용 장벽을 크게 낮춘다. 특히 기존 MiniLM 계열 대비 정확도와 처리량 모두 개선되어, 현재 레거시 리랭커를 사용하는 개발자들의 즉각적인 대체 선택지가 된다.
전체 내용이 궁금하다면?
원문을 직접 읽어보세요
이 글이 만들어진 과정
- 23:34AI 초안

