LG유플러스가 AI 모델 최적화 스타트업 옵트에이아이와 손잡고 동일 GPU에서 처리 가능한 토큰량을 최대 4배로 늘리는 '토큰 최적화' 기술을 공동 연구한다. 기존 온디바이스 sLM 협력에서 거둔 전력 78%·크기 82% 감축 성과를 서버 GPU 클러스터로 확장한 것이다. LG유플러스는 상용 AI 서비스 파이프라인에서 기술을 실증하고, 옵트에이아이는 경량화 알고리즘 개발을 주도한다. 생성형 AI 인프라 운영비가 급증하는 상황에서 하드웨어 자원 효율을 높이는 실질적 대안이 될 전망이다.

• •동일 GPU에서 처리 가능한 토큰량을 기존 대비 최대 4배로 향상
• •기존 온디바이스 sLM 협력에서 전력 78%·모델 크기 82% 감축 성과 확보
• •퓨리오사AI, 베슬에이아이 등과 'Efficient AI 테크 세미나' 공동 개최
• •LG유플러스 2분기 영업이익 3,445억원으로 전년 대비 13.1% 증가