LG유플러스, AI 모델 최적화 나선다...GPU·전력 효율 개선

LG유플러스, AI 모델 최적화 나선다...GPU·전력 효율 개선: 이동훈 기자 / 2026-10-02 09:00:26

[HBN뉴스 = 이동훈 기자] LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 함께 AI 서비스 운영 효율을 높이기 위한 ‘토큰 최적화’ 기술 확보에 나선다.

LG유플러스는 옵트에이아이와 AI 모델의 연산 과정을 효율화해 같은 자원으로 더 많은 요청을 처리할 수 있도록 하는 토큰 최적화 기술을 공동 연구한다고 2일 밝혔다.

LG유플러스가 옵트에이아이와 AI 서비스 운영 효율을 높이기 위한 토큰 최적화 기술 공동 연구에 나선다. 양사는 GPU 기반 연구에서 같은 GPU가 처리할 수 있는 토큰량을 기존 대비 최대 4배 높이는 초기 성과를 냈다. [사진=LG유플러스]

토큰은 AI가 이용자의 질문을 이해하고 답변을 생성할 때 처리하는 데이터의 기본 단위다. 토큰 최적화는 AI 모델을 경량화하거나 연산 구조를 개선해 GPU와 전력 사용량을 줄이면서 처리 효율을 높이는 기술이다.

LG유플러스는 실제 AI 서비스 운영 경험을 바탕으로 기술 검증과 적용을 맡고, 옵트에이아이는 AI 모델 경량화와 고속 구동 기술 연구를 담당한다.

양사는 기존 온디바이스 AI 분야에서도 협력해 왔다. LG유플러스는 ‘엑사원(EXAONE)’ 기반 소형언어모델(sLM)에 경량화 기술을 적용해 스마트폰 NPU에서 구동할 수 있도록 했다. 회사에 따르면 기존 CPU 방식과 같은 수준의 성능을 유지하면서 전력 소모는 78%, 모델 크기는 82% 줄였다.

공동 연구 범위는 서버 GPU 환경까지 확대된다. 대규모 AI 서비스를 운영할 때 같은 GPU 자원으로 더 많은 이용자 요청을 처리할 수 있도록 AI 모델의 연산 효율을 높이는 기술을 중점적으로 연구할 계획이다.

현재 진행 중인 GPU 기반 AI 모델 최적화 연구에서는 같은 GPU에서 처리할 수 있는 토큰량을 기존 대비 최대 4배 높이는 초기 성과를 냈다.

양사는 지난 1일 ‘Efficient AI 테크 세미나’를 공동 개최하고 AI 운영 효율화 기술의 최신 연구 동향과 산업 적용 사례를 공유했다. 행사에는 퓨리오사AI와 베슬에이아이, 한국전자기술연구원(KETI), 한양대학교 등 산·학·연 관계자들이 참여했다.