
▲이상엽 LG유플러스 CTO가 지난 12일 열린 기자 대상 AI 토큰 최적화 스터디에서 발표하고 있다. / 사진=LG유플러스
LG유플러스가 ‘AI 토큰 최적화 레시피’를 무기로 내년 B2B AI 시장 공략을 본격화한다. AI 에이전트의 성능을 고도화하면서도 토큰 사용 비용을 90% 이상 낮추는 기술을 앞세워 B2B 시장을 선점한다는 전략이다.
LG유플러스는 내년부터 기업 고객의 AI 운영 비용을 낮추는 토큰 사업을 추진한다고 15일 밝혔다.
회사 측은 대규모 트래픽을 운영하며 고객의 이용 패턴과 업무 특성에 맞춰 체득한 ‘AI 모델 운영 레시피’를 자사 토큰 사업의 강점으로 내세웠다.
익시오 출시 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 병행 활용했으나 지속적인 실전 튜닝을 거쳐 자체 AI 모델과 엑사원 등의 비중을 정교하게 조합해 서비스 품질과 비용 효율을 동시에 끌어올린 것이 대표적인 사례다. 고성능 AI가 필요한 작업과 상대적으로 가벼운 작업을 구분해 처리함으로써 불필요한 비용을 줄였다는 것이다.
LG유플러스는 단순한 토큰당 단가 인하 경쟁을 넘어 고객이 AI로 하나의 업무를 완결하는 데 드는 총비용(Task Cost)을 낮추는 데 초점을 맞췄다고 설명했다.
이상엽 LG유플러스 CTO는 “AI 시장의 패권은 더 큰 모델을 만드는 것에서 고객이 원하는 비즈니스 결과를 정교하고 경제적으로 완수하는 것으로 이동했다”며 “AI 에이전트가 확산될 수록 모델 단가가 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어나기 때문”이라고 설명했다.
이 CTO는 이어 “전화 AI와 사내 AX 등 실제 현장에서 완성한 최적화 기술력이 LG유플러스 AI 사업의 핵심 해자”라고 덧붙였다.
회사 측은 코딩 영역에서 통상적으로 쓰는 모델 대비 자체 AI 모델의 운영 비용을 약 90% 절감한 사례를 확인했으며, AI 모델의 연산 처리 방식을 혁신해 동일 인프라 대비 처리 효율을 약 4배까지 끌어올렸다고 설명했다. 또 내부 테스트에서 모델 라우팅을 통해 일반적인 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감하는 효과를 확인했다고 덧붙였다.
LG유플러스는 AI 에이전트가 업무 수행 과정에서 불필요한 검색·검증을 반복하지 않도록 해 토큰 사용량을 줄이는 기술도 개발하고 있다. 이 같은 기술을 결합해 AI의 답변 품질을 유지하면서도 고객이 실제 업무를 완료하는 데 필요한 전체 비용을 낮출 계획이다.
LG유플러스는 내부 실전 검증과 글로벌 학계 검증을 기반으로 협력사와의 제휴형 모델 및 자체 인프라 구축 방식을 통해 내년부터 B2B 기업 고객들의 AI 비용 고민을 해결하는 토큰 사업을 전개할 방침이다.
이상엽 CTO는 “글로벌 수준의 모델 경량화·추론 기술과 AI 업무 수행 궤적을 반영한 운영 레시피를 결합해 내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다”고 말했다.
강동식 기자 lavita@datanews.co.kr
[ⓒ데이터저널리즘의 중심 데이터뉴스 - 무단전재 & 재배포 금지]