파수, 기업용 sLLM '파수 ELLM' 공개…엔터프라이즈 AI 기업 도약

데이터 보안 기업 파수가 안전한 인공지능(AI) 활용을 돕는 경량형 대규모언어모델(sLLM)을 공개했다.

파수는 3일 서울 여의도 페이몬트 엠배서더 호텔에서 'FDI 2024'를 열고 엔터프라이즈용 sLLM '파수 엔터프라이즈 LLM(ELLM)'을 발표했다. 

파수 ELLM은 기존 LLM 모델 구축에 비해 적은 리소스와 비용으로 사내 AI 인프라 구축이 가능하도록 개발됐다. 또 기업 및 기관이 생성형 AI를 목적에 맞춰 효율적으로 구축할 수 있도록 지원한다.

 

조규곤 파수 대표는 “현재 공공과 금융분야에서 ELLM에 많은 관심을 보이고 있다. 복잡한 민원 업무나 상담, 조사 업무 등 신뢰할 수 있는 생성형 AI 시스템을 구축하고자 하는 수요가 있기 때문”이라고 말했다.

조 대표는 기조연설을 통해 “생성형 AI의 등장으로 데이터는 LLM으로, 사용자경험은 대화로 변화 됐다”며 “이에 맞춰 IT 시스템을 구축해야 한다”고 말했다.

그는 기업이 생성형 AI를 구축하기 위해 보유한 데이터의 특징, 데이터의 보안 문제, 운영 비용을 고려해야 한다고 설명했다. 

조 대표는 “기업은 퍼블릭 LLM은 적절한 통제를 하며 사용해야 하고, 프라이빗 LLM은 여러 목적에 맞게 사용해야 한다”며 “이와 함께 백터 데이터베이스(DB)도 구축해야 한다는 게 우리가 생각하는 LLM을 잘 사용하는 조건”이라고 말했다.

파수 ELLM은 ▲대화형 사용자 인터페이스 'ELLM CX' ▲한글 및 영어 기본 LLM 'ELLM 파운데이션' ▲지식정보연결(검색증강) '파수 RAG API' ▲도메인 데이터 사전 학습과 기업별 추가 학습을 지원하는 '파수 프리 트레이너'와 '인더스트리 커먼 데이터셋'으로 구성됐다.

윤경구 파수 본부장은 “ELLM 파운데이션 모델은 젬마(Gemma-7B) 기반 모델을 기반으로 한글 추가 트레이닝을 하고 지시 사항을 잘 따르도록 하는 추가적인 파인튜닝(fine tuning)을 하고, 사람 선호도 학습을 진행했다”며 “각 학습을 통해 높은 수준의 유창한 한글, 영어 대화 능력을 갖추고 있고, 대화 쌍방을 이해하는 멀티 턴 대화가 가능하다”고 설명했다.

파수 ELLM은 문서 기반을 사용하기 때문에 문서 요약 기능과 보고서 생성 서비스를 제공한다.

파수는 생성형 AI 도입을 고려하고 있지만, AI 학습에 필요한 내부 데이터 관리에 어려움을 느끼는 조직을 위한 문서관리 플랫폼 ‘랩소디’를 ELLM과 결합했다.

김용길 파수 본부장은 “비정형 데이터 관리에 최적화된 랩소디는 엔터프라이즈 LLM 구축을 위한 최적의 완성형 솔루션”이라고 말했다.

김민지 기자 honest@datanews.co.kr