아이티센그룹, 생성형 AI 통합 보안 솔루션 ‘에이전트고 가드’ 출시

아이티센그룹이 생성형 AI와 업무용 AI 에이전트의 입력·출력 과정에서 발생할 수 있는 공격과 정보 유출을 탐지·차단하는 통합 보안 플랫폼 ‘에이전트고 가드(AgentGo Guard)’를 출시했다고 1일 밝혔다. 프롬프트 인젝션과 탈옥, 민감정보 노출 등 AI 도입과 함께 등장한 새로운 보안 위협 대응에 초점을 맞췄다.

아이티센그룹은 지난 1월 계열사 아이티센클로잇을 통해 여러 AI 에이전트를 연결하고 통합 관리하는 ‘에이전트고 2026(AgentGo 2026)’을 선보였다. 이번에 내놓은 에이전트고 가드는 이 플랫폼과 별도로 도입할 수 있는 독립형 제품이다.

기업이 기존에 운영하는 AI 에이전트나 검색증강생성(RAG) 시스템에도 적용할 수 있다. 사내 애플리케이션과 RAG, 에이전트 업무 흐름에 API 방식으로 연결하기 때문에 기존 AI 인프라를 전면 개편하지 않고 별도의 보안 계층을 추가할 수 있다는 게 회사 측 설명이다. 자사뿐 아니라 다른 기업이 개발한 에이전트 플랫폼도 지원한다.

보안 위협은 여러 단계에 걸쳐 분석한다. 금지어와 정규식 기반의 기본 필터링에 자연어 문맥 분석과 대규모언어모델(LLM) 기반 가드레일을 결합해 악의적인 요청이나 정책 위반 가능성을 찾아낸다.

여러 차례 대화를 이어가며 AI의 방어체계를 조금씩 무력화하는 ‘에코 챔버(Echo Chamber)’ 공격도 세션 단위로 추적한다. 단일 질문만 검사하는 방식에서 벗어나 대화의 흐름을 분석함으로써 지능적인 우회 요청과 탈옥 시도를 실시간으로 식별하고 차단한다.

국내 환경과 국제 기준을 반영한 데이터유출방지(DLP) 기능도 갖췄다. 금융결제원의 17개 CMS 계좌번호 형식과 국토교통부 차량번호 규칙을 지원하며, 이름과 주소, 주민등록번호 등 개인정보를 탐지해 알아볼 수 없도록 가린다.

민감정보 분석에는 한국정보통신기술협회(TTA)의 15개 대분류와 미국 국립표준기술연구소(NIST), 유럽연합 일반개인정보보호법(GDPR) 기준을 반영한 자연어 처리 모델을 적용했다. 국내 개인정보 유형을 정밀하게 식별하는 동시에 글로벌 규제 대응도 지원한다.

실제 서비스에 보안정책을 적용하기 전에 성능을 점검하는 기능도 제공한다. 관리자는 가상 샌드박스에서 공격 상황을 재현하고 탐지·차단 결과를 확인할 수 있다. 정상 요청을 공격으로 잘못 판단하는 오탐과 실제 위협을 놓치는 미탐을 비교하면서 적용 기준과 탐지 임계치를 조정할 수 있다.

AI 사용 이력을 관리하기 위한 감사 기능도 포함됐다. 모든 호출 로그는 AES-256 암호화와 크로스사이트 스크립팅(XSS) 방지 처리를 거쳐 저장된다. 관리자가 로그를 열람할 때는 사유를 의무적으로 입력하게 해 접근 기록을 남긴다. 설정한 탐지 기준을 넘어서는 이상징후가 발생하면 보안 담당자에게 이메일로 즉시 알린다.

배포 환경은 퍼블릭 클라우드와 내부 폐쇄망을 모두 지원한다. 도커와 쿠버네티스 기반 환경에서도 구동할 수 있어 기관별 인프라와 보안정책에 맞춰 설치할 수 있다.

아이티센그룹은 에이전트고 가드를 내부 생성형 AI 서비스나 RAG 기반 업무 에이전트를 구축하는 기업·기관에 공급할 계획이다. 특히 개인정보 보호와 규제 준수가 중요한 금융·공공 분야를 중심으로 고객 환경에 맞춘 AI 보안체계를 제공한다는 방침이다.

강동식 기자 lavita@datanews.co.kr