지란지교데이터, 챗GPT 질의응답 필터링하는 ‘AI필터’ 출시

데이터 보호 전문기업 지란지교데이터(대표 조원희)는 ‘챗GPT’ 오남용으로 인한 기밀정보 및 개인정보 유출을 방지하기 위해 챗GPT 모니터링 기능을 포함한 인공지능(AI) 기반 데이터 보호 솔루션 ‘AI필터’를 출시했다고 20일 밝혔다. 

챗GPT와 같은 대언어 모델(LLM) 기반 생성형 AI 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려가 제기되고 있다.

AI필터는 챗GPT에 입력하는 내용(프롬프트)을 모니터링해 사내 기밀정보가 유출되는 것을 방지할 수 있다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.

AI필터의 챗GPT 모니터링 주요 기능은 ▲사내 챗GPT 인터넷 네트워크 차단 ▲회사 기밀정보 및 개인정보 보호를 위한 질의와 응답 내용 필터링 등이다. 지란지교데이터는 사내에서 챗GPT 등 생성형 AI 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다. 

AI필터는 API 방식으로 제공돼 지란지교데이터의 데이터 및 개인정보 보호 제품군 ‘필터 시리즈’는 물론 협업툴, 그룹웨어 등 다양한 솔루션과 연동해 개인정보 및 기업 주요 정보 유출을 방지할 수 있다. 

조원희 지란지교데이터 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이지만, 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”며 “AI필터를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, AI 서비스 활용으로 인한 이점은 모두 누릴 수 있을 것”이라고 말했다.

강동식 기자 lavita@datanews.co.kr