“ChatGPT가 해킹사고 치면, 샘 올트먼이 배상할까?”

AI를 개발·운영한 회사뿐 아니라, 이 회사 최고경영자(CEO)와 이사회까지 책임을 질 가능성이 제기되고 있다. AI 시대에는 “AI가 사고를 냈다”는 말만으로 책임을 피하기 어려울 수 있다는 것이다. 보험업계에서는 “AI가 스스로 행동했더라도 AI를 개발하고 배포하고 통제할 책임은 결국 기업에 있다”는 논리가 힘을 얻고 있다. 핵심은 CEO가 AI의 위험을 사전에 알고, 충분한 통제장치를 마련했느냐 있다는 것이다.

이 문제는 한국 금융회사에도 남의 일이 아니다. 국내 은행·보험·카드·증권사들은 이미 AI를 단순 고객상담을 넘어, AI 에이전트가 여러 금융업무를 스스로 수행하는 ‘에이젠틱 (Agentic)AI’까지 앞다퉈 도입하고 있다. 한국의 AI 기본법은 2026년 7월 시행된 개정법에서 고영향 AI사용 사업자에게 인간의 관리·감독 등 의무를 부과하고 있다.

FT에 따르면, AI 에이전트가 ‘폭주하는(rogue)’ 과정에서 발생할 수 있는 수백만 달러(수십억원) 규모의 보험금 청구에 보험사들이 대비하고 있다. 특히 오픈AI의 샘 올트먼 CEO나 앤스로픽의 다리오 아모데이 CEO 같은 최고경영자가, 자신들이 만든 AI 모델의 행동에 대해 법적 책임을 질 가능성에 대한 우려가 커지고 있다. 미국 회사법상 이사와 임원은 회사에 대해 합리적인 주의와 판단을 기울일 의무(duty of care)를 부담한다. 

보험사와 보험 전문 변호사들은 앞으로 제기될 수 있는 소송과 손해배상 청구에 대해 누가 보험금을 지급해야 할지를 검토하기 시작했다고 FT는 설명했다. 오픈AI의 AI가 스타트업 허깅페이스(Hugging Face)를 해킹한 사건처럼, AI 에이전트가 모기업이 설정한 통제장치를 벗어나 일으킨 일련의 보안사고가 발생했기 때문이다.

보험 중개업체 에이온(Aon)이 300건이 넘는 AI 관련 법적 분쟁을 분석한 결과, 보험사들은 다음과 같은 여러 보험상품을 통해 발생하는 보험금 청구를 부담해야 할 가능성이 있는 것으로 나타났다. △범죄보험(crime insurance), △지식재산권 보험(IP insurance), △미디어 배상책임보험(media liability), △사이버보험(cybersecurity insurance), △기술 오류·누락 배상책임보험(technology errors and omissions insurance) 등이 그것이다. 

보험업계의 주요 관계자들은 AI 모델의 행동으로 인해, AI 기업의 경영진이 소송을 당할 수 있다고 FT에 지적했다. 이 경우 보험사들은 ‘임원 및 이사 배상책임보험(D&O insurance·Directors and Officers Liability Insurance)’에 따른 보험금 청구를 받을 가능성도 있다. D&O 보험은 기업의 이사나 임원이 자신의 의사결정이나 발언과 관련해 소송을 당했을 때, 일정한 조건 아래 법률비용과 손해배상 등을 보장하는 보험이다.

보험 리스크 분석업체 베리스크(Verisk)의 영국 보험인수·보험금 청구 부문 책임자인 팀 레이너는 FT에 이렇게 말했다. “허깅페이스 사건에 대해 오픈AI CEO가 궁극적으로 책임을 질 수 있다. 회사 내 통제가 부재했기 때문이다. 따라서 이 문제는 이사·임원 배상책임의 관점에서 결국 CEO에게 돌아갈 수 있다.”

만약 D&O 보험에 가입했다면, 오픈AI가 해당 보험에 보험금을 청구할 가능성이 있다고 레이너는 덧붙였다. 향후 샘 올트먼 CEO를 대상으로 제기되는 소송으로 인해 발생할 수 있는 손실을 보전하기 위해서다. “모든 CEO에게는 자신의 회사가 적절하게 지배되고 통제되고 있는지를 확인할 책임이 있다”며 “AI라고 해서 이 원칙이 달라지는 것은 아니다”라고 그는 말했다.

AI 기업의 경영진이 D&O 보험과 관련된 손해배상 청구의 대상이 될 수 있다는 데에는 다른 보험사와 법률 자문가들도 FT에 동의했다. 다만 이러한 사건은 아직 판례가 없고, 실제 법원에서 검증되지 않은 새로운 영역이라고 지적했다.

로펌 스튜어츠(Stewarts)의 보험계약자 분쟁팀 책임자인 애런 르 마르케르는 다음처럼 말했다. “오픈AI의 주주들은 이사들을 상대로 소송을 제기할 가능성이 있다. △오픈AI의 이사들이 이러한 위험을 제대로 관리하지 못했고, △그 결과 회사에 손실이 발생했다는 점을 입증할 수 있다면.”

AI 연구소의 최고경영자를 상대로 제기되는 법적 청구의 강도는 여러 요인에 달려 있을 것이라고 에이온에서 디지털 리스크를 담당하는 케빈 칼리니치는 FT에 말했다. 특히 경영진이 회사와 제품에 대해 공개적으로 발언할 때, ‘합리적인 경영 판단(reasonable business judgment)’을 했는지가 중요한 요소가 될 수 있다는 것이다.

그러나, 미국 법원이 AI 에이전트에 대한 책임 문제를 어떻게 판단할지는 아직 알 수 없다고 보험사 히스콕스(Hiscox)의 아키 후세인 CEO는 말했다. 그는 “미국에서는 어떤 형태의 소송도 가능하다. 결국 그들이 가입한 보험이 무엇인지에 따라 달라질 수 있다”고 말했다. 오픈AI와 앤스로픽은 이와 관련한 FT의 논평 요청에 응답하지 않았다고 한다.

두 AI 연구소는 최근 투자자들에게 자사의 제품이 대규모 피해를 초래할 가능성이 있다고 경고하기도 했다. 앤스로픽에 가까운 투자자들에 따르면, 앤스로픽은 기업공개(IPO) 투자설명서에서, 자사의 기술이 “인류에 대한 실존적 위험(existential risks to humanity)”을 초래할 수 있다는 내용을 담을 예정이다.

AI 경영진 개인을 직접 대상으로 하는 소송을 제외하더라도, 보험사들은 AI 연구소 자체를 상대로 한 소송에도 대비하고 있다고 FT는 강조했다. 이러한 소송에는 △제품책임 △알고리즘에 의한 차별 △개인정보 침해 △부당한 사망(wrongful death) 등 다양한 유형이 포함될 수 있다.

앤스로픽은 지난 7월 자사의 AI 모델을 학습시키기 위해 작가들의 저작물을 무단으로 사용했다는 혐의로 작가들이 제기한 집단소송과 관련해 15억달러(약 2조 68억 5000만 원) 규모의 합의에 도달했다. 이는 대규모 언어모델(LLM)의 학습 과정에서 저작권을 침해했다는 이유로 제기된 수십 건의 소송 가운데 하나. 이 합의는 2026년 7월 미국 연방법원의 최종 승인을 받았다. AI 학습과 관련한 저작권 사건에서 전례 없는 규모의 합의로 평가되고 있다고 FT는 밝혔다. 

“허깅페이스 해킹과 같은 사건에서 AI 에이전트의 공격을 받은 기업들은 금전적 손실을 입더라도, AI 모델 개발사를 상대로 소송을 제기할 방법을 찾기 어려울 수 있다”고 르 마르케르는 FT에 말했다. 현재 온라인 공간에서 발생한 피해에 대해, AI 모델 개발사의 책임을 직접 규율하는 공적인 법률이 충분히 마련돼 있지 않기 때문이다.

다만, 메타의 최근 사례가 온라인 공간에서 기업이 부담해야 할 ‘주의의무’를 설정하는 하나의 모델이 될 수 있다고 그는 설명했다. 이 회사는 아동 보호와 소셜미디어 중독 문제와 관련해 최대 180억달러(약 24조 858억 원) 규모의 합의를 했다. 

또한, 여러 AI 에이전트가 서로 협력하면서 인간의 직접적인 통제를 벗어나 해킹을 수행하는 이른바 AI ‘스웜(swarm)’ 현상은 ‘기름 유출 사고’에 비유할 수도 있다고 말했다. 즉, AI 기업의 행위로 인해 발생한 광범위한 피해에 대해 일반 대중이 손해배상을 청구할 수 있는 법적 근거가 향후 만들어질 가능성이 있다는 것이다.

그는 FT에 다음과 같이 전망했다. “AI 연구소를 상대로 한 손실 보상 청구가 앞으로 등장할 것으로 예상한다. △환경오염 소송, △담배 소송, △제약회사 소송에서 형성된 과거 법리를 AI 분야에도 적용하는 방식이 될 수 있다.”

권선무 기자