“생성형 AI 활용 중인 기업, ROI 불확실성 우려 낮아”

생성형 AI를 전사적으로 도입해 활용 중인 기업에서는 투자수익률(ROI) 불확실성에 대한 우려가 상대적으로 낮은 것으로 나타났다. 이는 다양한 업무 분야에 생성형 AI를 적용하고 있는 기업들의 경우 이미 일정 수준의 ROI를 구현하고 있음을 의미하는 것으로 해석된다.

AI·클라우드 선도기업 메가존클라우드(대표 염동훈)는 파운드리(구 IDG)와 공동으로 국내 기업 AI·IT 담당자 749명을 대상으로 AI 이용 현황을 조사한 결과, AI를 이미 전사적으로 활용하고 있는 경우 AI 도입에 따르는 ROI 불확실성에 대한 우려가 13.1%로 나타났다고 26일 밝혔다. 

이는 1~2년 이내 구현 계획을 갖고 있는 기업들이 ROI 불확실성에 대해 우려를 표한 경우가 34.9%에 이르는 것에 비해 3분의 1 수준에 불과해 주목된다.

이번 조사에서는 또 국내 기업의 55.7%가 이미 생성형 AI를 전사(22.4%) 또는 일부 부서(33.2%)에서 활용 중인 것으로 나타났다. 현재 구현 중이거나 1~2년 내 도입을 계획하고 있는 기업까지 포함하면, 2026년에는 생성형 AI를 업무에 활용하는 기업이 85%를 넘어설 전망이다.

기업 규모별로는 대기업의 전사적 활용률은 35.1%로 중소·중견기업보다 두 배 이상 높았으며, 산업군 중에서는 IT·통신/방송 분야가 37.5%로 가장 높은 도입률을 보였다.

응답자의 60.3%는 생성형 AI가 자사 IT 전략에서 ‘우선순위가 높다’고 평가했으며, 74.0%는 전년 대비 관련 투자가 증가했다고 응답했다. 우선순위와 관련 투자는 정비례하는 것으로 나타났다. 우선순위가 매우 높은 기업 중 48.1%가 관련 투자가 상당히 증가했다고 답했으며, 보통이라고 응답한 기업 중 37.6%는 관련 투자가 소폭 증가했다고 답했다.

다만, 많은 기업이 생성형 AI를 도입하고 있음에도 불구하고 신뢰도와 보안에 대한 우려는 여전히 높은 것으로 조사됐다. 생성형 AI 활용과 관련해 가장 큰 우려 사항으로는 ‘잘못된 정보 생성 및 결과 신뢰도 부족’(61.3%)이 1위를 차지했으며, 이어 ‘보안 및 개인정보 유출 위험’(53.3%)이 절반을 넘는 응답률을 기록했다. 이밖에도 ‘저작권 및 법적 책임 문제(21.0%)’, ‘ROI 불확실성(19.8%)’ 등이 주요 우려 요인으로 꼽혔다.

생성형 AI 도입이 빠르게 확산되고 있는 가운데, 많은 기업이 인력과 기술 확보 등 실행 역량 측면에서는 여전히 어려움을 겪고 있는 것으로 조사됐다. 조사에 참여한 기업의 절반 가까이(49.8%)는 생성형 AI 도입의 가장 큰 장애 요소로 ‘기술 인력 및 기술력 부족’을 지목했으며, 이어 ‘적절한 인프라 및 데이터 확보의 어려움’(32.0%)과 ‘경영진의 지원 및 투자 부족’(21.0%)이 뒤를 이었다.

기업들이 생성형 AI를 성공적으로 확산시키기 위해 가장 필요한 요소로는 ‘경영진의 전략적 의지와 리더십’(41.1%)이 가장 높은 응답률을 기록했다.

도입 방식과 관련해서는 챗GPT, 마이크로소프트 코파일럿 등 상용 SaaS형 생성형 AI 서비스가 35.5%로 가장 높은 비중을 차지했으며, 빠른 도입과 비용 효율성을 가장 큰 장점으로 꼽았다. 

반면, 현재 생성형 AI를 구현 중이거나 1~2년 내에 구현할 계획인 기업에서는 상용 SaaS형 생성형 AI 서비스의 비중이 낮았다. 자체적으로 생성형 AI 모델 개발 및 운영 방식을 선택한 기업은 보안 및 데이터 통제 측면 고려(45.9%)와 맞춤형 기능 구현 가능성(36.1%)을 더 중요하게 생각하는 것으로 나타났다.

2026년 생성형 AI 관련 예산은 기업의 79.3%가 증가할 것으로 예상했으며, 이 중 20~49% 증가가 26.8%, 20% 미만의 소폭 증가는 38.7%를 차지했다. 2025년에 투자가 크게 늘었던 기업은 2026년에도 50% 이상 증액할 것이라는 응답이 37.2%에 달해, 생성형 AI 활용이 본격화된 기업일수록 투자 확대 의지가 뚜렷한 것으로 나타났다.

생성형 AI의 활용 목적으로는 ‘업무 효율성 및 생산성 향상’이 가장 많이 꼽혔다(70.5%). 주요 활용 부서는 소프트웨어 개발(44.1%), IT 운영(40.3%), 마케팅·고객 서비스·연구개발 등이었으며, 대표적인 업무 유형으로는 문서 요약 및 보고서 작성(43.1%), 데이터 분석 및 인사이트 도출(40.3%), 프로그래밍 보조(37.0%)가 포함됐다.

공성배 메가존클라우드 최고AI책임자(CAIO)는 “이번 조사 결과 전문 인력과 인프라의 한계, 보안과 개인정보 보호 문제 등이 AI의 실질적인 확산에 가장 큰 난관으로 나타났다”며 “이러한 과제를 효과적으로 극복하기 위해서는 축적된 경험과 기술을 갖춘 외부 파트너와의 협력이 중요하다”고 말했다.

공성배 CAIO는 또 “메가존클라우드는 다양한 고객사와의 협업을 통해 축적한 생성형 AI 도입 및 운영 경험을 바탕으로, 명확한 비즈니스 목표 설정부터 ROI 달성까지 이어지는 전략을 제공하고 있다”며 “기업의 규모, 산업, 기술 수준에 따라 가장 적합한 도입 방식을 진단하고, 필요한 기술과 인프라뿐 아니라 데이터 보안과 개인정보 보호까지 통합적으로 지원함으로써, 맞춤형 파트너로서의 역할을 더욱 강화할 것”이라고 말했다.

강동식 기자 lavita@datanews.co.kr