[들어보니] 해킹보다 무섭다…AI 허위정보 시대 경고

허위·조작정보, 기후위기 제친 글로벌 리스크 1위

가트너 수석 "딥페이크 자동 유포…인간 대응 한계"

데이브 애런 가트너 수석 애널리스트 [가트너 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 권하영 기자 = 지난해 영국 엔지니어링 기업 에이럽(Arup) 홍콩 지사에서 딥페이크 기술을 악용한 초대형 금융사기 사건이 발생했다.

한 직원이 최고재무책임자(CFO)와 고위 임원들이 참석한 것처럼 조작된 화상회의 영상에 속아 약 2천500만달러를 사기범 계좌로 송금한 것이다.

이처럼 생성형 인공지능(AI)의 발전으로 인해 허위정보 위협은 이제 단순한 가짜뉴스 차원을 넘어섰다는 평가가 나온다. 기업의 의사결정과 평판은 물론 사회 전반의 신뢰 체계까지 흔드는 구조적 위험으로 확산하고 있다는 분석이다.

글로벌 시장조사기관 가트너의 최신 보고서 '진실 없는 세계'를 공동 집필한 데이브 애런 가트너 수석 애널리스트는 최근 연합뉴스와의 서면 인터뷰에서 "생성형 AI의 발전으로 누구나 매우 정교한 딥페이크를 손쉽게 만들 수 있게 됐다"며 "그에 따른 피해 규모도 기하급수적으로 커지고 있다"고 진단했다.

◇ WEF 글로벌 리스크 1위 오른 허위정보…경제손실도 급증

세계경제포럼(WEF)의 '2025 글로벌 리스크 보고서'에 따르면 전 세계 기업·정부·학계 전문가 약 1천500명은 향후 2년 내 가장 심각한 위협으로 '허위·조작정보'를 지목했다. 이는 극단적 기상 이변, 사회 양극화, 사이버 불안, 국가 간 무력 충돌보다도 높은 순위다.

애런 수석 애널리스트는 그 이유에 대해 "허위정보가 일종의 '메타 이슈(meta issue)'이기 때문"이라고 설명했다. 허위정보가 다른 모든 문제를 해결하는 능력 자체를 떨어뜨린다는 의미다.

그는 "예를 들어 기후변화와 관련한 사실 자체를 신뢰하지 못한다면 해결 방향에 대한 사회적 합의조차 어려워지는 것처럼, 전 세계 여러 분쟁 상황에서 허위정보는 증거와 책임 소재를 왜곡시킬 수 있다"고 부연했다.

허위정보가 경제에 미치는 피해 규모도 갈수록 커지고 있다.

보고서에 따르면 디지털 허위정보로 인한 경제적 손실은 2019년 기준 주가 하락, 평판 훼손, 건강 관련 허위정보 등을 합산해 780억달러에 달한 것으로 추산됐다.

이에 따라 오는 2028년까지 기업들의 허위정보 대응 비용은 300억달러를 넘어설 것으로 전망되고 있다. 이는 전체 마케팅·사이버보안 예산의 약 10%를 차지하는 수준이다.

딥페이크 (PG) [강민지 제작] 일러스트

◇ 에이전틱 AI 결합 땐 더 위험…"100만명 자동 조작 가능"

특히 AI 기반 허위정보는 과거의 단순 가짜뉴스 유포와는 비교하기 어려운 수준의 파급력을 갖출 것으로 우려된다.

가트너에 따르면 딥페이크 AI 시장은 2024년 5억6천400만달러에서 2030년 51억달러 규모로 성장하며 연평균 40% 이상의 성장률을 기록할 것으로 예상된다.

애런 수석 애널리스트는 생성형 AI 기반 딥페이크 기술의 고도화, 사회관계망서비스(SNS)를 통한 초고속 확산, 데이터 기반 개인 맞춤형 공격, 행동과학 발전 등을 핵심 변화 요인으로 꼽았다.

특히 최근 주목받는 '에이전틱 AI'는 허위정보 위협을 한층 증폭시키는 요소로 지목된다. 사용자의 목표를 스스로 수행하는 AI 에이전트가 허위정보 생산과 유포를 자동화할 수 있다는 것이다.

그는 "예를 들어 특정 은행이 마약 자금 세탁에 연루됐다는 의혹을 퍼뜨리는 6개월짜리 캠페인을 의뢰받으면, 에이전틱 AI가 가짜 영상과 음성 증거를 제작해 100만명에게 자동 유포하는 것도 가능하다"며 "AI 기반 조작 캠페인은 인간보다 훨씬 빠른 속도로 확산되기 때문에 대응 역시 더욱 어려워진다"고 말했다.

AI 모델 자체를 오염시키는 '모델 포이즈닝' 공격도 새로운 위협으로 떠오르고 있다. AI 학습 데이터에 허위·편향 정보를 주입해 모델 자체를 왜곡시키는 방식이다.

이는 최근 앤트로픽의 고성능 AI 모델 '미토스'가 수천 건의 보안 취약점을 자동 탐지하면서 AI 사이버 위협에 대한 경각심이 커진 상황과도 맞닿아 있다.

애런 수석 애널리스트는 "AI 학습에 쓰이는 데이터의 출처와 진위성을 보장하는 것이 더욱 중요해졌다"며 "허위정보 공격과 사이버 공격 사이에도 충분한 연관성이 있으며, 이는 물리적 공격으로 이어질 수도 있다"고 경고했다.

◇ "가장 강력한 대응은 사전 교육"…선거철 경계심 높여

문제는 많은 기업이 아직 허위정보 대응 체계를 제대로 갖추지 못했다는 점이다.

실제 최근 3년간 허위정보 관련 이슈를 경험한 기업은 전체의 79%에 달했지만, 명확한 대응 체계를 구축했다고 답한 기업은 38%에 그쳤다.

가트너는 대응 전략으로 '트러스트옵스(TrustOps)' 체계를 제시한다.

허위정보를 지속적으로 추적·반박하는 '디벙킹(debunking)', 임직원과 이해관계자에게 공격 유형을 사전 교육하는 '프리벙킹(prebunking)', 의사결정에 활용되는 데이터의 출처와 신뢰성을 검증하는 '그라운딩(grounding)'이 핵심 축이다.

애런 수석 애널리스트는 이 가운데 가장 효과적인 대응 방식으로 프리벙킹을 꼽았다. 허위정보에 노출되기 전에 조작 방식과 실제 사례를 충분히 교육해 면역력을 높여야 한다는 설명이다.

국내에서도 오는 6·3 지방선거를 앞두고 딥페이크를 활용한 선거 범죄 우려가 커지는 가운데, 정부는 범정부 허위정보 대응 협의체를 구성하고 최초 제작·유포자 추적 등 강경 대응 방침을 밝힌 상태다.

애런 수석 애널리스트는 "선거처럼 사회적으로 중요한 의사결정이 이뤄지는 시기일수록 허위정보에 대한 경계심을 더욱 높여야 한다"고 강조했다.

kwonhy@yna.co.kr

(끝)

<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>