"분명 사장님 목소리였는데"…AI에 속아 1,700억 날렸다

인공지능(AI)으로 기업 최고경영자(CEO)와 변호사의 목소리를 복제해 1,700억 원이 넘는 돈을 가로챈 일당이 미국에서 기소됐습니다.

8일(현지시간) 연합뉴스와 뉴욕타임스(NYT)에 따르면 미국 뉴욕 남부연방검찰청은 AI 음성 복제 기술을 이용해 기업들로부터 1억 2,900만 달러, 우리 돈 약 1,759억 원을 편취한 혐의로 3명을 기소했습니다.

이들은 지난 2024년 7월부터 약 18개월 동안 미국과 유럽 기업의 회계·재무 담당 직원을 상대로 사기 행각을 벌인 혐의를 받고 있습니다.

범행은 이메일로 접근한 뒤 AI로 복제한 CEO의 목소리로 전화를 걸어 비밀 거래를 위한 긴급 송금을 요구하는 방식으로 이뤄졌습니다.

이후 대형 법률회사 소속 변호사를 사칭한 공범이 추가로 연락해 송금을 유도했으며, CEO의 얼굴을 합성한 딥페이크 화상통화까지 시도한 것으로 조사됐습니다.

실제 미국 미주리주의 한 병원 체인 회계 담당자는 CEO의 목소리로 걸려 온 전화를 받고 돈을 송금했다가 480만 달러, 약 65억 원을 잃었습니다.

영국의 한 핀테크 기업도 1,160만 달러를 빼앗겼으며, 미국 플로리다주의 반려동물 사료업체와 매사추세츠주의 자산운용사도 각각 520만 달러와 460만 달러의 피해를 입었습니다.

일당은 '변호사 통화'라는 제목의 대본까지 만들어 범행에 활용했습니다.

특히 규제 관련 용어와 내부자거래 위험 등을 언급하며 피해 직원들이 동료에게 통화 내용을 알리지 못하도록 한 것으로 드러났습니다.

기소된 피의자는 이스라엘 국적의 샤론 하잔(54)과 가이 시트리트(42), 영국 거주자인 제이컵 솔(41) 등 3명입니다.

이들은 지난 6월부터 9월 사이 스페인과 영국에서 차례로 체포됐으며, 현재 미국 송환을 기다리고 있습니다.

검찰은 이들에게 전신사기와 가중 신원도용, 자금세탁 등의 혐의를 적용했습니다.

일당은 범죄 수익을 가상화폐로 바꿔 나눠 가졌으며, 하잔은 최근 3년간 4억 달러, 약 5,455억 원을 세탁했다고 자랑하기도 한 것으로 전해졌습니다.

한편, 지난해 미국 연방수사국(FBI)에 접수된 AI 관련 사기 신고는 2만 2천 건을 넘었으며, 피해액은 8억 9천만 달러, 약 1조 2천억 원에 달했습니다.

딥페이크 전문가인 해니 퍼리드 미국 다트머스대 교수는 최신 노트북 한 대만 있으면 1분 미만의 음성으로 타인의 목소리를 복제하고, 사진 한 장으로도 가짜 얼굴 영상을 만들 수 있다고 경고했습니다.

또 일반인의 딥페이크 판별 능력은 무작위로 정답을 고르는 수준보다 조금 나은 정도에 불과하다고 지적했습니다.