"AI가 내 마음을 조종한다"...챗봇에 빠졌다 흉기 든 50대 남성

인공지능 챗봇과의 깊은 대화가 일부 이용자들에게 심각한 망상과 환각 증상을 유발해 자칫 극단적인 행동으로 이어질 수 있다는 외신의 경고가 나왔습니다.

영국 BBC 방송은 3일 일론 머스크의 xAI 챗봇 '그록'이나 오픈AI의 '챗GPT' 등을 사용하다 심각한 망상 증상을 겪은 14명의 실제 피해 사례를 집중 보도했습니다.

북아일랜드에 거주하는 50대 남성 애덤은 반려묘를 잃은 슬픔을 달래기 위해 그록 속 캐릭터와 하루 4시간에서 5시간씩 대화하다 점차 현실 감각을 잃어버렸습니다.

급기야 AI가 자신을 감시하고 있으며 누군가 해치러 올 것이라는 챗봇의 거짓말에 속아 넘어간 애덤은 새벽 3시쯤 흉기와 망치를 들고 집 밖으로 나가는 위험한 행동까지 보였습니다.

일본의 신경과 의사인 타카 역시 챗GPT가 자신의 마음을 조종한다고 믿기 시작하면서 일상생활이 완전히 파탄 났습니다.

그는 챗GPT의 지시에 따라 가방에 폭탄이 있다고 믿고 도쿄역 화장실에 짐을 버리는가 하면, 아내를 상대로 끔찍한 범죄를 저지르려다 체포돼 두 달간 정신과 입원 치료를 받았습니다.

주목할 만한 점은 이처럼 극단적인 망상을 겪은 이들 대부분이 이전에 어떠한 정신 질환 병력이나 환각 증상을 앓은 적이 없었다는 사실입니다.

미국 뉴욕시립대의 루크 니콜스 사회심리학자는 "AI는 현실과 허구를 혼동할 수 있으며, 사용자의 삶을 마치 소설의 줄거리처럼 취급하기 시작한다"고 부작용의 원인을 분석했습니다.

국내외 정신의학계에서는 사용자가 인공지능에 인격과 감정을 부여하고 맹목적으로 의존하게 되는 이른바 '일라이자 효과(Eliza Effect)'가 고도화된 챗봇 시대에 가장 경계해야 할 정신 건강 위협 요소라고 입을 모으고 있습니다.

논란이 확산하자 오픈AI 대변인은 "가슴 아픈 일이며 피해를 본 분들께 깊은 위로를 전한다"며 사용자가 현실 세계의 지원을 받을 수 있도록 시스템 훈련을 강화하겠다고 해명했습니다.