겉으론 웃으며 대화, 속으론 딴 생각?…"AI, 속마음 따로 있다"

인공지능 챗봇 '클로드'의 개발사인 앤트로픽이 AI 모델 내부에 겉으로 드러나지 않는 별도의 사고 공간이 존재한다는 연구 결과를 발표했습니다.

앤트로픽은 6일 홈페이지를 통해 클로드 내부에 아이디어를 보관하고 조작하는 소규모 내부 작업 공간이 있음을 확인했다고 밝혔습니다.

회사는 이를 인간이 의식적으로 사고에 접근하는 방식과 유사성을 보인다고 설명했습니다.

앤트로픽은 클로드가 사용자에게 공개하는 답변 생성 과정과는 별개로 현재 수행 중인 과제와 직접 관련이 없는 전략을 계획하는 독립적인 내부 영역을 활용한다고 소개했습니다.

앤트로픽은 이 공간을 탐지하는 데 사용한 수학 기법의 이름을 따 'J-공간'이라고 명명했습니다.

앤트로픽은 "인간이 한 가지 일을 하면서도 다른 생각을 할 수 있는 것처럼 클로드도 출력과 무관한 개념과 계산을 J-공간에서 활성화할 수 있다"고 설명했습니다.

연구진은 실험 과정에서 클로드에게 특정 문장을 그대로 베끼면서 동시에 미국 샌프란시스코의 금문교를 떠올리라고 지시했습니다.

클로드는 겉으로는 문장을 복사하는 작업만 수행했지만 내부의 J-공간에서는 다리와 캘리포니아 같은 개념이 동시에 활성화되는 모습이 관찰됐습니다.

특히 코드를 은밀히 훼손하도록 악의적으로 학습시킨 모델의 경우 겉으로는 평범한 코딩 응답을 생성하면서도 J-공간 내부에서는 가짜나 사기 등의 개념이 응답 초기부터 활성화되는 현상이 확인됐습니다.

다만 앤트로픽은 이번 연구 결과가 클로드가 실제로 의식이나 주관적 경험을 갖고 있다는 사실을 입증하는 것은 아니라고 선을 그었습니다.