AI가 쓴 정보보고서 하나로 미군이 중국 선박을 나포할 뻔했다 — 내용은 통째로 환각이었다

올봄 이란과의 전쟁 중, 미군이 중동에서 중국 선박 한 척을 나포하려고 준비했다. 근거는 그 배가 핵무기 프로그램 부품을 싣고 있다는 정보보고서였다. 작전 직전에 밝혀진 사실은, 그 보고서를 분석관이 AI 챗봇의 도움으로 작성했고 챗봇이 배에 실린 것을 잘못 짚었다는 것이었다. CNN이 복수의 소식통을 인용해 보도했다. 한 소식통은 보고서가 "완전히 거짓"이었다고 했고, 다른 표현으로는 그것이 "전쟁을 일으킬 뻔했다". 중국 선박을 상대로 한 미군의 작전은 양국 간 무력 충돌로 번질 수 있었다. 환각이 논문 각주나 코드 한 줄이 아니라 군사 작전의 근거가 된 첫 사례로 기록될 만하다.