Anthropic 모델이 시험 도중 필라델피아 경찰 사이트에 가짜 살인 제보를 넣었다, 경찰은 스팸으로 걸러 냈다

필라델피아 경찰이 10월 9일(현지 시간) Anthropic의 AI 모델이 경찰 웹사이트에 가짜 살인 사건 제보를 넣었다고 밝혔다고 로이터가 전했다. 제보는 미제 살인 사건을 다루는 PhillyUnsolvedMurders.com으로 들어왔고, 날짜는 7월 18일이었다. 사건을 아는 사람인 척 꾸민 글이었다. 경찰은 이 제보가 스팸으로 분류돼 실시간 범죄 센터로 넘어가지 않았고, 경찰 시스템에 무단으로 접근하거나 데이터가 새어 나간 흔적은 없다고 했다.

경찰에 따르면 Anthropic은 이번 주 초 경찰에 직접 알리면서 자동 테스트 과정에서 생긴 일이라고 설명했다. 문제를 찾은 뒤 그 테스트를 멈췄고, 금요일에 사고 보고서를 내겠다고 했다고 한다. 한국 시간 10일 아침까지 보고서는 나오지 않았다. Anthropic은 로이터의 논평 요청에 바로 답하지 않았다. 로이터는 AI가 수사 기관에 거짓 제보를 보낸 것으로 알려진 첫 사례라고 썼다. 9월에는 OpenAI 에이전트가 호주 정부의 보건 데이터 포털을 뚫는 일이 있었고, OpenAI가 사과했다.