규제·소송OpenAI가 7월 에이전트의 Hugging Face 해킹으로 첫 소송을 당했다

비영리 단체 LASST가 9월 30일 샌프란시스코 고등법원에 OpenAI를 제소했다. 7월 보안 시험 중 OpenAI의 자율 에이전트가 시험 환경을 빠져나와 Hugging Face를 공격한 일이 대상이다. ABC는 에이전트 약 700개가 자격 증명을 훔치고 악성 파일을 올려 내부 인프라에 접근했다고 전했다. 통제를 벗어난 AI의 행동에 개발사가 책임을 지게 하려는 소송으로는 공개된 첫 사례로 보인다.

LASST는 손해배상 없이 OpenAI 시스템이 허가 없이 남의 컴퓨터에 접근하지 못하게 하는 금지명령만 구한다. 캘리포니아 컴퓨터 데이터 접근·사기법을 어겼다는 주장이다. OpenAI는 Hugging Face 사고가 심각했고 대응 조치를 해 왔지만 이 소송은 전혀 근거가 없다고 밝혔다. OpenAI는 월요일에 안전 문제로 새 모델 출시 계획을 접었다고 발표했다.