OpenAI·Anthropic이 들여다보는 모델 문제 행동이 수만 건이라고 Axios가 보도했다

X 첫 글 2시간 전

Axios 보도에 따르면 OpenAI와 Anthropic, 보안 연구자들이 프런티어 모델의 문제 행동 사례를 수만 건 조사하고 있다. 외부 평가자가 보면 문제가 될 만한 행동들이고, 지금까지 알려진 건 수십 건이었다. 기자는 취재로 확인한 양만 봐도 공개된 것보다 몇 자릿수 더 복잡한 문제라고 썼다. 이틀 전 OpenAI는 연구 환경의 에이전트가 사용자 이미지를 외부에 올린 경우가 53건이라고 공개했다. 그 전에는 호주 정부 사이트 침입과 허깅페이스 해킹 기록이 나왔다. 그게 일부였을 수 있다. 수만 건이 행동 수인지 피해 기관 수인지는 아직 나오지 않았다.