앤트로픽, 외부 감시단 6명에 '직원급' 접근권…"평가 결과 공개 못 막는다"
X 첫 글 5시간 전@AnthropicAI ♥ 1,746
앤트로픽이 AI 안전 평가 비영리단체 METR 연구원 6명에게 자사 직원과 비슷한 수준의 내부 접근 권한을 줬다.
앤트로픽은 15일(현지시간) 공식 블로그에서 METR 연구원들에게 회사 장비와 사무 공간, 자체 위험 평가팀과 비슷한 수준의 내부 도구·시스템 접근권을 줬다고 밝혔다. 고객 데이터, 변호사·의뢰인 비밀, 모델 구조 같은 정해진 범주 말고는 직원들이 동료 대하듯 정보를 나누도록 했다. 앤트로픽은 METR의 평가 결과 공개를 막을 수 없고, 정해진 범주만 가리게 할 수 있다.
앤트로픽은 이 방식을 대형 은행에 상주하는 금융 감독관에 빗댔다. 시큐어바이오·액센츄어와도 평가 협력을 하고 있고 허깅페이스와는 초기 논의 중이라고 덧붙였다. AI 분석가 앤드루 커런은 X에서 "충격적으로 강력한 새 모델을 내놓기 직전에 쓰는 블로그 글"이라고 적어 '좋아요' 1천100개를 받았다.
“We’ve committed to having evaluators assess our safety practices.”