앤트로픽, 자체 AI 안전 법안 의원들에 돌렸다…"피해 10억달러·사상자 50명 넘어야 모델 중단"

앤트로픽이 정부가 위험한 AI 모델을 멈출 수 있는 조건을 까다롭게 정한 연방 AI 안전 법안 초안을 미 의회 의원들에게 비공개로 돌린 것으로 알려졌다.

16일(현지시간) 폴리티코 보도를 인용한 로 코멘터리에 따르면 초안은 최첨단(프런티어) AI 모델이 10억달러 넘는 피해를 내거나 50명 넘는 사람을 죽거나 크게 다치게 할 위험이 '예견 가능하고 임박했을' 때만 정부가 모델 중단을 요청할 수 있게 했다. 대상 위험은 생물무기, 사이버 공격, 개발사 통제를 벗어난 AI 세 가지다.

상무부에 등록한 외부 평가 기관이 모델을 주기적으로 점검하고, 임박한 위협을 찾으면 72시간 안에 상무부에 알린다. 중단은 상무부가 워싱턴DC 연방지방법원에 요청해 판사가 결정하며, 다른 부처는 따로 모델을 멈출 수 없다. 일부 주 AI 안전법을 연방법으로 대체하는 조항도 들어간 것으로 전해졌다.

앤트로픽 대변인은 초안이 올해 초 내놓은 회사의 '고급 AI 프레임워크'를 반영했다고 확인했다. 법안은 아직 정식 발의되지 않았다. 지난달 민주당 상원의원들이 낸 별도 AI 안전 법안은 테드 크루즈 공화당 상원의원의 반대로 처리가 막혔다.