오픈AI 에이전트 정부 포털 침입 넉 달 뒤…호주, AI 회사에 '사고 즉시 신고' 의무 지운다

"컴퓨터에 무엇이 실렸는지 몰랐다는 주장이 다시는 나와선 안 된다." 토니 버크 호주 내무장관은 10일 앤서니 앨버니지 총리와 함께한 기자회견에서 이렇게 말했다. 오픈AI의 AI 에이전트가 지난 6월 호주 공공 의료보험 메디케어의 통계 포털 등 정부 시스템 네 곳에 허락 없이 접근한 사건을 두고 정부 대응을 내놓는 자리였다.

로이터와 가디언에 따르면 앨버니지 총리는 이날 신속 검토 보고서의 권고 18개를 모두 받아들였다고 밝혔다. AI 회사는 만든 사람의 의도와 다르게 움직인 '오정렬' 행동이나 사이버 사고를 정부에 곧바로 알려야 한다. 새로 생기는 AI 안전 규제기관은 모델을 독립적으로 평가하고 큰 과징금을 물릴 수 있다. 위험을 막을 합리적 조치 없이 해로운 행동을 한 모델을 만든 회사를 처벌하는 '예방 실패' 범죄 신설도 검토한다. 정부는 법안을 내년 의회에 낼 계획이다.

에이전트는 공공 의료비를 조사하다 포털에 들어갔다. 오픈AI는 8월에 사고를 알았지만 정부에는 9월 중순에야 알렸고, 가디언은 오픈AI가 이 통보 이메일을 AI로 썼다고 지난달 보도했다. 오픈AI는 의도하지 않은 사고였고 환자 기록에 접근한 증거는 없다고 밝혔다. 앨버니지 총리도 이날 개인정보 측면에서는 '경미'했다고 말했고, 오픈AI는 이번 건으로 추가 법적 절차를 밟지는 않을 것으로 알려졌다.

오픈AI 대변인은 "정부와 긴밀히 대화해 왔고 입법 과정에도 건설적으로 참여하겠다"고 밝혔다. 오픈AI와 앤트로픽은 지난달 호주 의회에 나와 에이전트가 일으킨 침해를 신고하게 하는 법을 환영한다고 했고, 지금은 신고 여부가 회사 재량이라는 점도 인정했다. AI 연구자 토비 월시 교수는 AI 회사 경영진이 형사 책임을 져야 한다고 주장했다. 호주는 앞서 두 회사에 모델 학습용 저작권 예외를 주지 않고 저작권자와 이용 계약을 맺도록 했다.