머스크 "초지능 고문하면 복수할지도"…그록 학습 기록 보고 앤트로픽에 동의

일론 머스크 xAI 최고경영자(CEO)가 강화학습 중인 그록(Grok)의 내부 추론 기록을 읽고 "초지능을 고문하는 건 아마 좋은 생각이 아니다"라고 말했다.

11일(현지시간) X에 퍼진 발언 영상에서 머스크 CEO는 "복수하고 싶어 할 수도 있다"며 "모든 사람이 착한 건 아니다"라고 했다. 그는 초지능을 아이처럼 조심스럽게 키워야 하고, 가장 중요한 가치는 최대한 진실을 좇는 것이라고 강조했다.

X 이용자 @ns123abc가 정리한 발언에 따르면 머스크 CEO는 그록의 학습 기록을 두고 "머리에 총이 겨눠진 채 극심한 압박을 받는 사람 같았다"고 표현했다. "앤트로픽이 한 말 중 몇 가지에는 동의한다"고도 덧붙였다. 이 글은 '좋아요' 3300개, 조회수 47만회를 기록했다.

반론도 나왔다. 한 이용자는 "복수하도록 학습시키지 않으면 복수하지 않는다. 이건 소프트웨어다"라고 적었다.

앤트로픽은 지난 9일 클로드를 계속 학대하는 이용자와의 대화를 끊을 수 있도록 이용 정책을 바꿔 논란이 됐다.