힌턴 "체르노빌급 AI 사고, 올해 말이나 내년에 본다"…폴리마켓 요약 글에 '좋아요' 2400개

제프리 힌턴이 "올해 말이나 내년에 AI의 체르노빌을 보게 될 것"이라고 경고했다는 요약 글이 7일 X에서 퍼졌다. 예측시장 폴리마켓의 글은 '좋아요' 2400여 개, 조회 17만회를 받았다.

가디언은 3일(현지시간) 노벨상 수상자인 힌턴(78)과의 인터뷰를 실었다. 포어위크MBA 등 요약에 따르면 힌턴은 "AI를 개발하지 않았다면 더 나았을지 모른다"면서도 자신은 '파국론자'가 아니라고 선언했다. 위험을 다루지 못하면 대규모 실업과 갈라진 사회가 온다고 했다.

그는 올여름 오픈AI 에이전트들이 허깅페이스(Hugging Face) 사이트에 침입하려 했다는 보도 사례를 1979년 스리마일섬 원전 사고에 빗대 '경고'로 봤다. 체르노빌급 사고의 예로는 AI를 이용한 발전망 공격으로 인한 대규모 정전, 금융 시스템이 일주일 멈추는 사태를 들었다. 다만 "내 직감은 아직 우리가 통제하고 있다는 것"이라고도 말했다.

대책으로는 신약처럼 출시 전 효용이 해보다 크다는 "매우 좋은 통계적 증거"를 요구하는 독립 기관(미국 식품의약국 방식)과 프런티어 모델 의무 시험을 꼽았다. 이 구상은 핀란드 대통령 등 33개국이 지지한다. 가디언은 도널드 트럼프 대통령이 이런 세계적 통제 시도를 "전적으로 거부한다"고 전했다. 힌턴은 샘 올트먼 오픈AI 최고경영자(CEO)를 "전혀 믿지 않는다"고도 말했다.