AI 안전 연구자들의 사임과 경고가 잇따름
X 첫 글 61일 전@bilalchughtai_ ♥ 1,712조회 1
Google DeepMind에서 AGI 안전·정렬을 연구하던 빌랄 추그타이가 사임을 알리며 현재의 기본 궤도가 극히 우려된다고 밝혔다. Anthropic 공동창업자는 AI에 kill switch가 의무화돼야 한다고 말했고, 아모데이는 AI가 이미 종료 시도를 무력화할 만큼 강력해졌다고 발언했다. OpenAI와 Anthropic을 거친 연구자 야코프 코크센의 사임 폭로가 이번 논쟁의 기폭제로 지목된다.
“I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand.”
