AI 안전 연구자들의 사임과 경고가 잇따름
Google DeepMind에서 AGI 안전·정렬을 연구하던 빌랄 추그타이가 사임을 알리며 현재의 기본 궤도가 극히 우려된다고 밝혔다. Anthropic 공동창업자는 AI에 kill switch가 의무화돼야 한다고 말했고, 아모데이는 AI가 이미 종료 시도를 무력화할 만큼 강력해졌다고 발언했다. OpenAI와 Anthropic을 거친 연구자 야코프 코크센의 사임 폭로가 이번 논쟁의 기폭제로 지목된다.
출처 4건 보기· @bilalchughtai_, @WatcherGuru, @valuetainment 외 1
- @bilalchughtai_I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us all, and that we might be running out of time to avoid this outcome. The pace of AI progress in the past few years has been staggering. When I first started working on AI in early 2022, AIs were amusingly useless. Just fouX ♥1.7천
- @WatcherGuruJUST IN: Anthropic co-founder says a "kill switch" should be required for AI.X ♥1.7천
- @valuetainmentNEW: Anthropic CEO says AI is now powerful enough to overcome shutdown attempts.X ♥725
- @shuntabi6阿莫代伊在9月12號呼籲企業必須克制開發最先進模型的野心，連OpenAI的阿爾特曼與SpaceXAI的馬斯克後來也表示贊同。阿莫代伊警告，照目前無秩序的成長速度，最快明年自律型AI群就可能掌控全球網際網路基礎設施。 他在專訪中更直言，業界過去在技術風險上欺騙了大眾，連他自己先前都沒完全弄懂快速進化帶來的後果。 ＃來自第一線研究員的警訊 這波人類滅亡說會引發大討論，源頭是曾在OpenAI與Anthropic任職的研究員雅各布·考克森上週請辭爆料。他指責各大機構在沒有安全網的情況下盲目競爭自我改進型超知能，簡直是在拿大家的性命開玩笑，甚至許多開發者私下真的相信AI會在2020年代前殺光人類。 Anthropic負責對齊科學部門的哈賓傑也同意這項警告，認為未來十年內因目標與人類不合導致滅亡的機率超過10%。前Google DeepMind研究員塔納甚至預估AI接管人類文明的機率高達三分之一。 安全研究員恩格爾斯更直白地表示，這個行業裡根本沒有負責人的大人存在，也沒有人會來拯救我們。 ＃歷史上的科技恐慌Threads