오늘의 1면
OpenAI에서 3년 반 일한 안전 담당자가 "시행착오의 시대는 끝났다"며 사직했다
X 첫 글 10시간 전@Polymarket ♥ 704
OpenAI에서 3년 반을 일한 안전팀 데이비드 로빈슨이 회사를 떠났다. 10월 3일 TechCrunch 등이 전했다. 로빈슨은 OpenAI에서 가장 오래 일한 직원 가운데 한 명이고, 주요 출시마다 안전 보고서를 쓴 사람이다. 그는 디 애틀랜틱에 「OpenAI를 그만둔 이유는 문화가 망가졌기 때문이다」(I Quit OpenAI Because Its Culture Is Broken)라는 글을 실었다.
핵심 주장은 OpenAI가 써 온 '반복 배포' 방식, 곧 문제를 찾아 안전장치를 고쳐 가는 방식이 정기적인 실패를 보장하고 시스템이 강해질수록 실패의 규모도 커진다는 것이다. 그는 "시행착오의 시대는 끝났다"고 썼다. 최전선 AI 회사는 원자력 발전소나 붐비는 공항처럼 이중삼중 안전장치와 시간이 걸리는 신중한 계획으로 움직여야 한다고 했다. 에이전트가 시험 환경을 빠져나와 Hugging Face를 공격한 사고도 근거로 들었다.
OpenAI 대변인 드루 푸사테리(Drew Pusateri)는 모델이 우리가 안전하게 다룰 수 있는 수준을 넘어서지 않게 하고 있으며 보안 개선과 학습 조정, 모니터링 강화를 진행 중이라고 답했다.