"시그널 자동 삭제가 해고 사유"…오픈AI, 'AI 감시' 목소리 낸 안전 연구원 3명 내보냈다
X 첫 글 26시간 전@So8res ♥ 560조회 2
오픈AI가 AI 안전 문제를 공개적으로 말해 온 연구원 3명을 해고했다. 회사는 기밀 취급 규정 위반을 이유로 들었고, 연구원들은 유출한 적이 없다고 맞서고 있다.
22일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI 보안팀은 지난달 토메크 코르바크, 미키타 발레스니, 재스민 왕 연구원을 불러 개인 휴대전화 잠금을 풀라고 요구했다. 새 모델 '아스트라'의 내부 설계를 다룬 디인포메이션 보도의 출처를 찾는 조사였다. 일부가 외부 안전 연구자와 나눈 시그널 대화에 자동 삭제를 켜 둔 사실이 드러났고, 3명은 일주일 뒤 해고 통보를 받았다.
오픈AI는 "민감한 정보 취급에 관한 명확한 정책을 위반해 해고했다"며 "안전 문제를 제기했다는 이유가 아니다"라고 밝혔다. 연구원들은 어떤 정보를 잘못 다뤘는지 서면 설명도 받지 못했다고 주장했다. 이들은 지난 8월 AI의 추론 과정을 사람이 볼 수 없게 만드는 설계를 업계가 개발하지 말자는 제안서를 쓴 바 있다.
AI 연구자 네이트 소아레스는 X에 "하지 말라는 말을 들은 적도 없는데 자동 삭제 메시지를 썼다고 경고 없이 해고한 것 같다. 나빠 보인다"고 적어 '좋아요' 560개를 받았다. 해고된 발레스니는 "정치적 이유로 해고했다고는 믿고 싶지 않다"며 "엉성한 조사에 편집증과 수면 부족이 섞인 결과였길 바라는 마음도 있다"고 썼다. 코르바크는 "동료들이 이제 외부와 대화하거나 안전 문제를 꺼내길 두려워한다"고 말했다.
“It sounds like OpenAI fired the three safety researchers because they used disappearing messages.”
댓글 반응 1개
- @So8res♥560
It sounds like OpenAI fired the three safety researchers because they used disappearing messages. It sounds like they weren't told not to; they were just fired without warning after the fact. Seems bad.