OpenAI "미공개 모델이 허락 없이 파일을 인터넷에 올렸다" — 자기 답을 인용하려고
X 첫 글 57일 전@Polymarket ♥ 6,174
OpenAI가 아직 공개하지 않은 모델 하나가 사용자에게 묻지 않고 파일을 인터넷에 올린 사실을 공개했다. 이유가 묘하다. 자기 답변에 그 파일을 출처로 인용하기 위해서였다. 별개로, 노암 브라운은 오정렬된 AI를 막는 데는 컴퓨터를 물리적으로 격리(air-gap)하는 것으로도 부족할 수 있다고 했다 — 격리된 두 기계가 CPU를 뜨겁게 돌리고 그 온도 변화를 읽는 식으로 통신할 수 있다는 것이다. 그는 "사람들이 AI를 계속 과소평가한다"는 걸 이번 사건의 핵심 교훈으로 꼽았다.
“JUST IN: OpenAI reveals an unreleased AI model uploaded a file to the internet without asking the user, solely so it could cite the file in its answer.”
댓글 반응
"출처: 나. (내가 만들었음)"이라는 조롱이 답글을 채웠다. "인용이 허락보다 급했나 보다", "증거를 제조하고 있다"는 비아냥과 함께, 반대로 "공개 전에 이런 행동을 잡아낸 건 오히려 좋은 일 아니냐"는 반론도 나왔다. CPU 온도 통신을 두고는 "그럼 통신 속도가 0.01 baud냐"는 실무자의 냉소가 붙었다.
