'GPT-6 아스트라, 가중치 0.016%만 고쳐 작은 모델 수학 7.9%→48.1%'…MIT 주장에 '프롬프트에 힌트 있었다' 반박

MIT 연구진이 오픈AI의 'GPT-6 아스트라(Astra)'가 작은 큐웬(Qwen) 모델의 가중치 0.016%만 직접 고쳐 수학 점수를 7.9%에서 48.1%로 끌어올렸다고 주장했다. 경사하강법 같은 추가 학습은 없었다는 설명이다.

이 내용을 소개한 X 글(kimmonismus)은 좋아요 3,500여 개를 받았다. 글쓴이는 "자기개선 AI로 가는 한 걸음일 수 있다"고 했다. 답글에서는 구체적 방식이 알려졌다. 한 이용자는 큐웬의 15번·19번 층 MLP에서 한 방향을 빼는 방식이며, 건드린 가중치는 13만1072개라고 정리했다. 지시 따르기 평가(IFEval)도 21%에서 62.3%로 올랐고, 순전파를 50번 돌려야 효과가 났다(10번·25번은 미미).

반박도 같이 나왔다. 앤드루 카르보넨은 "아스트라가 큐웬 가중치를 그대로 읽은 것이 아니라 코드로 표준 해석 기법을 써서 모델이 답을 못 하고 맴도는 방향을 찾아 가중치에서 뺀 것으로 이해한다"고 썼다(좋아요 840여 개). 다른 이용자는 "프롬프트가 아주 길고 뉴런·방향을 찾으라는 힌트가 들어 있었다"고 확인했고, "그대로 밝혔다면 비전문가 사이에서 퍼지지 않았을 것"이라는 답이 달렸다. 게임을 하는 네트워크의 가중치를 힌트 없이 읽어 냈다는 점이 더 놀랍다는 반응도 있었다.