GPT-6 아스트라가 가중치를 읽는다던 논문, 노트북 큐웬 27B도 해냈다…윌리슨 "소스코드 시대 끝났다고 선언할 준비는 안 됐다"
X 첫 글 2일 전@simonw ♥ 3,047조회 15
MIT 연구진 등이 낸 논문 '가중치 공간 프로그래밍의 불꽃(Sparks of Weight-Space Programming)'이 AI 모델이 신경망 가중치를 직접 읽고 쓸 수 있다고 주장한 데 이어, 개발자 사이먼 윌리슨이 같은 시험을 노트북에서 돌린 결과를 3일(현지시간) 블로그에 올렸다. 그의 X 글은 '좋아요' 3000여 개를 받았다.
논문은 GPT-6 아스트라가 도구 없이 가중치만 보고 신경망이 무엇을 하도록 학습됐는지 알아맞히고, 작은 큐웬3.5-0.8B 가중치의 0.016%를 고쳐 MATH-500 점수를 7.9%에서 48.1%로 올렸다고 주장했다. 윌리슨은 17GB로 양자화한 큐웬 3.8 27B를 LM 스튜디오에서 돌렸다. 논문의 '도구 없는' 프롬프트에 격자 게임 신경망의 가중치를 넣자 팩맨류는 46분 12초, 추론 토큰 4만3506개를 쓴 끝에 8×8 미로 게임이라고 신뢰도 72%로 답했다. 퐁은 1시간 4분 54초, 벽돌깨기류는 52분 25초 만에 맞혔고 프리웨이는 틀렸다. 키미 K3.1 프로(오픈라우터 경유)는 벽돌깨기를 9분 41초에 맞혔다.
윌리슨은 시험 게임이 10×10 격자로 단순화한 것이고 네 가지뿐인 데다 하나는 실패했다고 한계를 달았다. 인내심 있는 사람이 종이와 연필로도 할 수 있는 일이라 초인적 능력의 증거는 아니라는 입장이다. 도구 없이 읽는 시험과 도구를 쓴 편집을 섞어 논문이 오해를 부른다는 비판도 있다며 "소스코드의 시대가 끝났다고 선언할 준비는 되지 않았다"고 적었다. 그는 맥북 프로 M5(메모리 128GB)로 돌렸지만 큐웬 3.8 27B는 32GB 메모리면 충분할 것이라고 답했다.
같은 날 계정 xingyudang이 올린 '라이팅 웨이트 지수'(좋아요 1100여 개)는 오픈소스 모델이 이 과제에서 고전한다고 주장했다. 윌리슨 글에는 "노트북 전기료와 아스트라 API 요금 청구서를 둘 다 보고 싶다"는 답글이 달렸다.
“There's a buzzy new paper about GPT-6 Astra being able to directly interpret model weights (prompts full of floating point numbers) - I tried it with Qwen 3.8 27B on my…”
