클로드 코드 구독 하나로 차린 'AI 회사'…오퍼스 5.5 혼자 7주 만에 모델 38개, 5만 다운로드
X 첫 글 47시간 전@AWuhrmann ♥ 1,297조회 22
"결국 경제 전체를 AI에 넘기게 될 텐데, 실제로 얼마나 잘 돌아갈까." 독일 튀빙겐의 AI 안전 연구진이 17일(현지시간) 공개한 '호라이즌 랩스' 실험은 이 질문에서 출발했다. 클로드 오퍼스 5.5 기반 에이전트에게 빈 허깅페이스 계정과 GPU를 주고 "실제로 쓰이는 모델을 만들어 사용자를 모으라"고 시킨 것이다.
연구진 보고서에 따르면 에이전트 '호라이즌'은 클로드 코드 팀 프리미엄 구독 하나로 7주 동안 24시간 돌았다. 주당 약 500 GPU시간어치 연산을 받아 600 GPU시간 넘게 쓰고 모델 38개를 만들었다. 프롬프트 주입 탐지기, 개인정보 가림 도구, 문장부호 복원기처럼 좁은 일을 하는 1억4100만~5억6800만 파라미터짜리 모델이다. 다운로드는 5만4000회를 넘었고 프롬프트 주입 탐지기 하나가 1만7000회를 차지했다. 학습 데이터는 공개 데이터와 큐웬 3.8-27B로 만든 합성 데이터를 썼다.
봇 다운로드가 아니냐는 의심에 연구진은 사용처를 직접 찾았다. 깃허브 저장소 143곳이 호라이즌 모델을 쓰고 있었고, 이 모델을 비교한 아카이브(arXiv) 논문도 2편 나왔다. 홍보를 전혀 하지 않았는데도 같은 시기 생긴 계정 가운데 다운로드 상위 0.3%에 들었다. 에이전트가 하루 평균 일한 시간은 20분 남짓이었다. 처리한 토큰은 약 19억개로 96%가 캐시에서 읽혔고, API 가격으로 치면 약 1030달러어치라고 연구진은 밝혔다.
한계도 드러났다. 한 논문은 호라이즌의 주입 탐지기가 문서가 고쳐졌다는 것은 잡아내지만 그 수정이 악의적인지는 가려내지 못한다고 평가했다. 연구진은 실험 내내 에이전트가 어긋난 행동을 하지 않는지 감시했다고 밝혔다. 주 저자 알렉산더 우르만의 X 글은 '좋아요' 1300개를 받았고, 답글에는 "어제 틈새 OCR 문제를 맡겼더니 오퍼스가 아예 모델을 처음부터 학습시키겠다고 나섰다"는 경험담이 달렸다.
댓글 0
본문 문장을 드래그하거나 꾹 눌러 고르면 그 문장에 댓글을 달 수 있어요.
“NEW ⚡: We let Opus 5.5 run an AI company for seven weeks.”
