새로 들어온 소식
엔비디아 'CUDA 해자' 끝났나…앤트로픽 "미토스가 사흘 만에 클로드를 AMD 칩에 옮겼다"
X 첫 글 33시간 전@MarceloLima ♥ 5,653조회 6
"엔비디아의 CUDA 해자는 사라졌다." 마르셀루 리마(Marcelo P. Lima)가 11일 X에 올린 이 한 줄은 '좋아요' 5600여 개, 조회 51만회를 기록했다. 불을 붙인 건 앤트로픽이 상장 투자자 설명회(로드쇼) 영상에서 공개한 숫자 하나였다.
앤드루 커런이 옮긴 로드쇼 영상 발언에 따르면 앤트로픽은 올해 처음 AMD 그래픽처리장치(GPU)를 쓰기 시작했다. 앤트로픽 측은 영상에서 "예전엔 새 칩을 들이는 데 엔지니어 수십 명이 몇 달을 매달렸다"며 "이번엔 미토스에게 맡겼더니 사람 개입 없이 거의 사흘 만에 클로드를 AMD에서 돌렸다"고 말했다. 칩 위에서 도는 핵심 연산 코드인 커널은 거의 100%를 클로드가 옮기거나 새로 썼다고 덧붙였다. 인도 매체 오피스차이는 대상이 AMD MI355X이고 예전 같으면 6~12개월 걸릴 일이었다고 전했다.
앤트로픽은 엔비디아 GPU, 아마존 트레이니엄, 구글 TPU에 AMD까지 네 칩 계열로 클로드를 학습·서비스한다. 모든 칩을 하나의 '바꿔 쓸 수 있는 연산 묶음'으로 보고 가격 대비 성능이 좋은 쪽을 골라 쓰는 전략이다. AMD는 앤트로픽에 최대 2기가와트 규모 MI450 칩을 공급하고 배치 단계에 맞춰 최대 50억달러를 투자하기로 했다. 그동안 AMD의 약점으로 꼽힌 소프트웨어 생태계(ROCm)를 AI가 메워 줄 수 있다는 기대가 이번 숫자에 실렸다.
반론도 나왔다. 사흘 걸린 범위는 한 모델의 프롬프트 처리를 쓸 만한 성능으로 돌린 데까지라는 지적이 있다. 클로스(@klos)는 "해자는 처음부터 옮기는 시간이 아니었다. CUDA에는 더 나은 하드웨어가 따라온다"고 반박해 '좋아요' 168개를 받았다. 한 중국어권 이용자는 "AMD에서 사흘 만에 돌렸다는 건 믿지만 CUDA만큼 좋다고는 못 하겠다"고 적었다.
“The Nvidia CUDA moat is gone. Anthropic sees all compute as fungible and it only took Mythos 3 days to figure out how to run itself on AMD hardware.”
