새로 들어온 소식
"토큰 원가 알면 화날 것"…딥시크 문서 속 'GPU 1시간에 38달러', 마진 82% 계산 퍼졌다
X 첫 글 15시간 전@superalesha ♥ 4,145조회 5
"딥시크가 방금 토큰 가격을 공개했다. 이걸 보면 화가 날 것이다." 알렉세이 파테예프가 X에 올린 이 글은 '좋아요' 4천100개, 조회 19만회를 넘겼다. 딥시크가 추론 엔진 '딥인퍼(DeepInfer)'를 공개하며 함께 낸 문서의 숫자를 짚은 글이다.
깃허브에 올라온 딥시크의 배포 문답 문서에 따르면 '딥시크 V4.1 플래시'를 돌리는 클러스터 하나는 하루 155조 토큰을 처리하고, 전체 매출은 GPU 1시간당 38달러(한산한 시간대 요금 기준)다. 캐시가 맞으면 앞부분 계산을 다시 하지 않도록 KV 캐시를 72시간 넘게 보관한다고도 적었다.
파테예프는 유천 진의 계산을 인용해 엔비디아 B300을 시간당 7달러에 빌려 써도 매출총이익률이 약 82%라고 주장했다. 그는 "미국 연구소들이 지능은 비싸다고 말할 때마다를 떠올려 보라"며 월 200달러 요금의 일부는 "토큰 원가를 모르는 사용자에 기댄 사업 모델"이라고 썼다.
오픈소스 추론 엔진 vLLM 팀은 자기들 엔진으로도 딥인퍼의 디코딩 성능을 6% 안쪽까지 따라잡고, 딥시크의 한산한 시간대 요금으로 GPU 1시간당 39달러를 벌 수 있다고 밝혔다. 딥시크는 원가를 공개하지 않았고 82%는 외부 추정치다.
“DeepSeek just published the price of a token, and it should make you angry.”