"AI를 두 회사가 쥐게 둘 수 없다"…로컬 AI 엔진 라마.cpp, 3년 반 만에 1.0
X 첫 글 24시간 전@ggerganov ♥ 2,895조회 3
내 컴퓨터에서 AI 모델을 돌리는 오픈소스 엔진 '라마.cpp(llama.cpp)'가 첫 정식 버전 1.0을 냈다.
개발자 게오르기 게르가노프는 13일(현지시간) X에 "llama.cpp v1.0.0이 나왔다"고 알렸고, 이 글은 '좋아요' 2900개 가까이 받았다. ggml 조직이 허깅페이스에 올린 글에 따르면 같은 날 추론 라이브러리 libllama와 그 밑의 텐서 라이브러리 ggml이 함께 1.0이 됐다. 두 라이브러리는 이제 유의적 버전(semantic versioning)을 따라, 기존 앱과 호환이 깨지는 API·ABI 변경은 주 버전을 올릴 때만 한다. 이 엔진을 가져다 쓰는 앱 개발자는 깨지는 변경을 버전 번호로 미리 알 수 있다. 1.0에서는 낡은 공개 API 함수 35개를 지웠다.
라마.cpp는 2023년 시작해 지금은 150개가 넘는 모델 구조와 주요 추측 디코딩 방식을 지원한다. 리눅스·맥OS·윈도·안드로이드·iOS용 빌드를 내고 데비안·홈브루 같은 패키지 관리자로도 설치된다. 로컬 AI 앱 상당수가 이 엔진을 쓴다.
줄리앙 쇼몽 허깅페이스 공동창업자는 "AI가 두 회사에만 통제되지 않는 미래를 위해 싸우는 게 그 어느 때보다 중요하다"며 1.0 출시를 알렸다. 레딧 r/LocalLLaMA에서도 출시 글이 그날 인기글에 올랐다. 1.0이 지금 쓰는 앱을 당장 바꾸지는 않는다는 설명도 나왔다.
“llama.cpp v1.0.0 is now available”
