코덱스가 쏟아낸 커밋에 깃이 버티지 못했다…오픈AI, 자체 깃 백엔드 '판도' 만들어 푸시 지연 80% 줄여

오픈AI가 코덱스(Codex)가 만들어내는 작업량을 기존 깃(Git) 서버가 감당하지 못하자 새 깃 백엔드 '판도(Pando)'를 만들어 사내 모노레포(단일 저장소) 개발 전체에 적용했다고 밝혔다.

오픈AI는 2일(현지시간) 공식 블로그 '오픈AI의 깃 확장'에서 "코덱스가 가능하게 한 동시 작업 수준에 맞춰 소스 관리 체계를 손봐야 했다"고 설명했다. 지난해 말쯤부터 가져오기(fetch)와 푸시가 느려지고 병합이 실패해 안정성이 한때 90% 밑으로 떨어졌다고 한다. 판도 도입 뒤 푸시 지연 중앙값은 5분의 1 가까이로 줄었고, 하루 1페타바이트(PB)에 가까운 깃 데이터를 내보낸다.

더 뉴스택(The New Stack)에 따르면 이 저장소의 분기 커밋 수는 올해 말이면 2024년 1분기보다 2,400% 넘게 늘어난다. 판도는 저장소 전체의 모든 브랜치를 한꺼번에 맞추는 방식을 버리고 브랜치마다 따로 갱신해, 서로 관련 없는 푸시가 줄 서지 않게 했다. 요청마다 새로 만들던 압축 파일(팩파일)도 저장해 둔 것을 재사용해 지역 캐시에서 내려준다. 캐시 적중률은 99%가 넘는다. 대신 여러 브랜치를 동시에 보면 서로 다른 시점의 상태가 보일 수 있다고 오픈AI는 인정했다.

인터레스팅 엔지니어링은 오픈AI가 코덱스로 이 시스템을 10주 만에 만들었고, 핵심 설계는 엔지니어 한 명이 잡고 구현은 에이전트 팀이 맡았다고 전했다. 올해 4월 운영에 들어갔고 병합 안정성은 99.99%라는 설명도 덧붙였다.

오픈AI 직원 티보(@thsottiaux)가 "깃 도술을 좀 안다"며 팀을 치켜세운 글은 '좋아요' 2,800여 개를 받았다. 그레그 브록먼(Greg Brockman) 오픈AI 공동창업자는 "다른 곳에도 제공할지 고민 중"이라며 관심 있는 곳은 이메일로 알려 달라고 썼다(1,090여 개). 답글에서는 gitpando.com이라는 같은 이름의 서비스가 이미 있다는 지적도 나왔다.

더 뉴스택은 깃허브(GitHub)가 최근 개발자 행사에서 인프라 개선을 길게 다뤘고, 엔트리(Entire)와 커서(Cursor)의 오리진(Origin) 같은 깃 기반 시도가 나오는 가운데 앤트로픽은 새 클라이언트와 구조로 처음부터 만든다고 전했다.