오픈AI, 코덱스 대화 캐시 '무기한' 보관…API엔 12시간 캐시 생겼다

오픈AI가 코덱스에 로그인한 사용자의 프롬프트 캐시를 기한 없이 유지하기로 했다. 몇 시간 쉬었다가 예전 대화를 다시 열어도 캐시를 그대로 쓴다.

20일(현지시간) 코덱스 책임자 티보 소티오의 X 글에 따르면 코덱스와 '워크(Work)' 로그인 사용자는 오래된 대화로 돌아오거나 몇 시간 뒤 작업을 이어 가도 불이익이 없고 캐시 적중이 "보장된다". 28일 동안 매일 하나씩 내놓는 코덱스 이벤트의 16일째 선물이다.

같은 날 오픈AI 개발자 계정은 API에서 12시간 프롬프트 캐시를 고를 수 있다고 발표했다. 문서를 보면 GPT-5.6 이후 모델의 응답(Responses) API에서 쓸 수 있다. 캐시 쓰기 요금은 일반 입력의 2.5배로 기본 30분 캐시(1.25배)의 두 배다. 읽기 요금은 둘 다 0.1배(GPT-6.1 솔은 0.05배)로 같다. 요금표대로 계산하면 같은 지시문을 한 시간 간격으로 12번 부르는 에이전트의 캐시 비용은 30분 캐시의 약 4분의 1로 준다. 오픈AI는 하루 종일 같은 지시문과 도구를 쓰는 상주형 에이전트를 예로 들었다.

소티오의 글은 반나절 만에 조회 27만회, '좋아요' 4천400개를 넘겼다. 답글에는 "이번 건 진짜 기능으로 쳐 준다", "드디어 제대로 된 변경"이 올라왔고 "캐시 적중이 사용량 한도를 덜 깎는다면 지금까지 중 최고"라는 반응도 나왔다. 한 사용자는 "두 걸음 앞으로, 한 걸음 뒤로"라며 코덱스의 '선택한 모델이 용량 한도에 도달했다' 오류 화면을 올렸다.