-
토큰 4배가 비용 4배는 아니다: 캐시 읽기를 따로 세면 달라지는 숫자
AI 2026. 11. 22. 12:01반응형같은 기능을 만드는 데 Claude Code는 620만 토큰을 썼고 Codex는 150만 토큰을 썼다. 한 유튜브 영상(이승현의 AI네이티브, 「클로드 코드 한도, 왜 빨리 닳을까?」, 2026-11-18)이 든 비교다. 이런 숫자를 보면 「4배 비싸다」로 읽기 쉽다. 영상의 요지는 반대였다. 토큰 수, API 비용, 구독 한도는 서로 다른 숫자라서 하나로 다른 하나를 짐작하면 틀린다.
그 말이 내 사용 기록에서도 맞는지 세어 봤다. 이 블로그를 쓰는 Claude Code 세션 기록을 토큰 종류별로 나누고 공식 가격표로 비용을 매겼다.
요약
- 에이전트는 매 턴 앞선 대화를 통째로 다시 보낸다. 그래서 토큰 수가 크게 불어나지만, 다시 보내는 부분은 대부분 캐시 읽기로 처리된다.
- Claude Opus 5.5 API 가격으로 캐시 읽기는 새 입력의 1/20이다(100만 토큰에 0.2달러 대 4달러).
- 내 세션 기록(2026-11-04~11-22 중 기록이 있는 12일, API 호출 674번)에서 입력의 98.1%가 캐시 읽기였다. 모든 입력을 새 입력 가격으로 치면 650.9달러, 종류별 가격으로 치면 62.9달러다. 10배 넘게 차이 난다.
- 토큰 배수와 비용 배수는 어느 쪽으로든 어긋난다. 한 벤치마크 논문에서는 토큰을 더 적게 쓴 모델이 비용은 더 많이 들었다.
- 구독 한도가 캐시 읽기를 얼마로 세는지는 이 계산이 말해 주지 않는다. 아래 비용은 모두 API 가격표 기준이다.
에이전트는 같은 문맥을 다시 보낸다
코딩 에이전트의 한 턴은 「지금까지의 대화 전체 + 새 요청」을 모델에 보내는 일이다. 2만 토큰짜리 문맥으로 10턴을 돌면 그 문맥만 20만 토큰이 입력으로 잡힌다. 작업량이 10배가 된 것은 아니다. 같은 글을 열 번 보냈을 뿐이다.
API에는 이 반복을 싸게 처리하는 프롬프트 캐시가 있다. 앞부분이 바이트 단위로 같으면, 처음 한 번은 캐시에 쓰고 이후에는 캐시에서 읽는다. Anthropic 가격표의 Claude Opus 5.5 가격은 이렇다(100만 토큰당).
종류 가격 새 입력 대비 새 입력 4달러 1배 캐시 쓰기(5분 보관) 5달러 1.25배 캐시 쓰기(1시간 보관) 8달러 2배 캐시 읽기 0.2달러 0.05배 출력 20달러 5배 캐시 읽기 0.05배는 Opus 5.5와 Sonnet 5.5의 값이다. 가격표에서 대부분의 다른 모델은 0.1배다.
앞의 예로 계산하면, 2만 토큰 문맥을 캐시 없이 10번 보내면 0.80달러다. 처음 한 번 5분 캐시에 쓰고 9번 읽으면 0.136달러다. 토큰 수는 똑같이 20만인데 비용은 6배쯤 차이 난다.
내 세션 기록
Claude Code는 API 호출마다 사용량을 세션 기록 파일에 남긴다. 캐시 쓰기도 5분 보관과 1시간 보관으로 나눠 적는다. 이 블로그 프로젝트의 기록(2026-11-04~11-22, 하위 에이전트 포함, 11-22 02:40 UTC까지)을 종류별로 더했다. 호출은 674번이고, Opus 5.5가 612번, Sonnet 5.5가 62번이다. Sonnet 호출은 Sonnet 5.5 가격(새 입력 2달러, 캐시 읽기 0.1달러, 출력 10달러)으로 계산했다.
종류 토큰 비중 새 입력 1,378 0.0% 캐시 쓰기 3,167,586 1.9% 캐시 읽기 159,998,557 97.8% 출력 468,496 0.3% 캐시 쓰기 가운데 299만 토큰이 1시간 보관, 16만 토큰이 5분 보관이었다. 합하면 1억 6천만 토큰이 넘는다. 이 숫자만 보면 엄청나게 쓴 것 같다. 가격을 종류별로 매기면 그림이 달라진다.
- 모든 입력을 새 입력 가격으로 칠 때: 650.9달러
- 종류별 가격으로 칠 때: 62.9달러
전체 토큰의 98%인 캐시 읽기가 비용으로는 31.5달러다. 토큰 비중이 0.3%인 출력이 8.7달러다. 토큰 수와 비용이 얼마나 따로 노는지 보여 주는 숫자다.
「구독료 200달러로 1만 달러어치를 썼다」 같은 계산도 같은 자리에서 부풀기 쉽다. 사용량 화면이 캐시 읽기를 새 입력 가격으로 환산했다면, 내 기록에서는 10배 넘게 커진다.
토큰을 덜 쓰고 비용은 더 든 경우
Google DeepMind의 MKA 벤치마크 논문(arXiv 2611.25228)은 도면, 사진을 읽고 파일로 결과를 내는 과제 200개에서 모델 네 개를 비교했다. 비용은 각 회사 가격표로, 캐시 쓰기와 읽기 가격을 반영해 계산했다. 논문에 따르면 누적 입력 토큰의 93.7~97.7%가 캐시에서 나왔다.
모델 과제당 토큰 과제당 비용 Claude Fable 5.2 40.48M 35.28달러 Claude Opus 5.5 19.96M 10.29달러 Gemini 4 Carbon 7.05M 5.63달러 GPT-6 Astra 2.43M 6.03달러 Fable 5.2와 Carbon은 토큰이 5.74배 차이인데 비용은 6.26배 차이다. Opus 5.5와 Carbon은 토큰이 2.83배 차이인데 비용은 1.83배 차이다. GPT-6 Astra는 Carbon보다 토큰을 3분의 1만 쓰고도 비용은 더 들었다. 모델마다 토큰당 가격과 캐시 가격이 달라서, 토큰 배수로 비용 배수를 짐작할 수 없다.
품질도 토큰을 따라가지 않았다. 까다로운 기준만 모은 점수에서 Fable 5.2는 56.6%, Carbon은 54.3%였고, 논문은 이 2.2점 차이가 통계적으로 유의하지 않다고 적었다. 다만 모델마다 한 번씩 돌리고 한 번 채점한 결과라서, 실행마다 생기는 편차는 신뢰구간에 들어 있지 않다고 저자들이 밝혔다.
정가 환산 비교의 함정
Threads에서 본 한 사례는 오케스트레이터 하나로 서브에이전트 203개를 이틀 밤 돌려 기능을 만들었고, 나흘 동안 토큰 48억 개를 썼다고 소개했다. 「Claude API 정가로 2,452달러, 자사 오픈 모델로는 963달러, 2.5배 싸다」는 비교도 붙었다. 이미지 속 숫자를 더해 보면 계산은 맞는다.
같은 이미지 하단 주석에는 캐시 읽기가 96%이고, 오픈 모델 가격은 「주간 2.5배 비율」을 적용했다고 적혀 있었다. 그렇다면 2.5배는 비교해서 나온 결과가 아니라 계산에 미리 넣은 비율이다. 963달러도 실제 청구액이 아니라 같은 토큰 수에 그 비율을 적용한 값이다. 두 모델이 같은 품질로 같은 일을 했는지는 비교하지 않았다. 비교에 쓴 오픈 모델이 사례 주인공 회사의 제품이라는 점, 203개와 48억이라는 숫자를 다른 출처로 확인하지 못했다는 점도 같이 적어 둔다.
구독 한도는 또 다른 숫자
Claude Code를 구독으로 쓰면 비용 대신 5시간 한도와 주간 한도가 줄어든다. API 가격 문서는 구독 한도를 다루지 않는다. 영상은 구독 한도가 캐시 읽기를 얼마로 세는지 Anthropic이 공개하지 않았다고 했고, GitHub 이슈에서도 「거의 그대로 깎인다」는 신고와 「거의 세지 않는다」는 분석이 엇갈린다고 전했다.
그래서 위의 계산으로 「한도가 얼마나 닳았나」를 말할 수는 없다. 말할 수 있는 것은 하나다. 토큰 총량만 보고 「많이 썼다」, 「비싸다」라고 판단하면 틀리기 쉽다.
비교할 때 적을 것
두 도구나 두 모델을 비교하려면 토큰 총량 하나로는 모자란다. 영상이 권한 기록 항목과 이번에 세어 본 경험을 합치면 이 정도다.
- 새 입력, 캐시 쓰기, 캐시 읽기, 출력을 따로
- 쓴 모델과 그 모델의 가격표
- 걸린 시간
- 결과 품질(통과한 테스트 수, 채점 점수)
Claude Code에서는
/usage와/context로 현재 사용량과 문맥 크기를 볼 수 있다. 세션 기록 파일의usage항목을 더하면 종류별 합계를 낼 수 있다.한계
- 내 기록은 블로그 프로젝트 한 곳의 호출 674번이다. 다른 프로젝트나 다른 사람의 사용 패턴은 다를 수 있다.
- 비용은 API 가격표로 환산한 값이다. 실제로는 구독으로 썼으므로 이만큼 청구되지 않았다. 구독 한도가 캐시 읽기를 어떻게 세는지는 모른다.
- 캐시 쓰기 가운데 1만 7천 토큰은 기록에 보관 시간이 없어서 5분 보관 가격으로 계산했다. 결과에 주는 영향은 0.1달러 미만이다.
- 영상의 Claude Code 대 Codex 비교(620만 대 150만 토큰)는 모델과 조건이 공개되지 않아 다시 확인하지 못했다.
- MKA 논문은 모델당 1회 실행, 1회 채점이다. Threads 사례의 숫자는 작성자가 올린 이미지만 근거다.
출처: 이승현의 AI네이티브, 「클로드 코드 한도, 왜 빨리 닳을까?」(YouTube, 2026-11-18). Anthropic, Pricing(platform.claude.com/docs/en/about-claude/pricing, 2026-11-22 확인). arXiv 2611.25228 「MKA」(Google DeepMind). Threads @vibe.itji 게시물(2026-11-21).
반응형'AI' 카테고리의 다른 글
사람 라벨 없이 코딩 에이전트 벤치마크를 만든다: Meta의 Benchmark Factory와 품질 앵커 (0) 2026.11.21 옆 사람에게 말하듯 쓴 프롬프트가 더 나을까: 맨 요청, 역할 부여, 구체 사건 90개 비교 (0) 2026.11.21 에이전트에게 웹을 보여 주는 세 가지 방법: Playwright, Claude in Chrome, Orca 브라우저를 같은 과제로 재 봤다 (0) 2026.11.21 비서를 새로 들이지 않고 내 개발 환경에 앉혔다: Orca 봇 하루 사용기 (0) 2026.11.21 2B 모델은 한국어 문서작업에 쓸 만한가: 출력을 보기 전에 정한 다섯 기준과 버려진 첫 측정 (0) 2026.11.19