Workspace IndexKnowledge Notes › Fable 5.1 — the price that dropped names the customer

#211PoC

Fable 5.1 — the price that dropped names the customer

Anthropic shipped Fable 5.1 with headline token prices unchanged ($10/$50 per million) and cache reads cut 75% ($1.00 → $0.25). Cache reads are the cost of re-reading long, stable context — which is exactly the cost structure of a long-running tool-use agent. Leaving chat prices alone and cutting only the cache is pricing design: it makes loops cheap, not conversations.

One number decides whether this release changes your bill: the cache-hit ratio of your own workload. Pull a week of API usage, split input tokens into cache reads vs. fresh reads, and recompute the bill under the new price. A low hit ratio means the cut is irrelevant to you; a high one means the same job now costs roughly half. Then check the two conditions the cache needs to stay hit: prompt prefixes must be byte-stable (a system prompt that changes per call kills every hit) and calls must land within the cache TTL. If either fails, fix the pipeline before concluding the price doesn't help.

Why

Read a price sheet the way you read a diff: what moved is the message. Every vendor price cut is also a statement about which customer the vendor wants more of. Token prices fund conversations; cache-read prices fund agents that carry a large stable context — a repo, a toolbox, a long transcript — through hundreds of loop iterations. Cutting the second by 75% while holding the first says the growth bet is on harnesses, not chat windows. It is the-harness-not-the-model written into a rate card.

The cut also re-prices an architectural argument. Whether to carry full context every call or aggressively summarize used to be a cost tradeoff; at $0.25 per million cached tokens, carrying a fat stable prefix becomes nearly free, and the discipline moves to prefix stability — engineering the prompt so the first N kilobytes never change. Gateways and routers (the LiteLLM layer) inherit the same shift: their cost models, and any margin they take on caching, get rewritten by a single vendor line item. Benchmarks doubled on agent tasks, but the rate card may move more workloads than the weights.

How it works

What moved, what didn't (per million tokens)

Line item Fable 5 Fable 5.1 Change
Input $10 $10
Output $50 $50
Cache read $1.00 $0.25 −75%

Who each line item bills

Cost line Workload it prices Made cheaper?
Input tokens Fresh context: new questions, new documents No
Output tokens Generation: answers, code No
Cache reads Re-read stable context: agent loops, long sessions Yes — the named customer

Conditions for the discount to reach you

  1. Prompt prefix is byte-stable across calls — templating that injects a timestamp or a per-call ID above the fold forfeits every hit.
  2. Call cadence fits inside the cache TTL — a nightly batch job re-pays the write.
  3. Your hit ratio is high enough to matter: bill ≈ fresh·$10 + cached·$0.25 (+ output). Compute it; don't infer it.

Mythos 5.1 is the same model gated for verified cybersecurity and life-science organizations — the split is access policy, not weights.

Where it lands in Jayverse

  • Rabbit: audit prompt-prefix stability for the payment agent's loop. The mandate-execution loop is exactly the harness workload this cache cut targets — keep the system prompt and tool schemas byte-stable, then recompute per-transaction cost under the new cache-read price.
  • Number/Auditor: log cache-read vs fresh-read tokens for any Claude-API pipeline. Recompute the actual bill under the new pricing instead of assuming the cut helps a given research or report-generation job.
  • gitboard: add a cache-hit-ratio line to the dashboard. For any service calling the Anthropic API, that ratio is now the number that decides the real bill, so track it alongside cost.

Key expressions

Words and phrases from this page worth keeping, with the Korean meaning and the sentence they come from.

Expression뜻 · 쓰이는 자리
name the customer(숨은) 고객을 지목하다, 드러내다 · 가격 정책이 누구를 겨냥하는지 암시할 때. "the price that dropped names the customer"
headline (price)표제로 내세우는, 대표 · 가장 눈에 띄게 광고하는 수치를 가리킬 때. "headline token prices unchanged"
rate card요금표 · 서비스별 가격을 정리한 공식 가격표. "written into a rate card"
byte-stable바이트 단위로 전혀 바뀌지 않는 · 캐시 적중을 위해 프롬프트가 한 글자도 안 바뀌어야 함을 가리킬 때. "prompt prefixes must be byte-stable"
above the fold(원래 신문 용어) 맨 위, 가장 먼저 보이는 자리 · 프롬프트 앞부분에 매번 바뀌는 값을 넣는 상황을 가리킴. "a timestamp or a per-call ID above the fold"
forfeit(권리·이익을) 잃다, 날리다 · 조건을 못 지켜서 혜택을 놓칠 때. "forfeits every hit"
cadence(반복되는) 주기, 리듬 · 호출이 얼마나 자주 일어나는지를 말할 때. "call cadence fits inside the cache TTL"
TTL (cache)캐시 유효 시간 · 캐시된 데이터가 살아있는 기간을 뜻하는 표준 용어. "inside the cache TTL"
re-pay the write쓰기 비용을 다시 치르다 · 캐시가 만료돼 처음부터 다시 비용을 내야 할 때. "a nightly batch job re-pays the write"
gated for~자격을 갖춰야만 접근 가능한 · 특정 조건을 충족해야 쓸 수 있게 제한된 상태. "gated for verified cybersecurity and life-science organizations"
LiteLLM여러 LLM API를 하나의 인터페이스로 통합해 호출하는 오픈소스 게이트웨이·라우터 계층 · 벤더의 가격 변동이 그대로 전가되는 중간 계층의 예시로 언급. "Gateways and routers (the LiteLLM layer) inherit the same shift"

← All Knowledge Notes · Workspace Index · Top ↑

Fable 5.1 — 내려간 가격이 고객을 지명한다

Anthropic 이 Fable 5.1 을 내놓으며 헤드라인 토큰 가격($10/$50 per M)은 그대로 두고 캐시 읽기만 75% 인하($1.00 → $0.25) 했습니다. 캐시 읽기는 길고 안정적인 컨텍스트를 반복해 읽는 비용이고 — 그건 정확히 장시간 도구 사용 에이전트의 비용 구조입니다. 대화 가격은 두고 캐시만 내린 것은 가격 설계입니다: 대화가 아니라 루프를 싸게 만들겠다는 것.

이 릴리스가 내 청구서를 바꾸는지는 숫자 하나가 결정합니다: 내 워크로드의 캐시 히트 비율. 일주일치 API 사용량을 뽑아 입력 토큰을 캐시 읽기 대 신규 읽기로 나누고, 새 가격으로 청구액을 다시 계산합니다. 히트가 낮으면 이 인하는 나와 무관하고, 높으면 같은 작업의 단가가 대략 반토막 납니다. 그다음 캐시가 히트를 유지하는 두 조건을 확인합니다: 프롬프트 접두사가 바이트 단위로 안정적이어야 하고(호출마다 조금씩 바뀌는 시스템 프롬프트는 모든 히트를 죽입니다), 호출이 캐시 TTL 안에 들어와야 합니다. 둘 중 하나라도 어긋나면, 가격이 도움이 안 된다고 결론 내리기 전에 파이프라인부터 고치십시오.

가격표는 diff 읽듯 읽어야 합니다: 움직인 것이 메시지입니다. 벤더의 모든 가격 인하는 어떤 고객을 더 원하는지에 대한 진술이기도 합니다. 토큰 가격은 대화의 값이고, 캐시 읽기 가격은 큰 안정 컨텍스트 — 레포, 도구상자, 긴 기록 — 를 수백 번의 루프에 끌고 다니는 에이전트의 값입니다. 첫째를 두고 둘째만 75% 내린 것은 성장 베팅이 채팅 창이 아니라 하네스에 걸려 있다는 말입니다. the-harness-not-the-model 이 요금표에 쓰인 것.

이 인하는 아키텍처 논쟁 하나의 가격도 다시 매깁니다. 매 호출에 전체 컨텍스트를 끌고 갈지, 공격적으로 요약할지는 비용 트레이드오프였는데 — 캐시된 백만 토큰에 $0.25 면 두꺼운 안정 접두사를 끌고 다니는 것이 거의 공짜가 되고, 규율은 접두사 안정성 — 앞 N 킬로바이트가 절대 안 바뀌게 프롬프트를 설계하는 것 — 으로 옮겨 갑니다. 게이트웨이·라우터(LiteLLM 층)도 같은 이동을 상속합니다: 그들의 비용 모델과 캐싱 마진이 벤더의 항목 한 줄로 다시 쓰입니다. 에이전트 벤치는 2배가 됐지만, 가중치보다 요금표가 더 많은 워크로드를 움직일 수 있습니다.

동작 방식

움직인 것, 안 움직인 것 (백만 토큰당)

항목 Fable 5 Fable 5.1 변화
입력 $10 $10
출력 $50 $50
캐시 읽기 $1.00 $0.25 −75%

각 항목이 청구하는 대상

비용 줄 값을 매기는 워크로드 싸졌나?
입력 토큰 신규 컨텍스트: 새 질문, 새 문서 아니오
출력 토큰 생성: 답변, 코드 아니오
캐시 읽기 안정 컨텍스트의 재독: 에이전트 루프, 긴 세션 예 — 지명된 고객

할인이 나에게 닿기 위한 조건

  1. 프롬프트 접두사가 호출 간 바이트 단위로 안정 — 앞부분에 타임스탬프나 호출별 ID 를 넣는 템플릿은 모든 히트를 몰수합니다.
  2. 호출 주기가 캐시 TTL 안 — 밤마다 도는 배치 잡은 쓰기 비용을 다시 냅니다.
  3. 히트 비율이 유의미할 것: 청구액 ≈ 신규·$10 + 캐시·$0.25 (+ 출력). 추정하지 말고 계산하십시오.

Mythos 5.1 은 같은 모델의 검증된 사이버보안·생명과학 조직용 제한 접근 버전 — 갈림은 가중치가 아니라 접근 정책입니다.

Jayverse에서의 위치

  • Rabbit: 결제 에이전트 루프의 프롬프트 프리픽스 안정성을 점검한다. 위임 실행 루프는 이 캐시 인하가 겨냥하는 바로 그 하네스형 워크로드다. 시스템 프롬프트와 툴 스키마를 바이트 단위로 고정한 뒤, 새 캐시 읽기 가격으로 트랜잭션당 비용을 다시 계산한다.
  • Number/Auditor: Claude API 파이프라인마다 캐시 읽기와 신규 읽기 토큰을 기록한다. 인하가 도움이 된다고 가정하지 말고 새 가격표로 실제 청구액을 다시 계산한다.
  • gitboard: 대시보드에 캐시 적중률 항목을 추가한다. Anthropic API를 호출하는 모든 서비스에서 이 비율이 이제 실제 청구액을 결정하는 숫자이므로 비용과 함께 추적한다.

핵심 표현

이 페이지의 영어 본문에서 배울 만한 단어와 표현, 뜻과 나온 자리.

Expression뜻 · 쓰이는 자리
name the customer(숨은) 고객을 지목하다, 드러내다 · 가격 정책이 누구를 겨냥하는지 암시할 때. "the price that dropped names the customer"
headline (price)표제로 내세우는, 대표 · 가장 눈에 띄게 광고하는 수치를 가리킬 때. "headline token prices unchanged"
rate card요금표 · 서비스별 가격을 정리한 공식 가격표. "written into a rate card"
byte-stable바이트 단위로 전혀 바뀌지 않는 · 캐시 적중을 위해 프롬프트가 한 글자도 안 바뀌어야 함을 가리킬 때. "prompt prefixes must be byte-stable"
above the fold(원래 신문 용어) 맨 위, 가장 먼저 보이는 자리 · 프롬프트 앞부분에 매번 바뀌는 값을 넣는 상황을 가리킴. "a timestamp or a per-call ID above the fold"
forfeit(권리·이익을) 잃다, 날리다 · 조건을 못 지켜서 혜택을 놓칠 때. "forfeits every hit"
cadence(반복되는) 주기, 리듬 · 호출이 얼마나 자주 일어나는지를 말할 때. "call cadence fits inside the cache TTL"
TTL (cache)캐시 유효 시간 · 캐시된 데이터가 살아있는 기간을 뜻하는 표준 용어. "inside the cache TTL"
re-pay the write쓰기 비용을 다시 치르다 · 캐시가 만료돼 처음부터 다시 비용을 내야 할 때. "a nightly batch job re-pays the write"
gated for~자격을 갖춰야만 접근 가능한 · 특정 조건을 충족해야 쓸 수 있게 제한된 상태. "gated for verified cybersecurity and life-science organizations"
LiteLLM여러 LLM API를 하나의 인터페이스로 통합해 호출하는 오픈소스 게이트웨이·라우터 계층 · 벤더의 가격 변동이 그대로 전가되는 중간 계층의 예시로 언급. "Gateways and routers (the LiteLLM layer) inherit the same shift"

← 전체 기술 노트 · 워크스페이스 인덱스 · 맨 위 ↑