💰 Claude Code 1-Hour Prompt Caching + /Recap: Bí Kíp Cắt 70% Chi Phí API

Cuối tháng mở dashboard Anthropic Console mà giật mình: bill API Claude Code của team 10 dev nhảy lên $4500. Mỗi lần dev gõ prompt là Claude phải đọc lại CLAUDE.md, schema database, mớ tài liệu nội bộ - context 20K token bị tính full price 50 lần/ngày. Cache cũ chỉ giữ 5 phút, đi pha cốc cà phê quay lại là build lại từ đầu. Tuần này Anthropic vừa drop 2 update âm thầm mà cực giá trị: 1-hour prompt cache TTL và /recap. Áp dụng đúng, bill $4500 xuống còn $1300.

💸 Vì sao bill Claude Code dev cao đến vậy

Vấn đề không phải Claude đắt, mà là kiến trúc context. Mỗi prompt kèm theo: CLAUDE.md 6-10K token, 3-5 file context auto-load 8-15K token, schema DB/API spec 4-8K token, lịch sử conversation 5-20K token. Tổng cộng 20-50K token input/prompt. Dev gõ 50 prompt/ngày = 1-2.5 triệu token full price. Cache 5 phút cũ chỉ cứu được khi gõ liên tục - dừng ăn trưa 30 phút là cache bay sạch.

⏰ 1-Hour Prompt Cache: Game changer thật sự

Anthropic vừa mở 1-hour cache TTL cho Claude Code. Bật bằng env var:

export ENABLE_PROMPT_CACHING_1H=1

Khác biệt cốt lõi:

• Cache 5 phút (cũ): miss rate cao, đi họp 15 phút quay lại là build lại từ đầu
• Cache 1 giờ (mới): giữ context cả buổi sáng, có thể họp standup, ăn sáng, code tiếp mà không mất cache
• Token cache rẻ hơn ~90% so với token thường - đây là điểm mấu chốt tiết kiệm

Cache hit khi prompt prefix trùng byte-by-byte với lần trước. Claude Code tự cache CLAUDE.md + system prompt + file context ổn định. Không cần sửa code, chỉ bật env là xong.

📊 Tính toán cụ thể: Tiết kiệm 70% bill

Giả sử 1 dev gõ 50 prompt/ngày, mỗi prompt load CLAUDE.md 8K + 4 file context 12K = 20K cached prefix.

Trước khi bật 1h cache:

• 50 × 20K = 1,000,000 token full price
• Sonnet input $3/M → $3/dev/ngày

Sau khi bật 1h cache:

• 1 lần đầu: 20K full price ($0.06)
• 49 lần đọc cache: 49 × 20K × 10% = 98K cached read ($0.03)
• Tổng: $0.09/dev/ngày → giảm 97% phần cached

Tính cả phần dynamic (output, conversation), bill thực tế giảm 70-85%. Agency 10 dev: $4500 → $1300/tháng.

🔄 /Recap: Quay lại session không mất context

Trước đây quay lại session sau vài giờ là phải explain lại "tao đang sửa file gì, quyết định kiến trúc nào". Giờ chỉ cần:

/recap

Claude tự tóm tắt: file đang chỉnh sửa, quyết định kiến trúc đã chốt, TODO còn dang dở, bug đang debug. Có thể config trong /config để auto-recap khi resume, hoặc gõ manual. Kết hợp caching + recap: chi phí giảm, năng suất quay lại task tăng.

⚙️ Setup 3 bước (env, restart, check)

Bước 1: Thêm vào ~/.zshrc hoặc ~/.bashrc:

export ENABLE_PROMPT_CACHING_1H=1

Bước 2: Restart Claude Code session (exit rồi mở lại terminal).

Bước 3: Kiểm tra trong Claude Code bằng /status. Nếu thấy Cache: enabled (1h TTL) là OK. Xem cache hit rate qua Anthropic Console → Usage → filter cache_read_input_tokens.

Bonus: Anthropic vẫn giữ forced 5-minute cache cho workload cần freshness cao. Set ENABLE_PROMPT_CACHING_1H=0 nếu schema đổi liên tục.

⚠️ Lưu ý quan trọng (cache prefix ổn định)

Cache chỉ hiệu quả khi prompt prefix ổn định byte-by-byte. Sai lầm thường gặp:

• Đổi CLAUDE.md liên tục trong ngày → cache miss hoàn toàn
• Inject timestamp/random ID vào system prompt → cache vô dụng
• Switch model Sonnet/Opus → cache tách biệt theo model

Best practice: cố định CLAUDE.md trong 1 phiên làm việc, đặt nội dung động ở cuối prompt (không phải đầu), group file context theo thứ tự ưu tiên ổn định.

---

Hai update nhỏ về UI nhưng tác động lớn về cost. Team enterprise nên bật ngay hôm nay, check dashboard sau 1 tuần để confirm cache hit rate >70%. Đọc thêm tại vibeaicoder.xyz.

#ClaudeCode #PromptCaching #AIEngineering #DevOps #VibeAICoder