Что это
Модель не помнит прошлых запросов, поэтому агент каждый раз отправляет ей всё заново: инструкции, CLAUDE.md, историю разговора. Если начало запроса слово в слово совпадает с недавним, поставщик берёт уже прочитанное из кэша, временной памяти на своей стороне. У Claude такое чтение обходится в десятую долю обычной цены, у некоторых новых моделей ещё дешевле. На ответ скидки нет.
Что ломает кэш в Claude Code
Тут кэш работает сам. Сверка идёт с самого начала запроса, и правка там заставляет перечитать всё заново. Сменил модель посреди задачи или сжал разговор - следующий ответ выйдет медленнее и дороже. Живёт кэш от пяти минут до часа и продлевается, пока ты работаешь. После перерыва первый запрос снова платит за весь разговор.
Когда строишь свой продукт
В своём сервисе кэш включаешь сам и собираешь запрос так, чтобы неизменное шло первым. У меня так устроен бот, который пишет черновики ответов в поддержку: база знаний и образцы ответов стоят в начале и читаются из кэша, вопрос человека идёт последним. Иначе за одну и ту же базу платишь полную цену каждый раз.