Термин

Кэширование промптов

Скидка на повторный текст: если начало запроса совпадает с недавним, модель берёт его из временной памяти и считает в разы дешевле. В Claude Code это работает само, в своём продукте настраиваешь ты.

Что это

Модель не помнит прошлых запросов, поэтому агент каждый раз отправляет ей всё заново: инструкции, CLAUDE.md, историю разговора. Если начало запроса слово в слово совпадает с недавним, поставщик берёт уже прочитанное из кэша, временной памяти на своей стороне. У Claude такое чтение обходится в десятую долю обычной цены, у некоторых новых моделей ещё дешевле. На ответ скидки нет.

Что ломает кэш в Claude Code

Тут кэш работает сам. Сверка идёт с самого начала запроса, и правка там заставляет перечитать всё заново. Сменил модель посреди задачи или сжал разговор - следующий ответ выйдет медленнее и дороже. Живёт кэш от пяти минут до часа и продлевается, пока ты работаешь. После перерыва первый запрос снова платит за весь разговор.

Когда строишь свой продукт

В своём сервисе кэш включаешь сам и собираешь запрос так, чтобы неизменное шло первым. У меня так устроен бот, который пишет черновики ответов в поддержку: база знаний и образцы ответов стоят в начале и читаются из кэша, вопрос человека идёт последним. Иначе за одну и ту же базу платишь полную цену каждый раз.

Связанные концепты

Термин

Сжатие контекста

Команда /compact в Claude Code: агент пересказывает длинный разговор коротким конспектом и дальше работает с ним. Когда окно почти заполнено, Claude Code сжимает разговор сам.

Термин

Контекстное окно

Оперативная память ИИ-модели на один разговор: твои сообщения, её ответы, прочитанные файлы и инструкции проекта. Меряется в токенах. Чем сильнее окно забито, тем больше модель путается.

Термин

Токен

Кусочек текста, которым ИИ-модель читает и пишет: часть слова, короткое слово или знак препинания. В токенах считают цену запроса, лимиты подписки и то, сколько модель держит в голове.

Термин

Рассуждающая модель

ИИ-модель, которая перед ответом сначала думает про себя: раскладывает задачу на шаги, пробует варианты и ловит свои ошибки. На трудных задачах так точнее, но ответ приходит дольше и стоит дороже.

Термин

Режим без подтверждений

Режим, в котором ИИ-агент не спрашивает разрешения на каждое действие и работает сам. В Claude Code их два: auto, где действия проверяет вторая модель, и bypass permissions, он же YOLO, где проверок нет совсем.

Термин

Память агента

Заметки, которые ИИ-агент сам ведёт о тебе и проекте и перечитывает в начале каждой новой сессии. В Claude Code это папка с файлом MEMORY.md, куда попадают твои поправки и договорённости.

Гайды, упоминающие этот концепт