2 часа в деньОткрыть в Telegram
← Все статьи

Контекст, память и токены

Что модель видит сейчас, что система хранит между запусками и как держать бюджет.

# Контекст, память и токены **Контекст** — данные, доступные модели в текущем вызове. **Память** — внешний механизм, который сохраняет факты между вызовами. **Токены** — единицы объёма входа и ответа, влияющие на цену, задержку и предел окна. ## Что класть в контекст - цель и критерий готовности; - только нужные фрагменты источников; - состояние текущего шага; - правила и формат ответа. Историю не следует бесконечно дописывать. Сжимайте её в структурированное резюме, а документы ищите по запросу и подставляйте релевантные фрагменты. ## Память без мифов Храните происхождение факта, время обновления и область действия. Предпочтение пользователя и итог конкретной операции — разные типы памяти. Для чувствительных данных нужны срок хранения и удаление. ## Бюджет Оцените максимум вызовов, размер каждого входа и допустимую стоимость запуска. При превышении лимита агент должен сократить контекст, перейти к дешёвой модели или остановиться.