Anthropic выкатила публичную бета-версию функции Message Threads на платформе Claude. Новинка направлена на устранение одной из главных болей разработчиков, работающих с длинными сессиями: необходимость каждый раз пересылать всю историю диалога в API-запросе.
Как это работает
Ранее каждый запрос к API требовал повторной передачи полного контекста разговора. Message Threads меняет подход: с сервера отправляется только то, что изменилось с момента последнего сообщения. По данным Anthropic, для запросов объёмом от 500 000 до одного миллиона токенов время до первого токена сокращается примерно на 35 процентов.
При этом расход токенов остаётся прежним — Claude по-прежнему читает полную историю диалога, просто получает её более эффективным способом.
Кому это нужнее всего
Компания указывает, что максимальную выгоду получают:
- кодинг-агенты;
- агенты для работы с компьютером (computer-use agents);
- рабочие процессы, обрабатывающие большие объёмы документов или изображений.
Технические детали и доступность
Поток данных между запросами хранится в памяти в зашифрованном виде и автоматически истекает через пять минут бездействия. Функция доступна на платформе Claude, а также через AWS, Microsoft Foundry и Google Cloud. Подробности о настройке и ограничениях изложены в документации Anthropic.
