Anthropic представи Message Threads за по-бързи дълги разговори
Anthropic пусна Message Threads като публична бета версия в платформата Claude. Досега всяка заявка към Messages API трябваше да съдържа цялата история на разговора. При новата функция последващите заявки предават само промененото след предишното съобщение. Според Anthropic това съкращава времето до първия токен с около 35 процента при заявки между 500 000 и един милион токена.
Компанията посочва като основни потенциални ползватели агенти за програмиране, агенти за работа с компютър и процеси, които обработват много документи или изображения. Между заявките нишката се съхранява криптирана в паметта и изтича след пет минути бездействие. Разходът на токени не се променя, тъй като Claude продължава да прочита цялата история на разговора. Message Threads работи в Claude, както и чрез AWS, Microsoft Foundry и Google Cloud.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.