Writer представляет новую ИИ-модель и усовершенствованный инструментарий для снижения затрат на токены

Во всей индустрии ИИ пользователи всё лучше осознают, насколько дорогими могут быть их внедрения, и всё сильнее стремятся сократить расходы. Однако, хотя модели с открытым исходным кодом предлагают значительно более низкую стоимость одного токена, найти подходящую модель для конкретной задачи бывает непросто.

В четверг Writer, предлагающая маркетологам инструменты и ИИ-агентов, запустила новую флагманскую модель под названием Palmyra X6, призванную решить эту проблему для своих пользователей. Созданная как вариант модели с дополнительным обучением на основе открытой модели GLM-5.2 от Z.ai, новая система, по словам Writer, должна обеспечивать готовые к внедрению возможности по гораздо более низкой цене. Компания подсчитала, что новая модель в сочетании с изменениями в инфраструктуре агентской оболочки компаний позволит сократить расходы клиентов до 50% при выполнении базовых задач.

Одновременно с новой моделью компания также выпустила значительные обновления своей стандартной агентской оболочки. Обе функции будут доступны клиентам Writer с четверга.

«Мне кажется, корпоративный сектор совершенно устал гнаться за следующим бенчмарком, — сказал TechCrunch генеральный директор May Habib. — Им нужно снижение расходов, но, похоже, никто не может его обеспечить».

Новый подход уделяет особое внимание сложным многоэтапным задачам, которые выполняются быстрее и с использованием меньшего количества токенов. Writer считает оптимизацию оболочки важнейшим рычагом для достижения этой цели.

Недавняя статья исследователей Writer подтверждает обоснованность такого подхода: в ней тестировались небольшие изменения эффективности оболочки на нескольких разных моделях. Исследование показало, что во многих случаях изменения в оболочке были более надёжным способом сократить расходы, чем выбор модели, — в ходе тестирования затраты в среднем снизились на 40%.

«Оболочка — единственный компонент, эффективность которого умножается для каждой модели, используемой организацией, — как в настоящем, так и в будущем», — написали исследователи.

Для клиентов Writer взаимодействие по-прежнему не зависит от конкретной модели: Palmyra X6 будет работать наряду с другими моделями Writer или внешними моделями, импортированными через Azure или Amazon Bedrock. Однако Habib также считает, что стремление сократить расходы усиливает более широкое недоверие к крупнейшим ИИ-лабораториям, у которых есть финансовый стимул увеличивать объём использования токенов.

«Стремительный рост расходов здесь беспрецедентен для клиентов, как и степень, в которой ИТ-директора разочаровываются в этих лабораториях, — сказала Habib TechCrunch, добавив, что ИИ-лаборатории “не до конца понимают, как именно помочь предприятию получить пользу от ИИ”».