Meta, OpenAI и Uber только что научили ИИ-агентов говорить первыми. А когда им следует молчать?

Кратко: Muse от Meta, Dots от OpenAI и помощник водителя Uber объединяет одна ставка: агент говорит первым. Это переносит сложную задачу с того, что отвечать, на то, когда прерывать пользователя, по какому каналу и с каким предложением. Классические методы машинного обучения и новые модели принятия решений могут решить эту задачу.

Три запуска, одна закономерность

• Meta Muse (8 сентября). Персональный агент, который бронирует, отправляет электронные письма и продолжает работать при закрытом приложении. Он запоминает детали, делает непрошеные предложения и запрашивает подтверждение — в собственном приложении и в WhatsApp.
• OpenAI Dots (29 сентября). Постоянно активные агенты, которые проводят «проактивное исследование» — отслеживают приложения пользователя в режиме только для чтения, чтобы обнаружить забытую накладную или ошибку в Slack. Они связываются с пользователем в ChatGPT, Slack и Teams; позже появится поддержка текста и голоса.
• Помощник водителя Uber. Он превращает сигналы с рынка в реальном времени в рекомендации. В недавнем выступлении продуктовая команда Uber рассказала, как водителю, простаивавшему 33 минуты, указали на более выгодную зону и привели доказательства. Их принципы: «всегда быть на стороне водителя», проактивно сообщать о возможностях и измерять, воспользовались ли водители рекомендациями. Версия с голосовым управлением без помощи рук была анонсирована 24 сентября.

От запроса к инициативе

Чат-боты были интерфейсом по запросу: пользователь сам выбирал момент, канал и вопрос. Проактивные агенты переворачивают эту модель. Если прерывать слишком часто, пользователи отключат уведомления. Если прервать слишком поздно, всплеск спроса уже закончится или срок оплаты накладной истечет. Неправильный выбор канала — и хорошее сообщение не сработает. LLM может написать сообщение, но это неподходящий инструмент для решения, отправлять ли его.

Правило: ценность должна превышать стоимость прерывания

Каждое проактивное сообщение — это ставка. Отправляйте его только тогда, когда ожидаемая ценность для пользователя превышает стоимость прерывания. У ценности есть четыре составляющие: размер возможной выгоды, вероятность того, что пользователь предпримет действие, скорость, с которой возможность исчезает, и то, чья это ценность — пользователя или платформы.

Ценность определяет оба решения. Сообщения с высокой ценностью и ограниченным сроком действия отправляются сразу; менее значимые ждут сводки; остальные не отправляются никогда. И чем ценнее сообщение, тем более навязчивый канал оно оправдывает.

«Когда» и «как» — задачи прогнозирования

Команды, занимающиеся уведомлениями и ростом, годами решают похожие задачи:

• Модели инкрементального эффекта оценивают, приведет ли напоминание к действию.
• Контекстные бандиты учатся выбирать лучший момент и канал для каждого пользователя.
• Модели восприимчивости прогнозируют, может ли пользователь взаимодействовать прямо сейчас: за рулем он или припаркован, на встрече или свободен.

У каналов есть порог оправданности. Карточка внутри приложения стоит недорого, чат — дороже, SMS — еще дороже, а голосовой звонок приберегают для срочных ситуаций, когда у пользователя заняты руки. Отслеживание результатов Uber предоставляет метки, необходимые этим моделям.

Где подходят модели принятия решений

Для этой задачи подходит новый класс моделей. Модели принятия решений, такие как Jev от TypeSafe и модель с открытыми весами Julia 1 от Supersonic Labs, не генерируют текст, а возвращают типизированное суждение: вариант из короткого списка, оценку или ответ «да/нет», в каждом случае с вероятностью. Julia 1 работает на CPU, принимая решение примерно за 33 мс.

Постоянно активный агент оценивает гораздо больше триггеров, чем отправляет сообщений, поэтому для каждого кандидата перед любым вызовом LLM можно задать дешевые структурированные вопросы: стоит ли это прерывания? Насколько это ценно и срочно? Отправить сейчас, подождать, включить в пакетную рассылку или отбросить? Карточка, чат, SMS или голос?

Ограничения имеют значение. Эти модели оценивают только предоставленный им контекст, поэтому они не узнают, что один пользователь игнорирует утренние сообщения;

Предлагайте дополнительные товары и услуги осторожно.

Агент, который говорит первым, — мощный канал дистрибуции. Meta заявляет, что изучает возможности электронной коммерции в Muse, и уже запустила Muse для малого бизнеса; OpenAI представила Dots одновременно с новым тарифом за 500 долларов в месяц; Uber может продвигать доставку и другие услуги. Но предложение — это всего лишь еще одно сообщение. Оно должно пройти тот же порог, оцениваемый по ценности для пользователя. Как только пользователи заподозрят, что агент продает, а не помогает, любое сообщение потеряет доверие.

Главный вывод

У всех трех компаний сильные модели. Победит тот, кто лучше распорядится вниманием: будет говорить редко, в нужный момент, в нужном месте и на стороне пользователя. Компании, располагающие многолетними данными об уведомлениях, могут получить фору.