Meta, OpenAI та Uber щойно навчили ШІ-агентів говорити першими. А коли їм варто мовчати?

Коротко: Muse від Meta, Dots від OpenAI та асистент водія Uber ґрунтуються на одній ідеї: агент говорить першим. Це переносить складну проблему з того, що відповісти, на те, коли перервати користувача, через який канал і з якою пропозицією. Класичне машинне навчання та нові моделі прийняття рішень можуть її розв’язати.

Три запуски, одна закономірність

• Meta Muse (8 вересня). Персональний агент, який бронює, надсилає електронні листи й продовжує працювати навіть із закритим застосунком. Він запам’ятовує деталі, робить непрохані пропозиції та звертається по підтвердження — у власному застосунку й у WhatsApp.
• OpenAI Dots (29 вересня). Агенти, що працюють постійно й виконують «проактивне дослідження»: відстежують застосунки в режимі лише читання, щоб виявити забутий рахунок або помилку в Slack. Вони зв’язуються з вами в ChatGPT, Slack і Teams; текстове та голосове спілкування з’явиться згодом.
• Асистент водія Uber. Він перетворює актуальні сигнали ринку на поради. Під час нещодавньої презентації продуктова команда Uber розповіла, як водієві, який 33 хвилини простоював, вказали на кращу зону та навели докази. Їхні принципи: «завжди бути на боці водія», проактивно показувати можливості та вимірювати, чи діяли водії. Версію з голосовим керуванням без використання рук анонсували 24 вересня.

Від запиту до пропозиції

Чат-боти були інтерфейсом, що працює за запитом: користувач обирав момент, канал і запитання. Проактивні агенти перевертають цю модель. Переривайте надто часто — і користувачі вимкнуть сповіщення. Переривайте надто пізно — і сплеск попиту мине або рахунок буде прострочено. Оберіть неправильний канал — і хороше повідомлення не спрацює. LLM може написати повідомлення, але це неправильний інструмент для вирішення, чи варто його надсилати.

Правило: цінність має перевищувати вартість переривання

Кожне проактивне повідомлення — це ставка. Надсилайте його лише тоді, коли очікувана цінність для користувача перевищує вартість переривання. Цінність має чотири складові: важливість того, що поставлено на карту, імовірність дії користувача, швидкість втрати актуальності можливості та те, чиєю є цінність — користувача чи платформи.

Цінність визначає обидва рішення. Повідомлення з високою цінністю, актуальність яких швидко минає, надсилаються одразу; менш важливі чекають на дайджест; решта ніколи не надсилається. І що більшою є цінність повідомлення, то більш нав’язливий канал воно виправдовує.

«Коли» і «як» — це проблеми прогнозування

Команди, що відповідають за сповіщення та зростання, роками розв’язують схожі завдання:

• Моделі інкрементального ефекту оцінюють, чи спонукає підказка до дії.
• Контекстні бандити навчаються визначати найкращий момент і канал для кожного користувача.
• Моделі сприйнятливості прогнозують, чи може користувач взаємодіяти просто зараз: він за кермом чи припаркувався, на зустрічі чи вільний.

Кожен канал має свій поріг виправданості. Картка в застосунку коштує мало, чат — дорожче, SMS — ще дорожче, а голосовий дзвінок призначений для термінових моментів, коли руки зайняті. Відстеження результатів Uber надає розмічені дані, потрібні цим моделям.

Де підходять моделі прийняття рішень

Для цього завдання підходить новий клас моделей. Моделі прийняття рішень, як-от Jev від TypeSafe та Julia 1 з відкритими вагами від Supersonic Labs, не генерують тексту, а повертають лише типізоване судження: вибір із короткого списку, оцінку або відповідь «так/ні», кожне з імовірністю. Julia 1 працює на CPU — приблизно від 33 мс на одне рішення.

Агент, що працює постійно, оцінює значно більше тригерів, ніж надсилає повідомлень, тож кожен кандидат може отримати дешеві структуровані запитання ще до будь-якого виклику LLM: Чи варте це переривання? Наскільки це цінно й терміново? Надіслати зараз, зачекати, додати до добірки чи відкинути? Картка, чат, SMS чи голосове повідомлення?

Обмеження мають значення. Ці моделі оцінюють лише наданий їм контекст, тому не дізнаються, що один користувач ігнорує ранкові повідомлення;

Перехресні продажі — обережно.

Агент, який говорить першим, — потужний канал дистрибуції. Meta заявляє, що вивчає комерційні можливості Muse, і вже запустила Muse для малого бізнесу; OpenAI анонсувала Dots разом із новим тарифом за 500 доларів на місяць; Uber має доставку та інші послуги для просування. Але пропозиція — це лише чергове повідомлення. Воно має відповідати тому самому критерію, що вимірюється цінністю для користувача. Щойно користувачі запідозрять, що агент продає, а не допомагає, кожне повідомлення втратить довіру.

Висновок

Усі три компанії мають потужні моделі. Перегони виграє той, хто краще оцінюватиме увагу: говоритиме рідко, у слушний момент, у правильному місці й на боці користувача. Компанії, які роками накопичували дані про сповіщення, можуть мати фору.