Meta, OpenAI и Uber току-що научиха AI агентите да говорят първи. А кога да мълчат?

Накратко: Muse на Meta, Dots на OpenAI и асистентът за шофьори на Uber споделят един залог: агентът говори пръв. Това премества трудния проблем от това какво да отговори към това кога да прекъсне, по кой канал и с какво предложение. Класическото машинно обучение и новите модели за вземане на решения могат да го решат.

Три премиери, един модел

• Meta Muse (8 септември). Личен агент, който прави резервации, изпраща имейли и продължава да работи дори когато приложението е затворено. Той запомня подробности, прави непоискани предложения и търси одобрение, в собственото си приложение и в WhatsApp.
• OpenAI Dots (29 септември). Постоянно активни агенти, които извършват „проактивно проучване“ и наблюдават приложенията ви в режим само за четене, за да открият забравена фактура или проблем в Slack. Те се свързват с вас в ChatGPT, Slack и Teams, като предстои да поддържат текст и глас.
• Асистентът за шофьори на Uber. Той превръща сигналите от пазара в реално време в съвети. В скорошно представяне продуктовият екип на Uber описа как шофьор, без поръчка в продължение на 33 минути, е насочен към по-добра зона, като му е предоставено доказателство. Принципите им: да бъдат „винаги на страната на шофьора“, проактивно да показват възможности и да измерват дали шофьорите са предприели действие. Версия за използване със свободни ръце и глас беше обявена на 24 септември.

От изтегляне към изпращане

Чатботовете бяха интерфейс, който потребителят активира: той избираше момента, канала и въпроса. Проактивните агенти обръщат това. Ако прекъсвате твърде често, потребителите ще ви заглушат. Ако прекъснете твърде късно, пиковият период е приключил или фактурата е просрочена. Ако изберете грешния канал, доброто послание се проваля. LLM може да напише посланието; той е грешният инструмент за решаване дали то да бъде изпратено.

Правилото: стойността трябва да надвишава цената на прекъсването

Всяко проактивно съобщение е залог. Изпращайте само когато очакваната му стойност за потребителя надвишава цената на прекъсването. Стойността има четири компонента: колко е заложено, колко е вероятно потребителят да предприеме действие, колко бързо изтича възможността и чия е стойността — на потребителя или на платформата.

Стойността определя и двете решения. Съобщенията с висока стойност, чийто срок изтича, се изпращат веднага; по-скромните изчакват обобщение; останалите никога не се изпращат. И колкото повече си струва едно съобщение, толкова по-натрапчив канал е оправдало.

„Кога“ и „как“ са задачи за прогнозиране

Екипите, отговарящи за известията и растежа, от години решават различни версии на този проблем:

• Моделите за инкрементален ефект изчисляват дали едно подсещане ще предизвика действие.
• Контекстуалните бандити се учат кой е най-добрият момент и канал за всеки потребител.
• Моделите за готовност за взаимодействие прогнозират дали потребителят може да взаимодейства в момента: шофира или е паркирал, на среща ли е или е свободен.

Каналите имат цена за достъп. Карта в приложението струва малко, чатът — повече, SMS съобщението — още повече, а гласовото обаждане е запазено за спешни моменти, когато ръцете са заети. Проследяването на резултатите от Uber осигурява етикетите, от които тези модели се нуждаят.

Къде се вписват моделите за вземане на решения

Нова категория модели е подходяща за тази задача. Моделите за вземане на решения като Jev на TypeSafe и моделът с отворени тегла Julia 1 на Supersonic Labs не връщат текст, а само типизирана преценка: избор от кратък списък, оценка или отговор „да/не“, всеки с вероятност. Julia 1 работи на процесор, като вземането на решение отнема около 33 мс.

Постоянно активният агент оценява много повече сигнали, отколкото изпраща, така че всеки кандидат може да получи евтини, структурирани въпроси преди извикването на LLM: Струва ли си това прекъсване? Колко е ценно, колко е спешно? Изпрати сега, изчакай, включи в пакет или отхвърли? Карта, чат, SMS или глас?

Ограниченията са важни. Тези модели преценяват само контекста, който им е предоставен, така че няма да научат, че даден потребител игнорира сутрините;

Предлагайте допълнителни продукти внимателно.

Агентът, който говори пръв, е мощен канал за дистрибуция. Meta казва, че проучва търговски възможности в Muse и вече е пуснала Muse for Small Business; OpenAI обяви Dots заедно с ново ниво на цена от 500 долара месечно; Uber има доставки и други услуги за промотиране. Но предложението е просто още едно съобщение. То трябва да премине същия праг, измерен чрез стойността за потребителя. Щом потребителите заподозрат, че агентът продава, вместо да помага, всяко съобщение губи достоверност.

Изводът

И трите компании разполагат със силни модели. Надпреварата ще бъде спечелена чрез преценка за вниманието: да говориш рядко, в правилния момент, на правилното място и на страната на потребителя. Компаниите с години натрупвани данни за известията може да имат преднина.