Как OpenAI превратила свои инструменты для программирования в dots — постоянно работающего персонального ассистента

Персональный ИИ-ассистент, работающий постоянно и продолжающий работать в фоновом режиме, даже когда вы не просите его об этом, — это ответ этого года на вопрос о том, как люди на самом деле будут использовать модели глубокого обучения. Стартап Instinct в одночасье стал сенсацией, а Meta направила всю мощь своего маркетинга на своего ассистента Muse.

OpenAI не собиралась оставаться в стороне. Компания выпустила dots, свой вариант ассистента, на своей конференции для разработчиков в конце сентября. Александр Эмбирикос, руководящий командой корпоративных продуктов OpenAI, присоединился к нам на TechCrunch Disrupt в этом месяце, чтобы объяснить, откуда появился этот продукт, — начав с вопроса о том, почему так много компаний, похоже, обращаются к милым маскотам в качестве аватаров для своих машин умножения матриц с триллионами параметров.

«Здесь происходит своего рода конвергентная эволюция», — сказал Эмбирикос, говоря о попытках создать ИИ-ассистентов. «Работая над продуктом, мы поняли: если представить это как сущность и единый разговор, а не множество разных разговоров… это начинает казаться интуитивно понятным».

Ассистент доступен в настольных и мобильных приложениях ChatGPT подписчикам тарифа Pro и выше; стоимость подписки начинается от 100 долларов в месяц. После подключения к вашему календарю, электронной почте, компьютеру и другим инструментам агент пытается помочь вам справляться с рабочими задачами.

Эмбирикос отмечает, что значительную часть функциональности dots можно было бы получить с помощью приложения Codex от OpenAI — инструмента для программирования, выпущенного в начале этого года. Но для этого требуется больше работы и ручного управления. Он вспоминает, как радовался, когда его жена начала оставлять компьютер включённым на всю ночь, чтобы её агенты могли продолжать работу.

«В продуктовой команде я думаю о том, как сделать это интуитивно понятным и полезным для людей», — сказал он участникам Disrupt. «Многое из этого связано не с внедрением в продукт какой-то новой технологии, а с тем, как вы представляете это пользователю и какие ощущения это вызывает».

Путь от чат-бота к инструменту для программирования и персональному ассистенту

Чтобы технология воспринималась интуитивно, потребовалось переупаковать функциональность моделей компании во что-то более доступное. Компания уже двигалась в этом направлении, когда выделила ChatGPT Work из агентных инструментов для программирования, созданных ею для инженеров-программистов. Даже название — игра со свободным пространством внутри логотипа OpenAI — призвано «создать ощущение чего-то, что со временем может стать повсеместным». (На вопрос, когда он узнал, что конкурирующий предприниматель в сфере ИИ Илон Маск владеет URL-адресом dot.com, Эмбирикос ответил: «Я узнал об этом очень поздно».)

Идея постоянного агента заключается в том, что ему не нужны подсказки. Для OpenAI это означает большее использование токенов, а для пользователей — более проактивного ассистента, «который как бы думает о вас и о том, как вам помочь», как выразился Эмбирикос.

В ходе наших испытаний способность ассистента думать наперёд очевидна и часто полезна, но пока ещё не доведена до совершенства. Он отмечает конфликты в календаре и приближающиеся дедлайны, но не всегда делает это своевременно.

«В первый раз, когда он сообщил мне об одном из таких [конфликтов], — это было в самом начале разработки, — он сказал мне об этом за три минуты до события», — рассказывает Эмбирикос о своём dot. «Он такой: “Эй, это событие скоро начнётся. Возможно, вам стоит что-нибудь сделать”. А у меня всего три минуты!»

Эмбирикос ожидает, что со временем своевременность улучшится, однако проактивный подход — ключевая особенность продукта. «Я слышал об инженере из стартапа, занимающегося доставкой дронами, и там сказали: “У нас произошёл сбой, и к тому моменту, когда я заметил, что он происходит, мой dot уже обнаружил сбой, уже проанализировал его и пришёл ко мне с полезной информацией о том, как мы можем его устранить”».

Передача dot ключей

Как и в большинстве сценариев использования ИИ-агентов, здесь возникает противоречие между персональной информацией, необходимой ИИ-модели для эффективной работы, и тем, какой объём личных данных вы фактически раскрываете разработавшей её компании. Muse критиковали за профили, которые он создаёт о вашей семье и друзьях. Программа использует их, чтобы понять, например, в какой ресторан вы могли бы захотеть пойти с конкретным другом, но эти данные также могут принести огромную пользу рекламному бизнесу Meta. Собирает ли dots аналогичные данные?

«Да, мы встроили в dots функцию, которую называем проактивным исследованием, — сказал Эмбирикос. — С определённой периодичностью он анализирует, что знает о вас, какие разговоры с вами вёл, а также к каким данным вы предоставили ему доступ и которые он может изучить, а затем исследует: “Что я могу сделать, чтобы быть вам полезнее?” После этого он, по сути, предлагает вам варианты».

Трудно отделить потребности агента в данных от потребностей его материнской корпорации. Стартап Hark, разрабатывающий собственного персонального ИИ-ассистента, прямо подчёркивает, что не собирает данные для финансирования рекламного бизнеса, как это делают OpenAI и Meta.

В OpenAI заявляют, что в dots действуют те же настройки конфиденциальности, что и в самом ChatGPT: пользователи могут отключить обучение моделей, запретив OpenAI использовать их разговоры для совершенствования ИИ, а также контролировать, к каким ресурсам на компьютере получает доступ ассистент и каким образом. Тем не менее эти настройки недостаточно детализированы, а приложение может проявлять настойчивость. Например, оно отказывается принимать доступ к облачным дискам только для чтения.

«Я думаю, нам нужно сделать настройки контроля чрезвычайно, чрезвычайно, чрезвычайно детализированными», — сказал Эмбирикос, но указал, что другой стороной этого вопроса являются интеллект и осмотрительность модели.

«На самом деле нас довольно сильно критиковали за это после запуска, — сказал Эмбирикос. — По умолчанию мы установили очень консервативные ограничения на действия агента, и он часто запрашивал разрешение. Я помню, что понимал: мы обязательно получим такие отзывы, но думал: “Ничего страшного, со временем мы сможем это настроить”».

Смогут ли персональные ИИ-агенты масштабироваться?

Другой важный вопрос, связанный с ИИ-агентами, заключается в том, смогут ли они масштабироваться. Они забавны, пока доступны лишь немногим, а историй о том, как агенты добывают труднодоступные столики в ресторанах, становится всё больше. Но компаниям не обязательно нравится взаимодействовать с агентами, и они могут быть к этому не готовы. Люди тоже явно не любят с ними взаимодействовать (замечание: прекратите присылать мне презентации от своих ИИ-агентов), и Эмбирикос относится к их числу. По его словам, у него также есть человек-ассистент, потому что корпоративные партнёры OpenAI хотят общаться с человеком. Он добавил: «Я лично никогда не собираюсь проводить встречу с чужим агентом».

Если представители индустрии ИИ правы и агенты — наше будущее, сможем ли мы прийти к нему, не перегрузив инфраструктуру, на которой сегодня держится наш мир, — от компаний и веб-сайтов до платёжных сетей?

«В OpenAI… мы не всегда движемся максимально быстро, когда речь идёт о выпуске следующей возможности для взаимодействия агента с окружающим миром, — сказал он. — Но когда мы это делаем, то очень тесно сотрудничаем с остальными участниками экосистемы. Наверное, я не могу много об этом говорить, но мы активно ведём множество переговоров с платёжными операторами».

Возможность позволить ИИ-ассистенту тратить деньги благодаря партнёрству с платёжными компаниями стала бы потенциально прибыльным первым шагом для OpenAI, но одновременно потребовала бы многого от потребителей. Предоставить ассистенту доступ к моей электронной почте уже кажется серьёзной уступкой, но мой банковский счёт остаётся под запретом. Пока.