Аргументы в пользу ИИ, учитывающего контекст

Корпоративный ИИ может генерировать рекомендации, автоматизировать задачи и помогать организациям быстрее принимать решения. Но без понимания того, как на самом деле работает бизнес, даже мощные модели могут не учитывать ограничения и взаимосвязи, от которых зависит правильность решения. По мере того как компании стремятся перевести ИИ из стадии экспериментов в повседневную деятельность, главная задача заключается в том, чтобы дать технологиям контекст, необходимый для эффективной работы в рамках сложных бизнес-процессов.

Для Деваврата Шаха, главного научного сотрудника по корпоративному ИИ в Celonis, этот контекст лежит в основе того, что он называет «интеллектом принятия решений». По его словам, ИИ-агенты могут поддерживать выполнение отдельных задач в рамках более масштабных процессов принятия решений, однако им необходимо понимать роль каждой задачи и окружающие ее условия ведения бизнеса. «Нельзя просто делать это в вакууме», — говорит он. Без надлежащего операционного контекста агенты рискуют не заметить важные ограничения, допустить дорогостоящие ошибки или потребить чрезмерные вычислительные ресурсы, пытаясь выяснить, что им нужно знать.

Решение начинается с подключения ИИ к процессам и данным, которые предприятия уже используют. Контекстный слой может помочь агентам понимать рабочие процессы, действовать в рамках определенных ограничений и выдавать рекомендации, которые люди смогут проверить и одобрить. Шах советует организациям начать с конкретного бизнес-решения, определить его наиболее сложные этапы и проверить, способен ли ИИ улучшить их. Затем оценка прироста скорости и ценности поможет определить, стоит ли масштабировать такое применение.

Этот подход также может изменить то, как сотрудники расходуют свое время. Автоматизация повторяющейся ручной работы и координация задач между командами позволят людям сосредоточиться на более сложных стратегических решениях. Однако для реализации этой возможности потребуются инвестиции в обучение персонала, чтобы сотрудники могли понимать результаты работы ИИ и их последствия, а не просто передавать принятие решений агентам.

В будущем Шах видит возможности — от обычных операционных задач до планирования на уровне всего предприятия в таких областях, как финансы, управление персоналом, маркетинг и продажи. При наличии правильного контекста ИИ сможет помогать организациям оценивать варианты и быстрее принимать важные решения. Как говорит Шах, «сейчас, возможно, [планирование ресурсов] не должно занимать столько времени, и люди действительно смогут быстро принимать правильные решения».

Этот выпуск Business Lab создан в партнерстве с Celonis.

Полная расшифровка

Меган Татум: Я Меган Татум, и это Business Lab от MIT Technology Review — программа, которая помогает руководителям компаний разобраться в новых технологиях, выходящих из лабораторий на рынок.

Этот подкаст создан в партнерстве с Celonis.

Сегодня корпоративный ИИ находится на своего рода перепутье. После нескольких лет экспериментов, демонстраций и пилотных проектов руководители хотят получить четкие доказательства того, что масштабирование окажет положительное влияние на финансовые результаты, но многим не хватает важной части головоломки. Действуя без операционного контекста, корпоративный ИИ и ИИ-агенты работают с существенным дефицитом. Они применяют обобщенные принципы к специализированным сценариям и не справляются, оставляя руководителей компаний вполне объяснимо неубежденными, а потенциал ИИ — нереализованным.

Два слова для вас: контекст имеет значение.

Сегодня у меня в гостях Деваврат Шах, главный научный сотрудник по корпоративному ИИ в Celonis.

Добро пожаловать, Деваврат.

Деваврат Шах: Здравствуйте, Меган. Спасибо, что пригласили меня.

Меган: Большое спасибо, что присоединились к нам сегодня. Деваврат, для начала: почему сейчас так важно, чтобы организации учитывали операционный контекст применительно к корпоративному ИИ? Почему он является настолько важной частью перехода от экспериментов к масштабированию, о котором я говорила?

Деваврат: Это замечательный вопрос. И, как вы правильно отметили, что касается ИИ, мы находимся на пороге перехода от экспериментов к массовому применению. Как вы знаете, я преподаю ИИ в MIT в качестве профессора уже более двух десятилетий, поэтому неудивительно, что я с большим оптимизмом смотрю на будущее ИИ на предприятиях.

Когда я думаю о том, где ИИ может принести предприятиям наибольшую пользу, я прежде всего думаю о принятии решений — о том, как помогать предприятиям принимать решения, или, иными словами, как привнести в предприятия интеллект принятия решений. Если мы говорим о решениях, то как мы принимаем их сегодня? Возьмем MIT Technology Review, Celonis, MIT или любую крупную организацию. В общих чертах у нас есть разные типы решений, которые необходимо принимать. Есть стратегические, то есть эпизодические решения, а есть операционные, которые нужно принимать с высокой частотой. В обоих случаях у нас есть определенные процессы. Сначала нужно сделать это, затем то, потом еще что-то. Многие из нас помогают координировать эти действия. Многие из нас выполняют определенные роли в этих процессах — то, что Дженсен Хуанг называет задачами. И когда вы шаг за шагом выполняете все эти действия, то приходите к решению.

Именно в этих задачах, или, как я бы их назвал, ролях, ИИ может атомарным образом привнести агентную силу, чтобы мы могли автоматизировать отдельные части решений, если не решения целиком, расширять их поддержку или, возможно, иногда автоматизировать болезненные процессы. Но для этого, чтобы понять, какую роль или задачу нужно выполнить, нам действительно необходимо знать контекст. Нельзя просто делать это в вакууме. Именно поэтому контекст, объединенный с ИИ правильным образом, принесет предприятиям то, что я называю интеллектом принятия решений. И именно здесь, как мне кажется, произойдут самые значительные преобразования.

Меган: Верно. Если немного подробнее разобраться в этом вопросе: мы знаем, что многие организации, как вы сказали, сейчас внедряют агентный ИИ, рассчитывая на все более автономное принятие решений. Какие коммерческие риски возникают, если контекст не внедряется параллельно?

Деваврат: Отличный вопрос. Возьмем описанную мной ситуацию. Мы пытаемся автоматизировать, поддержать или расширить определенную роль — в зависимости от типа решения и задачи. А теперь на секунду представим, что все так называемые передовые лаборатории создали потрясающие модели и инфраструктуру ИИ, в которых содержится все, что произошло во Вселенной и, вероятно, произойдет в ней.

Теперь у нас есть небольшое решение, которое нужно принять в конкретном контексте. Если эта информация недоступна, то эта масштабная система, этот исключительно умный человек в конечном счете разберется во всем, задав множество вопросов — так же, как это делаем мы, люди, — и в итоге поступит правильно. Проблема в том, что для этого ей придется выполнить настолько большой объем вычислений, что ради решения простых задач мы будем тратить огромное количество вычислительных ресурсов. Это первый сценарий.

В реальности сценарий будет не таким, и мы упустим какой-то важный контекст, существенное ограничение или важный защитный механизм, а затем допустим ошибку. Иногда такая ошибка может быть безобидной. Например, я могу порекомендовать вам ресторан A, а вам, возможно, не понравится ужин. Но порой ошибки будут очень и очень дорогостоящими. Например, я сообщу вам неверный финансовый прогноз, и это каким-то образом приведет компанию к краху.

Меган: Верно. Значит, в условиях предприятия речь идет о действительно критически важных бизнес-решениях. И последствия ошибки здесь гораздо серьезнее, не так ли? А если говорить о практической стороне вопроса, каким образом организации могут добавить этот контекстный слой? Как, например, Celonis обеспечивает такой операционный контекст с помощью цифрового двойника организации, работающего в реальном времени?

Деваврат: Безусловно. Думаю, будет полезно немного подробнее остановиться на истории Celonis. Как вы знаете, Celonis появилась как организация с миссией и целью помогать компаниям придерживаться идеальных процессов, создавать более эффективные процессы и обеспечивать взаимодействие людей с несколькими взаимосвязанными процессами. Именно это составляет ее основную, если так можно выразиться, ДНК — то, что я назвал бы процессным интеллектом. Речь идет о том, как предприятия объединяют несколько процессов, переводят их в цифровой вид, помогают людям улучшать свои процессы, понимать, где возникают проблемы, а затем реорганизуют процессы внутри организаций, чтобы все работало лучше.

Если мы хотим привнести сюда интеллект принятия решений, то каждый атомарный шаг этого процесса, который раньше, возможно, выполняли эксперты и сотрудники, теперь должны помогать выполнять агенты. И именно здесь понимание контекста процесса внутри предприятия в сочетании с ИИ-агентами — я бы назвал их ролевыми агентами — обеспечивает правильный способ внедрения интеллекта принятия решений на предприятиях. Именно так Celonis привносит контекст, помогающий предприятиям принимать более качественные решения.

Меган: Верно. А если говорить о том, как это работает, как контекстный слой связан с нижележащим слоем — слоем систем учета — и с вышележащим агентным слоем?

Деваврат: Это замечательный вопрос, Меган. Нижележащий слой, если называть его системой учета, в основном состоит из имеющихся инструментов рабочих процессов и создаваемых ими журналов событий. Вышележащий слой — это либо бизнес-пользователи и эксперты, потребляющие информацию, либо агенты, работающие поверх этого контекстного слоя и предоставляющие им информацию. В этом и заключается особенность того, как разработана контекстная модель Celonis: она одновременно выполняет три задачи. Во-первых, получает правильную абстракцию нижележащего слоя, чтобы нужные элементы процесса можно было наделить агентными функциями. Во-вторых, структурированным образом и с заданными ограничениями привносит ролевых агентов для каждого из этих элементов. И в-третьих, изначально ориентирована на работу с агентами, чтобы другая агентная инфраструктура, уже взаимодействующая с ней, могла естественным образом подключаться к ней, а затем предоставлять нужные результаты людям или экспертам для проверки, изучения, утверждения и, возможно, последующей автоматизации.

Меган: Замечательно. А есть ли, помимо всех обсуждаемых преимуществ, сложности, связанные с внедрением контекстного слоя? Например, располагают ли большинство организаций необходимыми данными, чтобы предоставить ИИ нужный контекст? Если нет, какие практические шаги им следует предпринять для решения этой проблемы?

Деваврат: Это снова важный вопрос, если мы хотим воплотить все это в реальность. Можно представить идеальный мир, но если мы не способны его достичь, он так и останется идеальным. Итак, в описанной нами системе есть три слоя: нижний слой систем учета и инструментов рабочих процессов. В некотором смысле эти элементы уже существуют. Они не обязаны быть полными или максимально чистыми. Контекстная модель, разработанная с использованием агентной архитектуры, умеет подключаться к ним и осмысливать их.

А верхний слой в значительной степени контролируется инфраструктурой Celonis, поэтому он не так сложен. Однако здесь есть один важный момент: когда мы приходим на предприятие и открываем, например, систему учета или инструмент рабочих процессов, журналы событий или что-то подобное, необходимо пройти то, что я назвал бы классической информационной безопасностью, чтобы убедиться, что программному обеспечению поставщика, поступающему в вашу организацию, можно доверять. Думаю, это основной процесс, этап между тем, что происходит до и после, если можно так выразиться.

Меган: Верно. Значит, это действительно важнейший шаг, который нужно предпринять. А поскольку контекстные ИИ-агенты смогут принимать более сложные и, будем надеяться, более точные решения, как, по-вашему, будет меняться роль человеческого интеллекта и участия? И как организациям найти баланс между ними?

Деваврат: Здесь есть преимущества, но есть и сложности. Преимущества очевидны. Если правильные ИИ-агенты будут выполнять правильные роли в ваших процессах принятия решений, то, будем надеяться, они будут делать это быстрее, а значит, решения будут приниматься раньше и вы не упустите альтернативные издержки. Вы будете принимать решения вовремя, сможете гораздо лучше планировать и так далее. Это особенно полезно, когда необходимо выполнять очень ручные, повторяющиеся и утомительные задачи, а доступность сотрудников и координация между людьми становятся важными частями процесса принятия решений. Именно здесь может возникнуть огромная ценность. Обратная сторона заключается в том, что люди больше не будут выполнять эту работу.

С другой стороны, есть еще один тип решений, которые мы постоянно принимаем, — стратегические решения. Это может быть небольшое или крупное стратегическое решение, но обычно у большинства организаций не хватает ресурсов, чтобы обдумывать такие решения. Теперь такая возможность появится, и именно здесь, вероятно, гораздо активнее будут участвовать люди и эксперты. Иными словами, у них будет более качественная поддержка, которая поможет рационально обдумать имеющиеся варианты и сравнить их между собой. А в конечном счете организация сама должна решить, какой вариант выбрать, поскольку именно в ее интересах определить, куда двигаться дальше.

Таким образом, произойдет, как я бы это назвал, перераспределение рабочей силы: вместо большого объема повторяющейся работы люди будут выполнять гораздо меньше повторяющейся и гораздо больше стратегической работы, уделяя ей свое время.

Еще одна область, которая лично меня весьма воодушевляет, заключается в том, что каждое технологическое изменение создает новые виды работы, которые трудно предсказать в момент перемен. Я надеюсь, что появятся новые возможности и виды деятельности, благодаря которым мы сможем задействовать сотрудников. Разумеется, это означает, что нам придется тщательно продумать переподготовку или дополнительное обучение части персонала. И я, как ученый и преподаватель, действительно считаю, что эти изменения происходят настолько быстро, что нам также нужно действовать соответствующим образом.

Меган: Что должен делать любой руководитель, принимающий решения и слушающий эту беседу, чтобы начать внедрение этих изменений? Например, как подготовить персонал? Какую роль здесь должно играть управление?

Деваврат: Это отличный вопрос. Если вы хотите начать, прежде всего нужно определить решение, в которое вы хотите привнести интеллект. Давайте определим связанный с ним процесс. Определим каждый этап этого процесса. Выберем наиболее важный и сложный этап. Попробуем привлечь ИИ-агентов, чтобы они помогли его выполнить. А затем продолжим и измерим, насколько повысилась скорость и какую ценность мы получили. Это поможет понять, стоило ли оно того. Это первый момент.

Второй момент — управление. Мы собираемся внедрить ИИ предписанным образом для каждой задачи в рамках определенной роли. Это означает, что для этой роли мы можем очень четко определить, что разрешено и что запрещено. Для этого Celonis предлагает сертифицированных ролевых агентов. Благодаря этому вы будете четко понимать, каким должен быть соответствующий контракт.

И третья составляющая — люди. Здесь особенно важно, что часть работы будет автоматизирована, но в другой части эксперты останутся в контуре. Им необходимо понимать результаты работы ИИ, знать, как с ними работать и каковы будут их последствия. Поэтому потребуется определенное обучение в области ИИ, а также обучение работе с соответствующими инструментами.

Меган: Да, безусловно. Темпы изменений в этой сфере невероятны, не так ли? И раз уж мы заговорили о будущем, давайте завершим разговор взглядом вперед: при наличии правильного контекста, конечно, какие варианты применения корпоративного ИИ могут появиться в ближайшем будущем и оказать наибольшее влияние? Или какие из них вас больше всего воодушевляют?

Деваврат: Думаю, я бы разделил их на три типа. Все они связаны с интеллектом принятия решений, но типов будет три. Первый — большое количество повторяющейся ручной работы, требующей значительных трудозатрат.

Второй — задачи, связанные с координацией. Значительная часть работы, которую мы сейчас выполняем как информационные сотрудники, связана с координацией, поэтому мы используем электронную почту, электронные таблицы и так далее. Многое из этого можно будет делать гораздо лучше, быстрее и, так сказать, менее скучно.

Третий тип — поддержка людей, принимающих решения, с целью обеспечить стратегическую поддержку и расширить их возможности. Это третий тип решений, которые будут приниматься. Если подумать о любом процессе планирования на предприятии — финансовом планировании, планировании рабочей силы, маркетинге, продажах, разработке продуктов и любом другом, — все это критически важные бизнес-решения, на которые уходит целый год в рамках ежегодного планирования. Возможно, теперь это не должно занимать столько времени, и люди смогут быстро принимать правильные решения.

Меган: Это было бы замечательно, не так ли? Потрясающе. Большое спасибо за этот замечательный разговор, Деваврат. Это был Деваврат Шах, главный научный сотрудник по корпоративному ИИ в Celonis, с которым я беседовала из Брайтона в Англии.

На этом выпуск Business Lab завершен. Я ваша ведущая, Меган Татум. Я редактор и ведущая Insights, подразделения MIT Technology Review, занимающегося специальными публикациями. Мы были основаны в 1899 году при Массачусетском технологическом институте, и каждый год вы можете найти нас в печати, в интернете и на мероприятиях по всему миру. Дополнительную информацию о нас и нашей программе можно найти на нашем сайте technologyreview.com.

Эта программа доступна везде, где вы слушаете подкасты. Если вам понравился этот выпуск, мы надеемся, что вы уделите минуту и поставите нам оценку или оставите отзыв. Business Lab — это программа MIT Technology Review, а этот выпуск подготовила Giro Studios. Большое спасибо за внимание. До свидания.

Этот материал подготовлен подразделением Insights, отвечающим за специальные материалы MIT Technology Review, а не его редакцией. Исследование и написание выполнили люди; любые инструменты ИИ, которые могли использоваться, применялись только в производственных процессах под контролем человека.