Сатья Наделла: слід виходити з того, що всі моделі ШІ скомпрометовані

Генеральний директор Microsoft закликає встановити «аварійне гальмо» для ШІ.

Генеральний директор Microsoft закликає встановити «аварійне гальмо» для ШІ.

У розлогому дописі на X генеральний директор Microsoft виклав свої погляди на небезпеки, які становлять надзвичайно розвинені моделі ШІ, і на те, як протистояти цим ризикам. Наделла каже, що ми більше не можемо миритися зі світом, де ШІ розглядають як «набір вкладених чорних скриньок», чиї поради та дії ми просто приймаємо або відхиляємо. Він закликає створити прозорішу систему, у якій моделі можна буде ізолювати й спостерігати за ними, а також яка залишатиме «захищені від підробки докази, зрозумілі людям».

Багато його рекомендацій узгоджуються з тим, що ми чули від інших представників індустрії: своєчасне розкриття інформації про інциденти, незалежні аудити, дані, які можна перевірити, та ізоляція. Саме в останньому пункті він, схоже, заходить трохи далі за деяких інших фахівців у цій галузі, кажучи:

Ми маємо виходити з того, що модель скомпрометована, і від самого початку ізолювати її. Уявіть це як аварійне гальмо. Уповноважена особа завжди повинна мати змогу призупинити або вимкнути модель посеред виконання завдання. Для більш розвинених моделей будуть потрібні передовіші технології ізоляції, які ми маємо стандартизувати.

На жаль, Наделла також називає ШІ «суперінтелектом» упродовж усього допису.

• Терренс О’Браєн