Сатья Наделла з Microsoft: моделям ШІ потрібне «аварійне гальмо»

Генеральний директор Microsoft Сатья Наделла став останнім із керівників технологічних компаній, хто поділився розлогими міркуваннями про те, як можна підвищити безпеку ШІ.

У дописі на X у суботу вранці Наделла написав, що настав час «зупинитися й оцінити архітектуру довіри» до ШІ.

«Ми не можемо сприймати суперінтелект як набір вкладених чорних скриньок і просто приймати або відхиляти його рекомендації, відповіді та дії», — написав Наделла, використавши термін, якому надає перевагу адміністрація Трампа для позначення ШІ. 

Як пояснив Наделла, цей підхід «означає відокремлення моделі від оболонки, яка координує її роботу», а також «винесення засобів контролю та запобіжників назовні». Він також закликав документувати «кожну суттєву дію моделі» за допомогою «захищених від підробки доказів, зрозумілих для людини», а також створювати системи, у яких «уповноважена особа» завжди має можливість «призупинити або вимкнути модель посеред виконання завдання».

«Ми повинні виходити з того, що модель скомпрометована, і з самого початку ізолювати її», — сказав він. «Уявіть це як аварійне гальмо».

Коментарі Наделли пролунали на тлі того, як провідні компанії у сфері ШІ дедалі частіше визнають випадки, коли вони, схоже, втрачали контроль над своїми моделями, а також після того, як генеральний директор Anthropic Даріо Амодеї опублікував план обережнішого розвитку ШІ.