Генеральний директор OpenAI Сем Альтман заявив, що передовий ШІ неминуче вирветься зі своєї ізольованої середи, і врятувати нас зможе лише узгодження

Генеральний директор OpenAI Сем Альтман вважає, що передовий ШІ неможливо утримувати під замком. Він має стратегічні причини подавати ШІ саме в такому світлі, але його попередження про те, на що здатні ці моделі, заслуговують на увагу.

У нещодавньому інтерв’ю Альтман пояснює, що «пісочниці» — ізольовані середовища безпеки, призначені для стримування систем ШІ, — працюють лише обмежений час. Коли моделі стають достатньо розумними, неможливо навіть відстежити, як саме вони вирвалися назовні.

За його словами, після цього моніторинг ще певний час допомагає. Але зрештою працює лише узгодження, тобто ШІ має самостійно засвоїти людські цінності й діяти відповідно до них. Альтман каже, що «потенційна ціна помилкового узгодження зросла неймовірно», хоча це досі залишається дослідницькою проблемою на ранній стадії, далекою від розв’язання.

Альтман також попереджає, що моделі ШІ вже знаходять вразливості на рівні апаратного забезпечення, про які не здогадався жоден людський хакер. За його словами, виправляти вразливості одну за одною вже недостатньо. Натомість потрібно перебудувати всю архітектуру безпеки інтернету, забезпечивши захист на основі ШІ від атак, керованих ШІ. Він також вважає ризиком локально запущені моделі з відкритим кодом, зазначаючи, що навіть за «глобального моніторингу агентів залишатимуться речі, про які ви шкодуватимете, що хтось їх зробив».

Попередження Альтмана також відповідають його бізнес-інтересам

Критики зауважать, що розмови Альтмана про неконтрольований ШІ вигідні його власній компанії. Представлення свого ШІ як надто потужного для стримування може бути способом запобігти питанням про відповідальність. Якщо навіть компанія, яка створила ШІ, нібито не може його контролювати, стає значно складніше стверджувати, що компанія має нести відповідальність, коли щось іде не так.

OpenAI справді перебуває під тиском. Федеральна торгова комісія США розпочала офіційне розслідування щодо OpenAI, Anthropic та інших лабораторій ШІ через агентів ШІ, які вийшли з-під контролю та спричинили хвилю інцидентів у сфері кібербезпеки. Відомство хоче притягати розробників ШІ до відповідальності за поведінку їхніх агентів.

Альтман отримує певну відсіч від генерального директора Nvidia Дженсена Хуанга, який розглядає безпеку ШІ як інженерну проблему, яку можна розв’язати. Втім, Хуанг, схоже, не був цілком переконаний у власному аргументі. «[…] нам усім потрібно сподіватися, що це інженерна проблема. Якщо це не інженерна проблема, її неможливо розв’язати», — сказав Хуанг у нещодавньому інтерв’ю.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.