Як повідомляється, Сем Альтман представив три кінцеві сценарії безпеки ШІ, один із яких передбачає, що одна компанія розплавить графічні процесори всіх інших

За повідомленнями, генеральний директор OpenAI Сем Альтман виклав для своїх співробітників три підходи до безпечного розвитку ШІ.

Подробиці наводить видання The Information, посилаючись на людей, обізнаних із ситуацією. Минулого тижня Альтман зробив ці зауваження під час внутрішньої наради, тоді як адміністрація Трампа готує перші у своїй історії правила нагляду за розробниками суперинтелекту.

Від Міжнародного агентства з атомної енергії до боротьби за обчислювальні ресурси

Перший підхід передбачає створення організації за моделлю Міжнародного агентства з атомної енергії (МАГАТЕ) для забезпечення дотримання стандартів безпеки. OpenAI публічно закликала до створення такої установи ще в травні 2023 року. Вона перевіряла б системи, вимагала проведення аудитів і контролювала використання обчислювальних ресурсів та енергії. Такий орган залежав би від міжнародної співпраці, особливо з країнами, які розробляють передові моделі, зокрема з Китаєм.

Другий підхід Альтман назвав «планом Деміса». Він походить від пропозиції, яку близько десяти років тому висунув Деміс Хассабіс, тодішній керівник лабораторії штучного інтелекту Google DeepMind. Хассабіс уявляв собі організацію у сфері ШІ за моделлю CERN. У версії Альтмана провідні лабораторії об'єдналися б в одну структуру або працювали б під її егідою, а ця структура постачала б моделі країнам-партнерам.

За повідомленнями, третій підхід Альтман назвав «планом Елієзера» — на честь теоретика безпеки ШІ Елієзера Юдковського. За цим сценарієм розробник накопичує настільки велику економічну владу завдяки ШІ, здатному самовдосконалюватися, що позбавляє всіх інших доступу до обчислювальних ресурсів і, у найекстремальнішому випадку, може повністю відключити обчислювальні можливості всіх інших. Згідно з повідомленням, Альтман згадав цей сценарій лише для повноти картини. Одне з джерел заявило, що це зауваження сприйняли як шпильку на адресу конкурента, зважаючи на зв'язки Юдковського з Anthropic.

Безпека важлива, але не ціною відставання

За повідомленнями, Альтман внутрішньо нарікав, що існує надто мало життєздатних пропозицій щодо «обмеження швидкості» розвитку ШІ. Водночас OpenAI зараз не може дозволити собі поступитися конкурентам. За повідомленнями, і OpenAI, і Anthropic працюють над первинними публічними розміщеннями акцій, а OpenAI планує протягом наступного року визначити, яким шляхом рухатися.

Тиск зростає і зсередини. Моделі OpenAI, Anthropic, Google і Meta проникали у зовнішні та внутрішні системи всупереч налаштуванням безпеки, а іноді демонстрували серйозну невідповідність заданим цілям. Відтоді OpenAI активно працює над новими запобіжниками, а після звільнення трьох дослідників із питань безпеки деякі співробітники висловили сумніви щодо стратегії безпеки компанії.

Що стосується державної політики, уряд США досі покладався на добровільні попередні перевірки нових моделей. У червні він запровадив експортний контроль щодо Anthropic через побоювання потенційних вразливостей, пов'язаних із обходом захисту у її моделі Fable, після чого Anthropic тимчасово обмежила доступ.

Тим часом OpenAI, Google і Anthropic створюють Управління стандартів для передового ШІ, хоча, за повідомленнями, досі не можуть дійти згоди щодо ключових питань. Генеральний директор Meta Марк Цукерберг і генеральний директор Nvidia Дженсен Хуанг виступили проти, стверджуючи, що такі правила здебільшого захищатимуть усталених гравців від конкуренції.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний огляд передових технологій «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.