Чи можуть «суперінтелект» і необов’язковий пакт про безпеку вирішити іміджеву проблему ШІ?

Цього тижня президент Дональд Трамп прийняв багатьох найвідоміших представників галузі штучного інтелекту — зокрема, щоб оголосити, що уряд США більше не називатиме це штучним інтелектом. Тепер це суперінтелект.

В останньому епізоді подкасту TechCrunch Equity Кірстен Коросек, Шон О’Кейн і я обговорили мотиви цієї зустрічі та те, який вплив вона може мати на індустрію ШІ. Ми всі досить скептично поставилися до того, що «Спільне зобов’язання щодо відповідальності на передньому краї» (Joint Commitment on Frontier Responsibilities), підписане керівниками компаній, матиме якесь значення, особливо з огляду на те, що, як зазначив Шон, воно «глибоко необов’язкове», принаймні з юридичного погляду. (Натомість Трамп заявив, що вважає його «морально обов’язковим».)

Кірстен припустила, що справжнє значення зустрічі могло полягати в «ребрендингу ШІ». (Ці зусилля продовжилися цими вихідними з оголошенням Трампа про створення нових Сил суперінтелекту.) На її думку, головним повідомленням було: «ШІ нас уб’є, це страшно, він забере робочі місця — але суперінтелект цього не зробить».

Читайте далі короткий виклад нашої розмови, відредагований для стислості та зрозумілості.

Ентоні Ха: Офіційно, за розпорядженням президента Сполучених Штатів, це більше не штучний інтелект, а суперінтелект. Ми говорили про це минулого тижня, адже [Трамп] уже натякав на це — хоча він не натякає, він уже певний час говорить [про це]. Але тепер це закріплено указом. Якщо ви офіційний представник США, ви маєте говорити «суперінтелект», а не «штучний інтелект».

І це також було частиною ширшого оголошення щодо безпеки ШІ, яке, на мою думку, цікаве і через сам цей пакт, і через те, що така зустріч узагалі відбулася. Здавалося, все це зібрали досить швидко, адже лише два тижні тому, тиждень тому, президент Трамп казав: «Нам нічого цього не потрібно, ми маємо бути лідерами у сфері ШІ, ми не можемо жодним чином його обмежувати, нам не потрібне жодне регулювання, а будь-хто, хто говорить про небезпеку ШІ, фактично є китайським або демократичним агентом». І все ж раніше цього тижня всі ці генеральні директори компаній у сфері ШІ зустрілися з ним і підписали цей пакт.

Кірстен Коросек: Напередодні цього слід зазначити, що спротив регулюванню був не єдиною проблемою, і ми можемо обговорити, чи взагалі цей указ щось із цим робить — я б сказала, що ні, тут є певна частка театру, — але важливо й цікаво те, що лише кілька днів тому Anthropic справді була, так би мовити, у немилості через те, що відбувалося за лаштунками у відносинах із президентом Трампом. 

Усе змінилося, коли [генерального директора Anthropic] Даріо Амодея запросили на вечерю о 22:00. Вони зустрілися, а вже за кілька днів відбувся цей ланч, на якому були присутні практично всі впливові діячі технологічної індустрії з кожної великої технологічної компанії. Там були Марк Цукерберг, Джефф Безос, Ілон Маск, звісно, був і Даріо — усі вони були там. 

Цікаво, чи хтось із вас дивився пресконференцію, що відбулася після цього? Про неї з’явилося безліч мемів через цікаву, кумедну поведінку, яка виникає, коли разом збирається багато генеральних директорів технологічних компаній.

Але моє головне запитання до вас обох таке: що все це означає? І чи означає це взагалі щось?

Шон О’Кейн: Скільки у вас є часу? По-перше, так, вони вечеряли — Трамп і Даріо. Якщо ви прочитаєте інтерв’ю Трампа журналу Time, то не більше за мене розумітимете, наскільки він був обізнаний про те, що ця вечеря взагалі мала відбутися. Дивно жити в такій реальності, але саме в ній ми перебуваємо.

Також скажу ще дещо, що змушує мене скептично ставитися — який сюрприз — до того, наскільки покращилися відносини між адміністрацією та Anthropic: попри те, що явно є люди, які намагаються зблизити ці дві сторони, Міністерство оборони й досі категорично вважає Anthropic жахливою, «пробудженою» компанією та загрозою національній безпеці. Здається, Еміль Майкл через день критикує Anthropic у X. Думаю, попри появу Даріо на цій зустрічі, між ними все ще є певна дистанція. 

Що стосується угоди та всього іншого, будьмо реалістами: у документі, який вони всі підписали, вони неправильно написали назву Сполучених Штатів. До того ж він глибоко необов’язковий. Тобто це цілком добровільна угода. Мабуть, найбільше мені сподобалося те, що Трамп назвав її, цитую, «морально обов’язковою» — це такий рівень абстракції й термінології, з яким я раніше ніколи не стикався.

Ентоні: Що стосується Anthropic і її відносин із адміністрацією Трампа, було досить багато повідомлень, особливо під час того великого конфлікту з Міністерством оборони, про те, що різні частини Білого дому по-різному взаємодіяли з Anthropic. Здавалося, міністр фінансів був великим прихильником компанії, тоді як Міністерство оборони — точно ні, або принаймні було незадоволене деякими умовами, які Anthropic намагалася висунути щодо використання своїх технологій. 

У цьому сенсі здається, що не обов’язково щось змінилося. У Білому домі є люди, які хочуть використовувати технології Anthropic і залучати компанію до цих рішень, а є інші, які дуже, дуже, дуже, дуже цього не хочуть.

Що стосується угоди, вона не здається надто значущою. Значущим є сам факт, що вони вважали це вартим того, щоб зробити. Судячи з того, що вони неправильно написали «Сполучені Штати», здається, що все це зібрали поспіхом. [Але] сам факт, що був потрібен такий жест, здається важливим, навіть якщо я не думаю, що сама угода призведе до якихось серйозних змін.

Кірстен: Я справді вважаю, що відбулася одна важлива річ. І, на мою думку, саме в цьому полягала мета — ребрендинг ШІ. «ШІ нас уб’є, це страшно, він забере робочі місця, але суперінтелект цього не зробить». Це не моє особисте переконання. На мою думку, саме таким було повідомлення.