Нам не потрібне регулювання ШІ — залиште безпеку нам, заявив Дженсен Хуанг із Nvidia

Засновник і генеральний директор Nvidia Дженсен Хуанг чітко висловив свою позицію щодо небезпек, які несе ШІ, виступаючи у вівторок на конференції Salesforce Dreamforce. На його думку, ШІ — це не якась нова форма «інопланетного розуму», як його описав щонайменше один дослідник безпеки OpenAI. Це лише апаратне та програмне забезпечення, створене людьми, каже він. Отже, на його думку, люди та чинні закони можуть його контролювати.

«Безпека — це інженерна, а не юридична проблема», — сказав він. «Зрештою, ми розробляємо програмне забезпечення. Зрештою, ми створюємо обчислювальні системи. Це складна обчислювальна система, але зрештою це саме обчислювальна система».

Тому, стверджує він, немає потреби в нових законах чи нормативних актах для її регулювання. Ба більше, Хуанг взагалі не бачить великої потреби в нових законах. На його думку, вільного ринку буде достатньо, щоб змусити компанії не випускати небезпечні продукти.

«Якщо ми не впевнені в безпеці продуктів — як і всі компанії, як ви та я, як усі компанії тут, — якщо ви створили продукт або послугу й не впевнені в їхній функціональності, можливостях чи безпеці, тоді не випускайте їх. І це дуже очевидна річ, яку слід зробити», — сказав він.

Він продовжив: «Ви не поспішайте, доки не будете впевнені, що випускаєте те, що сподобається ринку. Ринкові сили вже існують. Нам не потрібні нові закони. Нам не потрібні нові нормативні акти. Нам просто потрібно, щоб компанії вирішили, коли [їм] працювати на повній швидкості. Я вважаю, що інновації, швидкість і безпечні продукти… це хибний вибір. Безумовно, можна мати все це одночасно. Тож працюйте якомога швидше. Але якщо в будь-який момент ви відчуєте, що компанія виходить з-під контролю або продукт не буде безпечним, зробіть паузу й переконайтеся, що все зроблено правильно».

Певною мірою це заспокійлива думка. Якщо хтось у світі й знається на ШІ, то це засновник Nvidia, який створює апаратну основу для ШІ ще задовго до появи ChatGPT, а тепер керує компанією, що також виробляє моделі з відкритим кодом, агентів, інструментарії та пісочниці.

З іншого боку, якщо бути циніком, його позиція також не дивує — особливо з огляду на те, наскільки добре він заробив завдяки буму ШІ. Навіщо йому регулювання, яке додасть перешкод і може сповільнити прагнення Nvidia продавати дедалі більше систем і програмного забезпечення для ШІ? Як він також сказав в інтерв’ю: «Я амбітніший, ніж будь-коли. Завдяки нашим амбіціям і підвищенню продуктивності, якого ми досягаємо завдяки ШІ, для нас немає меж. Для нашої компанії немає меж. Немає меж для кожної галузі, для кожної окремої країни».

На жаль, навіть компанії з найкращими намірами випускають несправні продукти з непередбаченими наслідками — навіть програмне забезпечення. Пам’ятаєте масштабний збій CrowdStrike у 2024 році, коли «синій екран смерті» приземлив тисячі літаків і спричинив інші проблеми для бізнесу? Є й компанії, яких звинувачують у навмисних діях із далеко не добрими намірами. Meta щойно заплатила 18 мільярдів доларів для врегулювання позову щодо шкоди, якої соціальні мережі завдають дітям.

ШІ також уже завдав шкоди — незалежно від намірів чи проведеного тестування безпеки: від злому моделлю OpenAI платформи Hugging Face до позовів проти лабораторії ШІ через самогубства молодих людей, які вели тривалі розмови з її чатботом.

Стратегія «залишити їх у спокої», яка дозволила б цим компаніям випускати продукти на власний розсуд, може бути нерозумним підходом до безпеки ШІ з погляду суспільства. Водночас Хуанг має рацію в тому, що чинні закони про відповідальність виробників за продукцію можуть поширюватися на ШІ — якщо ШІ якимось чином не знищить нас усіх до того, як достатня кількість справ пройде через суди й дасть змогу перевірити цю теорію.

Він не обговорював інший шлях, який, схоже, набуває конкретних обрисів: саморегулювання галузі. Підхід Хуанга радше полягає в підтримці моделей із відкритими вагами та їх використання компаніями як конкурентної противаги закритим лабораторіям ШІ.

Але зараз галузь має коротке вікно можливостей, щоб запровадити саморегулювання та заохотити лабораторії ШІ в усьому світі, навіть у Китаї, усвідомити переваги участі в цьому процесі. Як сказав генеральний директор Microsoft Сатья Наделла на саміті All-In у понеділок: «Китай також має глибоко перейматися тими самими проблемами безпеки, якщо Сполучені Штати переймаються ними, чи не так? Чому для них має бути інакше? Не можна сказати, що в них не буде тієї самої проблеми зі зломами. Не можна сказати, що вони не хочуть переконатися, що їхні громадяни отримують користь від ШІ, так само як ми хочемо, щоб наші громадяни отримували користь від ШІ».

А поки що, якщо Хуанг виступає проти будь-якого нового регулювання ШІ, він може мати достатньо впливу, щоб домогтися свого. Цього тижня він також продемонстрував, що буквально має доступ до президента Трампа.