Коннор Ліхі з ControlAI про те, чому суперінтелект — «не зброя, а противник»

Компанії, що займаються ШІ, говорили про надінтелектуальний ШІ так, ніби він неминучий, але нещодавні інциденти у сфері безпеки, як-от злам Hugging Face у OpenAI, демонструють потенційні небезпеки розгортання систем ШІ, здатніших за людей. То що станеться, коли ми не зможемо надійно контролювати дії цих систем?

У цьому епізоді подкасту TechCrunch Equity до Ребекки Беллан приєднався Коннор Лігі — дослідник ШІ, підприємець, а нині виконавчий директор у США некомерційної організації ControlAI, яка виступає за значно радикальніший підхід до безпеки ШІ: повну заборону компаніям розробляти надінтелект. Лігі пояснює, чому, на його думку, ризики стали надто великими, щоб керувати ними лише за допомогою узгодження та стримування, а також як те, що ще шість місяців тому здавалося нереалістичним, тепер підтримує хвиля нового законодавства.

Прослухайте повний епізод, щоб дізнатися більше про:

• Його оцінку «Закону Сандерса—Касара про заборону надінтелекту», аналогічного законопроєкту у Великій Британії, над яким консультувала Control AI, а також про те, чому він вважає, що американський законопроєкт може зайти далі, ніж необхідно.

• Як він сприймає провідні лабораторії ШІ — не стільки як компанії, що просто прагнуть отримати прибуток, скільки як політичних гравців, і що це означає для трильйонів доларів, які вкладають у будівництво центрів обробки даних.

• Чому Лігі вважає, що справжньою точкою неповернення стане момент, коли ШІ зможе створювати кращий ШІ, започаткувавши потенційно некерований цикл самовдосконалення

• Аргументи на користь міжнародних угод за принципом «довіряй, але перевіряй» і те, чому, на думку Лігі, Китаю насправді не вигідно створювати надінтелект.

Підписуйтеся на Equity у YouTube, Apple Podcasts, Overcast, Spotify та всіх інших подкаст-платформах. Ви також можете стежити за Equity у X і Threads за адресою @EquityPod.