Подкаст розглянув заклики зупинити розробку надінтелекту
Компанії у сфері штучного інтелекту дедалі частіше говорять про надінтелектуальні системи як про неминучий етап розвитку. Водночас нещодавні інциденти з безпекою, зокрема порушення, пов’язане з OpenAI та Hugging Face, привернули увагу до ризиків розгортання систем, здатних перевершити людські можливості.
У випуску подкасту Equity ведуча Rebecca Bellan розмовляє з Connor Leahy — дослідником ШІ, підприємцем і виконавчим директором ControlAI у США. Ця неприбуткова організація закликає компанії повністю припинити розробку надінтелекту, а не покладатися лише на методи узгодження поведінки систем із людськими цілями та їхнього стримування.
На думку Leahy, ризики стали надто великими, щоб керувати ними тільки за допомогою узгодження та стримування. Він також пояснює, чому ідея, яка ще нещодавно здавалася нереалістичною, тепер отримує підтримку в новій хвилі законодавчих ініціатив. У випуску обговорюється, що може статися, якщо високорозвинені системи ШІ неможливо буде надійно контролювати. Подкаст доступний на YouTube, Apple Podcasts, Overcast, Spotify та інших сервісах.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.