Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← До новин

Керівник ControlAI закликав зупинити розробку надінтелекту

Коннор Ліхі, дослідник і підприємець у сфері штучного інтелекту та виконавчий директор ControlAI у США, вважає, що ризики надінтелектуальних систем стали надто великими, щоб керувати ними лише за допомогою узгодження цілей і стримування. У подкасті Equity він підтримав радикальніший підхід — повністю припинити розробку надінтелекту. За його словами, таку систему слід сприймати як супротивника, а не як зброю.

Під час розмови обговорювали нещодавні інциденти з безпекою ШІ, зокрема злам OpenAI через Hugging Face. Їх навели як приклади потенційних небезпек розгортання систем, чиї можливості перевищують людські. Ліхі також розповів про американський законопроєкт Sanders-Casar “Ban Superintelligence Act” і паралельну законодавчу ініціативу у Великій Британії, щодо якої ControlAI надавала консультації. Він вважає, що американський документ може бути суворішим, ніж потрібно.

Ліхі назвав провідні лабораторії ШІ не лише компаніями, що прагнуть прибутку, а й політичними гравцями. На його думку, це важливо з огляду на трильйони доларів, які вкладають у будівництво дата-центрів. Моментом можливого неповернення він вважає появу ШІ, здатного створювати кращий ШІ, що може запустити некерований цикл самовдосконалення. Також Ліхі підтримав міжнародні угоди за принципом «довіряй, але перевіряй» і заявив, що створення надінтелекту, на його думку, не відповідає інтересам Китаю.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини