Чи справді індустрія ШІ готова сповільнити темп?

Ми спостерігаємо масштабні дебати щодо безпеки ШІ та потенційного уповільнення, оскільки генеральний директор Anthropic Даріо Амодеї нещодавно опублікував план «регулювання темпів розвитку передових технологій», тоді як генеральний директор Nvidia Дженсен Хуанг публічно повторив твердження президента Дональда Трампа, що негативна реакція на ШІ є містифікацією, а регулювання непотрібне.

В останньому випуску подкасту TechCrunch Equity ми з Кірстен Коросек і Шоном О’Кейном обговорили, чи справді такі керівники, як Амодеї та генеральний директор OpenAI Сем Альтман, хочуть уповільнити розвиток.

Хоча я був здивований тим, скільки лідерів індустрії, здавалося, підтримали план Амодеї, Шон зазначив, що в плані, схоже, бракує деталей.

А коли Кірстен запитала, чи може поєднання чинного регулювання та роботи вільного ринку самостійно забезпечити достатні гарантії, Шон відповів: «На цей момент ми маємо федеральний уряд, який, безперечно, не виявляє особливого бажання широко застосовувати регулювання, не кажучи вже про конкретний випадок».

Крім того, він заявив: «Не схоже, що на цьому ринку є великий вибір для споживачів, який би його визначав — у тому сенсі, що якби одна з цих компаній зробила щось справді погане, це позначилося б на кількості скасувань підписок чи чомусь подібному».

Читайте далі, щоб ознайомитися з уривком нашої розмови, відредагованим для стислості та ясності.

Ентоні Ха: Шоне, що ти думаєш? Ми справді збираємося «регулювати темпи розвитку передових технологій»?

Шон О’Кейн: Чомусь це звучить як щось із «На гребені хвилі». Просто дуже каліфорнійська заява: «Ми будемо регулювати темпи розвитку передових технологій, братане».

Не знаю. Я казав у цьому шоу минулого тижня, що не думаю, ніби ми рухаємося до якогось уповільнення, значною мірою тому, що, на мою думку, ці компанії побудовані не так, щоб це спрацювало.

Тож почути це від Даріо з Anthropic, Сема з OpenAI і навіть певною мірою Ілона Маска було досить різким поворотом порівняно з тим, що я казав тиждень тому — і ми ще можемо обговорити, чи віримо ми їм. Скажу так: не думаю, що я цілковито помилявся, бо навіть із цими загальними планами, які Даріо виклав у дописі в блозі, та деякими іншими ідеями, про які говорили лідери індустрії, мені здається, нам досі бракує багатьох конкретних деталей — не лише щодо тверджень про те, чому ці люди вважають, що існують небезпеки та ризики, а й щодо того, що саме вони мають на увазі під уповільненням.

Ентоні, я знаю, що минулими вихідними ти досить уважно стежив за цими подіями, коли все це почало розгортатися, тож мені цікаво, чи ти, можливо, налаштований прихильніше за мене, коли йдеться про розуміння того, що саме вони намагаються сказати.

Ентоні: У мене теж є запитання. Мене справді вразило те, що так багато людей в індустрії, здавалося, досить швидко об’єдналися навколо цієї ідеї. Ще до того, як Амодеї опублікував свій допис у блозі, я бачив, як інші люди публікували певну версію цього [плану] протягом кількох днів напередодні.

Наскільки я розумію, ці пропозиції, що вийшли від спільноти, яка займається безпекою ШІ, обговорювалися вже певний час. Це не просто те, що [Амодеї] вигадав сам. Але здавалося, що багато людей були готові прийняти цю ідею, і в певному сенсі обнадіює бачити, що існує консенсус. Водночас це змушує мене дещо сумніватися, що такий підхід означатиме справді значні кроки до уповільнення.

Кірстен Коросек: Перш за все, консенсус може бути корисним. Але він також може стати початком формування картелю. Тож давайте чітко визначимо, про кого ми говоримо. Ми говоримо про лабораторії передового ШІ, і це конкретне та важливе уточнення.

Ти щойно сказав, що деталі не дуже зрозумілі, але ми знаємо, що загальна ідея полягає в тому, аби незалежні сторонні оцінювачі приходили до таких компаній, як Anthropic чи OpenAI, працювали там і контролювали практики та інциденти, пов’язані з безпекою ШІ. Але навколо цього є чимало невизначеності.

Є також інша пропозиція: щоб великі компанії, які займаються ШІ, у демократичних країнах координували стандарти та обмеження безпеки. А потім — цей компонент міжнародної координації. Ось такими є загальні ідеї.

Я також додам, що був дуже суттєвий спротив з боку цілком конкретних людей. І, що дивно, деяких людей, від яких я не очікувала такої реакції. Найочевидніший приклад, мабуть, — генеральний директор Nvidia Дженсен Хуанг, який висловився досить різко. Не знаю, що ви обоє думаєте […] про деякі його коментарі та дзвінок від президента Трампа, який він прийняв просто на сцені [на саміті All-In]

Шон: Думаю, Дженсен розуміє, що певною мірою його сприймають тут як дорослого в кімнаті. Це цікаво, бо, як на мене, ця динаміка змінилася. Якби ви запитали людей рік, а тепер уже майже два роки тому, хто відігравав цю роль, коли ці ШІ-компанії справді почали стрімко розвиватися, багато хто, мабуть, назвав би Microsoft і Сатью Наделлу. І мені здається, що Microsoft — з низки причин, у які нам зараз не потрібно заглиблюватися — втратила цей статус дорослого в кімнаті. Певною мірою, безумовно, через те, що Наделла сказав, що змусить Google танцювати, а цього так і не сталося. Ба більше, багато в чому сталося протилежне.

Дженсен, як на мене, розуміє не лише те, що йому потрібно сподобатися якомога більшій кількості людей, а отже, він хоче сказати максимально зважену річ. Він також є одним із найкорисніших посередників між цією сферою та цією адміністрацією — настільки, що президент телефонує йому просто під час виступу на цій дуже добре відвідуваній і статусній конференції, що дала їм обом змогу відповісти на весь цей хаос.

Кірстен: Щодо твоєї думки про те, що він є дорослим у кімнаті та посередником: він справді перебуває в позиції, яка дає йому змогу це робити. Але, на мою думку, його поява, яка здавалася дещо постановочною, зайшла надто далеко й чітко продемонструвала, що Nvidia дуже виграє від нестримного розвитку ШІ.

Не хочу бути циніком, але такою була моя перша реакція.

Ентоні: Інтереси Трампа й Хуанга збігаються, а Хуанг також говорить [Трампу] те, що той хоче почути.

Мені здалося, що деякі речі, на яких він конкретно зосередився, варто трохи розібрати. По-перше, він говорив про ідею: «Ми не допустимо уповільнення». Цікаво, що саме це слово — «уповільнення» — так часто звучало, але водночас і Альтман, і Амодеї використовують лексику уповільнення, хоча більше їм подобається слово «темп». Так?

І ці три пропозиції — ті, які ти щойно описала, Кірстен, — теоретично можуть призвести до уповільнення, але вони не говорять про це прямо. Йдеться про таке: «Гей, ми запроваджуємо базові заходи безпеки й дозволяємо деяким людям наглядати за нами». Але жодна з цих пропозицій сама по собі не означає, що все має відбуватися повільніше, ніж зараз, принаймні як я це розумію.

Кірстен: Тоді в мене запитання до Шона. Хіба не можна стверджувати, що у вільному ринковому суспільстві вже існують чинні правила, а також конкурентне середовище без протекціонізму, і якщо компанія випустить щось небезпечне, вона більше не зможе залишатися життєздатною? І сьогодні існують регулятори, які можуть переслідувати ці компанії. Чи ти відкидаєш цю ідею?

Шон: У вакуумі або на ринку, який не спотворений цілою низкою зовнішніх чинників, так, я думаю, у цьому є певний сенс. Але на цей момент ми маємо федеральний уряд, який, безперечно, не виявляє особливого бажання широко застосовувати регулювання, не кажучи вже про конкретний випадок.

Ми також перебуваємо в дивній ситуації, коли — я не зовсім знаю, як це правильно сформулювати, — не схоже, що на цьому ринку є великий вибір для споживачів, який би його визначав: якби одна з цих компаній зробила щось справді погане, це позначилося б на кількості скасувань підписок чи чомусь подібному.

Особливо тепер, коли вони вийшли на ринок корпоративних клієнтів і отримують значно більшу частину своїх доходів від продажу послуг компаніям, голосувати грошима там природно складніше. Корпорації не стануть згортати роботу й переходити з Codex [від OpenAI] на Claude Code [від Anthropic] лише тому, що вони принципово не погоджуються з якимось вчинком OpenAI.

До того ж їх підтримує такий обсяг інвестиційних коштів, що їм легше компенсувати будь-які збитки, якщо вони справді з ними зіткнуться. Тож у теорії це чудова ідея, але мені здається, що на практиці нічого з цього насправді не відбувається.