Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← До новин

У AI-індустрії загострилася суперечка про загрозу людству

У сфері штучного інтелекту поновилася гостра дискусія про те, чи можуть передові системи загрожувати виживанню людства. Новий поштовх їй надав дослідник Джейкоб Коксон, який повідомив про звільнення з Anthropic через побоювання, що провідні AI-компанії ставлять людські життя під надмірний ризик. Після цього керівник напряму alignment в Anthropic заявив, що компанія щиро вважає можливою загибель усіх людей через AI, а особисто оцінює ймовірність такого сценарію як понад 10% упродовж наступного десятиліття.

У подкасті Equity Кірстен Коросек, Шон О’Кейн і Ентоні Ха обговорили ці заяви. Ха поставив під сумнів, кого саме охоплює слово «ми», і назвав наведений відсоток необґрунтованим. Водночас він відзначив, що Коксон підтвердив серйозність своїх побоювань професійним рішенням залишити цю роботу. Коросек припустила, що повідомлення про непередбачені прориви AI-агентів можуть також підкреслювати можливості моделей. Учасники зазначили, що щира тривога може поєднуватися з комерційними інтересами.

Вони також обговорили майбутнє IPO Anthropic і те, як такі твердження можуть позначитися на документі S-1 та оцінці компанії. За словами учасників, апокаліптичні сценарії здатні відволікати увагу від ближчих ризиків для зайнятості, довкілля й клімату. Випуск записали до того, як генеральний директор Anthropic Даріо Амодей оприлюднив план обережнішого розвитку AI.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини