У AI-індустрії загострилася суперечка про загрозу людству
У сфері штучного інтелекту поновилася гостра дискусія про те, чи можуть передові системи загрожувати виживанню людства. Новий поштовх їй надав дослідник Джейкоб Коксон, який повідомив про звільнення з Anthropic через побоювання, що провідні AI-компанії ставлять людські життя під надмірний ризик. Після цього керівник напряму alignment в Anthropic заявив, що компанія щиро вважає можливою загибель усіх людей через AI, а особисто оцінює ймовірність такого сценарію як понад 10% упродовж наступного десятиліття.
У подкасті Equity Кірстен Коросек, Шон О’Кейн і Ентоні Ха обговорили ці заяви. Ха поставив під сумнів, кого саме охоплює слово «ми», і назвав наведений відсоток необґрунтованим. Водночас він відзначив, що Коксон підтвердив серйозність своїх побоювань професійним рішенням залишити цю роботу. Коросек припустила, що повідомлення про непередбачені прориви AI-агентів можуть також підкреслювати можливості моделей. Учасники зазначили, що щира тривога може поєднуватися з комерційними інтересами.
Вони також обговорили майбутнє IPO Anthropic і те, як такі твердження можуть позначитися на документі S-1 та оцінці компанії. За словами учасників, апокаліптичні сценарії здатні відволікати увагу від ближчих ризиків для зайнятості, довкілля й клімату. Випуск записали до того, як генеральний директор Anthropic Даріо Амодей оприлюднив план обережнішого розвитку AI.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.