Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← К новостям

В AI-индустрии усилился спор об угрозе человечеству

В сфере искусственного интеллекта вновь разгорелась дискуссия о том, могут ли передовые системы поставить под угрозу выживание человечества. Поводом для нового витка стал уход исследователя Джейкоба Коксона из Anthropic. Он объяснил решение опасениями, что ведущие AI-компании фактически рискуют человеческими жизнями. После этого руководитель направления alignment в Anthropic заявил, что компания искренне считает возможной гибель всего человечества из-за AI, а лично он оценивает такой риск как более 10% в течение следующего десятилетия.

Участники подкаста Equity Кирстен Коросек, Шон О’Кейн и Энтони Ха разобрали эти заявления. Ха усомнился в том, кого именно обозначает слово «мы», и назвал процент необоснованным, однако отметил, что Коксон подтвердил серьезность своих взглядов уходом из профессии. Коросек предположила, что сообщения о непреднамеренных прорывах AI-агентов могут одновременно демонстрировать возможности моделей. По мнению участников, искренняя тревога исследователей может сочетаться с интересами бизнеса.

Отдельно обсуждалось готовящееся IPO Anthropic и возможное отражение таких оценок в форме S-1 и стоимости компании. Собеседники предупредили, что разговоры о конце человечества способны отвлекать от более близких рисков, связанных с занятостью, окружающей средой и климатом. Выпуск записали до того, как генеральный директор Anthropic Дарио Амодей опубликовал план более осторожного развития AI.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости