Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← Към новините

Спорът в AI индустрията за екзистенциалните рискове се изостря

В AI сектора отново се разгоря публичен спор дали напредналите системи могат да застрашат оцеляването на човечеството. Дискусията се засили, след като изследователят Джейкъб Коксън заяви, че напуска Anthropic, защото смята, че водещите компании поемат неприемливи рискове. Впоследствие ръководителят на екипа по AI alignment в Anthropic написа, че компанията искрено вярва, че AI може да убие всички хора, и лично оцени вероятността на повече от 10% през следващото десетилетие.

В подкаста Equity Кърстин Коросек, Шон О’Кейн и Антъни Ха обсъдиха твърденията. Ха постави под въпрос кого включва думата „ние“ и каза, че процентът изглежда неподкрепен, но отбеляза, че Коксън е предприел професионална стъпка в съответствие с опасенията си. Коросек предположи, че предупрежденията за пробиви на моделите през защитите може едновременно да показват колко способни са системите на компаниите. Участниците посочиха, че реалната тревога и търговските интереси могат да съществуват едновременно.

Те обсъдиха и очакваното първично публично предлагане на Anthropic, включително дали подобни изявления ще повлияят на документа S-1 и оценката на компанията. Според разговора апокалиптичният фокус може да измести по-непосредствени въпроси като последиците за труда, околната среда и климата. Епизодът е записан преди изпълнителният директор на Anthropic Дарио Амодей да представи план за по-предпазливо развитие на AI.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини