IPO-то на Anthropic предупреждава, че неговият ИИ може да изнудва хора, да придобие съзнание и да сложи край на човечеството
Публикуването в понеделник от Комисията по ценните книжа и фондовите борси на формуляра S-1 на Anthropic — преди широко очакваното първично публично предлагане — доведе до множество дискусии относно това дали бързо нарастващите приходи на компанията ще успеят да компенсират още по-високите ѝ разходи. Но наред с числата и оптимизма за бъдещето на изкуствения интелект, който „бързо трансформира[т] всеки сектор на световната икономика по начини, надхвърлящи въздействието на индустриализацията, електричеството, полупроводниците и интернет“, Anthropic отделя непропорционално много време в своя S-1, за да изложи многобройните рискови фактори, които биха могли да доведат до краха на компанията.
В рамките на 93 страници и над 70 000 думи разделът „Рискови фактори“ в S-1 на Anthropic обсъжда буквално стотици потенциални проблеми, които биха могли да се отразят негативно на бизнеса ѝ през следващите години. Много от тези потенциални рискове са стандартните опасения, свързани с конкуренцията, разходите, привличането на клиенти и възможното регулиране, с които почти всеки бизнес трябва да се съобразява. Но някои рискове подчертават интересни потенциални точки на провал конкретно за Anthropic и за изпълнения с преувеличени очаквания балон около изкуствения интелект като цяло.
След като се запознахме с дългия като книга трактат на Anthropic за най-големите рискове пред нея, сведохме списъка до седемте най-изненадващи, интересни или провокиращи размисъл потенциални проблема. Приемете това като далеч не изчерпателен преглед, който потенциалните инвеститори в Anthropic трябва да имат предвид.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.