IPO Anthropic попереджає: його ШІ може шантажувати людей, набути свідомості й знищити людство
Публікація Комісії з цінних паперів і бірж у понеділок форми S-1 компанії Anthropic — напередодні її надзвичайно очікуваного первинного публічного розміщення акцій — спричинила чимало обговорень щодо того, чи зможуть стрімко зростаючі доходи компанії компенсувати ще вищі витрати. Але серед цифр і оптимістичних прогнозів щодо того, що ШІ «швидко трансформу[є] кожен сектор світової економіки способами, масштабнішими за вплив індустріалізації, електрики, напівпровідників та інтернету», Anthropic також приділяє у своїй формі S-1 надзвичайно багато уваги численним факторам ризику, які можуть призвести до краху компанії.
У розділі «Фактори ризику» форми S-1 Anthropic, що охоплює 93 сторінки й понад 70 000 слів, обговорюються буквально сотні потенційних проблем, які можуть негативно вплинути на її бізнес у найближчі роки. Багато з цих потенційних ризиків — це типові побоювання щодо конкуренції, витрат, залучення клієнтів і можливого регулювання, про які має турбуватися майже будь-який бізнес. Але деякі ризики висвітлюють цікаві потенційні точки відмови саме для Anthropic і загалом для переповненої ажіотажем бульбашки ШІ.
Ознайомившись із трактатом Anthropic обсягом з книгу про її найбільші ризики, ми звузили перелік до семи найбільш дивовижних, цікавих або таких, що спонукають до роздумів, потенційних проблем. Вважайте це далеко не вичерпним оглядом, який потенційним інвесторам Anthropic варто взяти до уваги.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.