Лидерите в областта на ИИ искат да натиснат спирачките след години на безразсъдно ускорение
От години водещите лаборатории за авангарден изкуствен интелект се държат така, сякаш участват в безкомпромисна надпревара, в която победителят взема всичко за контрола над машинна свръхинтелигентност, способна да промени света (или поне изкуствен общ интелект, способен да промени пазара) на финалната права. Този уикенд индустрията като цяло започна бързо да се отдалечава от тази позиция, призовавайки към координация за забавяне на разработването на авангарден изкуствен интелект, който според нея скоро може да стане твърде опасен и непредсказуем, за да бъде контролиран.
Дарио Амодей от Anthropic беше в челните редици на тази промяна в тона, като в есе от близо 4000 думи този уикенд заяви, че „трябва да забавим темпото, с което подобряваме възможностите на моделите с изкуствен интелект“, за да избегнем „надпревара към дъното, подхранвана от търговски стимули, [която] може да направи [катастрофалните] рискове още по-остри“.
Само за часове други лидери в областта на изкуствения интелект повториха същия призив. Съоснователят и главен изпълнителен директор на OpenAI Сам Алтман публикува съгласието си в социалните мрежи и заяви, че подобни обсъждания за темпото се водят и в OpenAI. Главният научен директор на Alphabet и съосновател и председател на Google DeepMind Демис Хасабис заяви, че есето на Амодей „насочва към правилния път напред“, и поднови собствения си неотдавнашен призив за орган за стандарти в цялата индустрия. Главният изпълнителен директор на Microsoft Сатя Надела публикува, че компанията „приветства изследванията, фокуса и обмисленото темпо, необходими, за да поставим съгласуваността на правилното място като цел на дизайна“, преди публикуването на обширен кодекс за поведение за нейните модели, основан на „хуманистичен изкуствен интелект“.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.