Лидери в ИИ подкрепиха независимия надзор над разработката
Главният изпълнителен директор на OpenAI Сам Алтман, Илон Мъск и бившият ръководител на DeepMind Демис Хасабис изразиха поне частична подкрепа за предложенията на изпълнителния директор на Anthropic Дарио Амодей за забавяне на развитието на изкуствения интелект. И тримата се съгласиха и с необходимостта от независима оценка и надзор в лабораториите за ИИ — подход, който Амодей свързва с ограничаването на рисковете при по-способни системи.
Алтман е казал пред Fortune, че OpenAI няма да излезе на борсата тази година, като е посочил съображения, свързани с безопасността. Той вече е съобщил това решение вътрешно през юни, а планираното първично публично предлагане се отлага за 2027 г. В статията се посочва и друга възможна причина: финансовите резултати на OpenAI може да не са достатъчно силни спрямо тези на Anthropic. Възможно е и двете обяснения да са валидни.
Изследователят на Google Пейман Миланфар оспори предложеното от Амодей ограничение на темпото. Според него идеята за рекурсивно самоусъвършенстване подценява нестабилността на обратните връзки. Надеждното самоусъвършенстване би било бавно и ограничено от стабилността, а не от външно зададен лимит. Миланфар смята също, че доказателствата трябва да идват от реалния свят, не само от тестове.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.