Олтман, Мъск и Хасабис подкрепят призива на Амодеи за добавяне на независим надзор

Главният изпълнителен директор на OpenAI Сам Алтман и Илон Мъск подкрепят призивите за забавяне на развитието на ИИ. Алтман, Мъск и бившият главен изпълнителен директор на DeepMind Демис Хасабис поне частично подкрепиха предложенията на главния изпълнителен директор на Anthropic Дарио Амодеи, като всички се съгласиха с необходимостта от независим надзор в лабораториите за ИИ. Мъск от години предупреждава за рисковете от ИИ, така че подкрепата му не е точно изненада.

Алтман също каза пред Fortune, че OpenAI няма да излезе на борсата тази година, позовавайки се на опасения за безопасността. Той вече беше споделил това решение вътрешно през юни. Друго тълкуване: финансовите показатели на OpenAI просто не подкрепят първично публично предлагане в момента, особено в сравнение с тези на Anthropic. И двете твърдения може да са верни.

Не всички са съгласни. Изследователят на Google Пейман Миланфар възрази, като заяви, че рекурсивното самоусъвършенстване (RSI) е наивно предположение, тъй като контурите за обратна връзка са по своята същност нестабилни. Колкото по-усърдно една система се оптимизира сама, толкова по-дълбоко навлиза в своите слепи петна, а надеждните доказателства идват единствено от реалния свят, не от бенчмаркове. Това прави „ограничението на скоростта“ на Амодеи ненужно, твърди Миланфар: „Системите, които надеждно се усъвършенстват сами, ще бъдат управлявани, смекчавани, бавни и ограничени от граници, които изглеждат разточителни. Защото стабилността е ограничението на скоростта.“

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.