Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← До новин

Лідери ШІ підтримали незалежний нагляд за розробкою

Керівник OpenAI Сем Альтман, Ілон Маск і колишній очільник DeepMind Деміс Хассабіс частково підтримали пропозиції керівника Anthropic Даріо Амодея щодо уповільнення розвитку штучного інтелекту. Усі троє також погодилися з потребою незалежного оцінювання та нагляду всередині лабораторій ШІ. Амодей вважає такий підхід способом контролювати ризики в міру зростання можливостей систем.

В інтерв’ю Fortune Альтман заявив, що OpenAI не вийде на біржу цього року, пославшись на міркування безпеки. У червні він уже повідомляв про це рішення всередині компанії, а заплановане IPO відкладається до 2027 року. У статті також розглядається інше можливе пояснення: фінансові показники OpenAI зараз можуть бути слабшими за показники Anthropic. Обидві причини можуть діяти одночасно.

Дослідник Google Пейман Міланфар не погодився із запропонованим Амодеєм обмеженням темпів розвитку. На його думку, уявлення про рекурсивне самовдосконалення є надто спрощеним, оскільки ланцюги зворотного зв’язку можуть бути нестабільними. Надійне самовдосконалення, вважає Міланфар, відбуватиметься повільно й у широких межах безпеки через вимоги стабільності. Перевіряти такі властивості, за його словами, слід у реальному світі, а не лише за тестами.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини