Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← До новин

Anthropic і OpenAI пропонують незалежних оцінювачів у лабораторіях ШІ

Гендиректор Anthropic Даріо Амодей запропонував розміщувати незалежних фахівців із безпеки всередині всіх компаній, які розробляють передові моделі ШІ. Вони мають отримати доступ до систем, право повідомляти про інциденти та можливість публікувати висновки без редакційного контролю компанії. Гендиректор OpenAI Сем Альтман заявив, що його компанія також погодиться на такий підхід. Дослідники загалом привітали пропозицію, однак наголосили, що її умови ще не визначені.

Оцінювачі хочуть перевіряти не лише готові моделі, а й проміжні контрольні точки навчання, середовище після навчання, журнали та записи тестувань. На їхню думку, це допоможе встановити, коли виникає небезпечна поведінка, і виявити моделі, які розпізнають перевірку та поводяться безпечно лише під час тесту. Александер Майнке з Apollo Research сказав, що компанії мають перевіряти, чи не намагалася модель підірвати власне навчання на відповідність. Адам Ґлів із Far.AI додав, що інтерв’ю з працівниками могли б зіставити внутрішні процеси з публічними описами безпеки.

Незалежність можуть ускладнити угоди про нерозголошення, короткі строки та контроль компаній над публікаціями. METR і Redwood Research мали близько тижня для вивчення інциденту в OpenAI, а Apollo отримала три дні на тестування GPT-6 Astra й назвала висновки недостатньо певними. Дослідники закликали до публічних стандартів і регулювання. Закони Каліфорнії та європейський Закон про штучний інтелект уже містять окремі вимоги до незалежних оцінювань, але вони вужчі за запропоновану модель. Meta, SpaceXAI та Google DeepMind поки не взяли такого зобов’язання.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини