OpenAI сповільнила частину розробки ШІ для посилення безпеки
OpenAI зменшила темп частини розробок у сфері штучного інтелекту, зосередившись на посиленні безпеки та захисних механізмів. Компанія оголосила про це у вівторок на тлі можливого первинного публічного розміщення акцій і жорсткої конкуренції з боку Anthropic, китайських розробників та суперників, які випускають моделі з відкритими вагами.
Компанія повідомила про двотижневу паузу в навчанні з підкріпленням своїх найновіших моделей, призначених для розгортання. Також найбільший запланований OpenAI передовий цикл навчання з підкріпленням залишається відкладеним, однак новий графік не названо.
Це рішення відповідає позиції, яку прихильники безпеки ШІ просувають упродовж кількох років: компанії мають бути готовими сповільнити розробку або тимчасово вийти з перегонів за створення дедалі потужніших систем. Водночас OpenAI зазнає комерційного й конкурентного тиску, що спонукає прискорювати роботу. Компанія не надала подробиць про заходи безпеки чи відновлення відкладеного навчання.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.