Розробка ШІ за допомогою ШІ викликає занепокоєння дослідників

Anthropic використовує штучний інтелект для створення потужніших систем штучного інтелекту, йдеться у звіті організації METR, що досліджує безпеку ШІ. Документ підготували за підсумками 11-тижневого розслідування всередині компанії. У ньому оцінюється підхід Anthropic до досліджень і розробки ШІ.

За висновками звіту, моделі Anthropic удосконалюються приблизно вдвічі швидше, ніж рік тому. Водночас автори не бачать достатніх ознак уповільнення цього процесу. Для дослідників ці результати є одними з найчіткіших свідчень того, що застосування ШІ під час розробки може пришвидшувати прогрес у галузі.

Звіт опублікували в четвер. Розслідування було окремим від іншої програми, яка надає дослідникам безпеки доступ до систем Anthropic на умовах, подібних до доступу працівників. Її започаткували після гучних хакерських інцидентів улітку. У матеріалі згадується генеральний директор Anthropic Даріо Амодей, але додаткових подробиць про його роль чи методи дослідження не наведено.