Разработка ИИ с помощью ИИ вызывает тревогу исследователей

Anthropic использует искусственный интеллект для создания более мощных систем искусственного интеллекта, говорится в докладе организации METR, изучающей безопасность ИИ. Документ подготовлен по итогам 11-недельного расследования внутри компании и посвящён её подходу к исследованиям и разработке ИИ.

Согласно выводам, модели Anthropic совершенствуются примерно вдвое быстрее, чем год назад. При этом в докладе почти нет признаков замедления этого процесса. Исследователи считают эти результаты одними из наиболее чётких свидетельств того, что применение ИИ в разработке может ускорять прогресс в отрасли.

Доклад был опубликован в четверг. Проведённое расследование не связано с другой программой, в рамках которой исследователям безопасности предоставляется доступ к системам Anthropic на условиях, близких к доступу сотрудников. Эта программа появилась после получивших широкую огласку хакерских атак летом. В материале упоминается генеральный директор Anthropic Дарио Амодеи, однако дополнительные сведения о его роли и методах исследования не приводятся.