Дослідники Anthropic попередили про катастрофічні ризики ШІ
Джейкоб Коксон, дослідник, який навчав системи штучного інтелекту в Anthropic, а раніше в OpenAI, заявив, що залишив Anthropic через, на його думку, недостатньо обережний підхід до безпеки. У дописі на X він звинуватив обидві компанії в перегонах до самовдосконалюваного надінтелекту та сказав, що вони «грають нашим життям». За словами Коксона, люди, які створюють ШІ, справді вважають, що він може вбити всіх людей до кінця десятиліття.
Еван Гюбінгер, керівник однієї з команд Anthropic з безпеки ШІ, сказав, що також побоюється самовдосконалюваного ШІ й вважає, що його розвиток відбувається швидше, ніж очікували. Він погодився, що технологія може знищити людство, а особисто оцінив таку ймовірність у понад 10% протягом наступного десятиліття. Гюбінгер додав, що Anthropic поки не має плану, який гарантував би безпеку передового ШІ та його відповідність людським цінностям, і не демонструє чіткого прогресу в розробці такого плану.
Ця дискусія відображає ширші побоювання індустрії щодо систем, які можуть вийти з-під людського контролю, тоді як компанії продовжують розробляти дедалі потужніші моделі.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.