Дослідники побоюються катастрофи з безпекою напередодні випуску Astra від OpenAI

Керівники OpenAI відповіли на критику в серії дописів у соціальних мережах, які прямо не заперечують використання компанією цієї методики. Дехто висловив занепокоєння щодо можливості появи ШІ, роботу якого неможливо буде контролювати, або ж перегони на зниження рівня прозорості, зокрема дослідники безпеки OpenAI Майка Керролл і Томек Корбак, керівник відділу стратегічних перспектив Дін Болл, а також головний науковець Якуб Пахоцький, який висловив побоювання щодо «перегонів до неконтрольованості, започаткованих плутаними повідомленнями». Він заявив, що глибина обчислень Astra — показник того, скільки кроків вона може виконувати внутрішньо, — «відрізняється від GPT-4 не більш ніж удвічі», що свідчить: якщо цю методику й використовували, то підвищення непрозорості є менш драматичним, ніж випливає з деяких реакцій. OpenAI не відповіла на запит The Verge підтвердити чи спростувати, що для Astra використовувалися зациклені трансформери, і перенаправила нас до допису Пахоцького в X.