Следващият голям AI модел на OpenAI „навлезе в ерата на AGI“
The Verge·1 мин четене
За OpenAI това може да се разглежда като добра реклама в един малък аспект — показва колко мощни могат да бъдат моделите ѝ в една все по-ожесточаваща се надпревара в областта на изкуствения интелект — но същевременно навреди на репутацията на OpenAI по отношение на надеждността. OpenAI се погрижи да посочи в съобщение, че Astra е „най-добре съгласуваният модел на компанията досега“ и помага на хората да „делегират сложна работа, като същевременно запазват надзора“. Главният научен директор на OpenAI Джакуб Пачоцки говори пред репортери за трудностите при поддържането на съответствието на моделите с човешките интереси, като заяви, че „напредъкът в интелигентността не гарантира напредък в съгласуваността“, и каза, че наблюдението на системите с изкуствен интелект става все по-предизвикателно. (Наскоро изследователи изразиха тревога заради съобщенията, че OpenAI позволява на Astra да използва „непрозрачна рекурентност“ или да прави веригата си на мисли — „умствен бележник“, на който изследователите разчитат, за да установят дали моделът крои планове срещу човешките си оценители — нечетима.)
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
