Изследователи се опасяват от катастрофа за безопасността преди пускането на Astra от OpenAI

Ръководители на OpenAI реагираха на критиките в поредица от публикации в социалните медии, които не отричат изрично използването на техниката от компанията. Няколко от тях изразиха опасения относно възможността за изкуствен интелект, който не може да бъде наблюдаван, или надпревара към дъното по отношение на прозрачността, сред които изследователите по безопасността в OpenAI Майка Карол и Томек Корбак, ръководителят на стратегическите перспективи Дийн Бол и главният научен директор Якуб Пахоцки, който изрази опасения от „надпревара към невъзможност за наблюдение, започната от объркващи репортажи“. Той каза, че дълбочината на изчисленията на Astra — мярка за това колко стъпки може да изпълнява вътрешно — „е в рамките на два пъти спрямо GPT-4“, което показва, че ако техниката е била използвана, увеличената непрозрачност е по-малко значителна, отколкото предполагат някои реакции. OpenAI не отговори на запитването на The Verge да потвърди или отрече дали за Astra са били използвани трансформъри с циклична архитектура и ни насочи към публикацията на Пахоцки в X.