Коксон: Anthropic может переобучить Mythos с меньшими затратами
Бывший исследователь OpenAI и Anthropic Джейкоб Коксон заявил, что слайд из презентации Anthropic для IPO стал одной из главных причин его ухода примерно через четыре месяца работы в компании. На графике показано, как со временем меняется объем вычислений, необходимый для обучения моделей. Сжатая логарифмическая шкала почти уравнивает визуальный вид десятикратного и стократного роста, однако линия все равно резко поднимается. Коксон считает это признаком того, что эффективность алгоритмов растет ускоряющимися темпами.
По его оценке, модель Anthropic Mythos, ставшая заметным скачком в возможностях весной, является частью этой тенденции, а не разовым отклонением. Коксон утверждает, что компания уже может заново обучить Mythos, используя лишь часть первоначально требовавшихся вычислительных ресурсов. Anthropic отмечает, что точки на графике основаны на внутренних оценках и приведены только для иллюстрации.
Коксон также говорит, что улучшение алгоритмов близко к автоматизации. Он выступает за приостановку разработки передовых моделей в следующем году, чтобы конкуренты смогли сократить отставание. Ранее он предупреждал о риске потери контроля над продвинутыми самообучающимися системами искусственного интеллекта.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.