Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← К новостям

Ричард Саттон призвал к новым методам за пределами масштабирования LLM

Лауреат премии Тьюринга Ричард Саттон вновь заявил, что одного увеличения вычислительных ресурсов недостаточно для создания интеллекта. В недавней публикации автор эссе «Горький урок» 2019 года отметил, что исследования искусственного интеллекта еще нуждаются в нестандартных, принципиально новых методах и далеки от завершения.

Саттон критиковал ставку главным образом на увеличение языковых моделей и называл синтетические данные «большой ошибкой». По его мнению, реальный мир бесконечно сложен, поэтому любая его симуляция охватывает лишь микроскопическую часть. Он выступает за агентов с моделями мира, которые постоянно учатся на собственном опыте и не утрачивают прежние знания. Саттон также считает, что интернет-тексты не отражают всей сложности мира, а современные языковые модели прекращают обучение после завершения тренировки.

Бывший исследователь OpenAI Джерри Творек заявил, что «горький урок» сохраняет силу, но по мере роста вычислений алгоритм становится важнее. Джейден Тео призвал не отвергать полезные идеи только потому, что они могут не масштабироваться бесконечно. Сэм Альтман и Дарио Амодеи по-прежнему считают, что масштабирование LLM имеет значительный потенциал.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости