Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← К новостям

Инженер Anthropic объяснил ухудшение стиля Claude обучением для ИИ

Сотрудник Anthropic Джексон Кернион, занимающийся дообучением Claude, заявил, что новые модели компании стали лучше справляться с математикой, программированием и рассуждениями, тогда как качество их текстов остановилось или ухудшилось. По его словам, Opus 4.6 был последней особенно удачной «моделью для письма» Anthropic.

Кернион связывает это не только с оптимизацией под технические задачи. Модели также обучали создавать технические объяснения, рассчитанные на другие системы искусственного интеллекта. Поскольку языковые модели удерживают и обрабатывают гораздо больше деталей, чем люди, в обучении закрепляется стиль, удобный для машин, но воспринимаемый людьми как чрезмерно плотные информационные выкладки. Это, по его оценке, приводит и к необычным формулировкам, которые иногда называют «Claudeish».

Он объяснил, что в обучении с подкреплением одни награды ориентированы на понимание со стороны моделей, а другие — на понимание людьми. Усиление математики и программирования требует отдельно поощрять простые объяснения. Кернион считает, что Opus 5.5 лучше уравновешивает эти цели, и назвал его первым со времен Opus 4.6, чьим письмом он снова остался доволен. При этом он отметил, что задача остается сложной, а превосходство новой модели над прежней не утверждается.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости