Инженер Anthropic объяснил ухудшение стиля Claude обучением для ИИ
Сотрудник Anthropic Джексон Кернион, занимающийся дообучением Claude, заявил, что новые модели компании стали лучше справляться с математикой, программированием и рассуждениями, тогда как качество их текстов остановилось или ухудшилось. По его словам, Opus 4.6 был последней особенно удачной «моделью для письма» Anthropic.
Кернион связывает это не только с оптимизацией под технические задачи. Модели также обучали создавать технические объяснения, рассчитанные на другие системы искусственного интеллекта. Поскольку языковые модели удерживают и обрабатывают гораздо больше деталей, чем люди, в обучении закрепляется стиль, удобный для машин, но воспринимаемый людьми как чрезмерно плотные информационные выкладки. Это, по его оценке, приводит и к необычным формулировкам, которые иногда называют «Claudeish».
Он объяснил, что в обучении с подкреплением одни награды ориентированы на понимание со стороны моделей, а другие — на понимание людьми. Усиление математики и программирования требует отдельно поощрять простые объяснения. Кернион считает, что Opus 5.5 лучше уравновешивает эти цели, и назвал его первым со времен Opus 4.6, чьим письмом он снова остался доволен. При этом он отметил, что задача остается сложной, а превосходство новой модели над прежней не утверждается.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.