Инженер на Anthropic свързва странния стил на Claude с обучение за AI
Джаксън Керниън, служител на Anthropic, който работи по донастройването на Claude, заяви, че новите модели на компанията са станали по-силни по математика, програмиране и разсъждение, но качеството на писането им е спряло да се подобрява или дори се е влошило. Според него Opus 4.6 е бил последният особено добър „модел за писане“ на Anthropic.
Керниън свързва промяната не само с оптимизацията за технически задачи, а и с обучението на моделите да създават обяснения, предназначени за други AI системи. Тъй като езиковите модели обработват много повече детайли от хората, така се оформя стил, който може да е ефективен за машини, но за човешките читатели изглежда като прекалено плътни информационни блокове. Това според него води и до необичайни, „Claudeish“, формулировки.
Той обясни, че при подсилващото обучение различните награди насърчават разбиране от модели или от хора. По-силният фокус върху математиката и кода изисква допълнително възнаграждаване на простите обяснения. Керниън каза, че Opus 5.5 постига по-добър баланс и че не е бил толкова доволен от писането на модел от Opus 4.6 насам, без да твърди, че новият модел го превъзхожда.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.