Інженер Anthropic пояснив погіршення стилю Claude навчанням для ШІ
Працівник Anthropic Джексон Керніон, який займається донавчанням Claude, заявив, що нові моделі компанії стали сильнішими в математиці, програмуванні та міркуванні, тоді як якість їхнього письма перестала зростати або навіть погіршилася. За його словами, Opus 4.6 була останньою особливо вдалою «моделлю для письма» Anthropic.
Керніон пов’язує це не лише з оптимізацією для технічних завдань. Моделі також навчали створювати технічні пояснення, розраховані на інші системи штучного інтелекту. Оскільки мовні моделі утримують і опрацьовують значно більше деталей, ніж люди, під час навчання формується стиль, зручний для машин, але для людей він виглядає як надто щільні масиви інформації. На думку Керніона, це також спричиняє незвичні формулювання, які іноді називають «Claudeish».
Він пояснив, що під час навчання з підкріпленням одні винагороди орієнтовані на розуміння моделями, а інші — на розуміння людьми. Посилення математики й програмування потребує окремо заохочувати прості пояснення. Керніон вважає, що Opus 5.5 краще поєднує ці цілі, і сказав, що не був так задоволений письмом моделі від часів Opus 4.6. Водночас він зазначив, що проблема залишається складною, а нова модель не обов’язково перевершує попередню.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.