Anthropic консультується з юридичними фірмами щодо справедливих норм переговорів, перш ніж ШІ-агенти почнуть укладати угоди

Anthropic з'ясовує, як ШІ-агенти могли б вести переговори від імені користувачів. Як повідомляє Financial Times, компанія консультується з юридичними фірмами, щоб розробити справедливі норми переговорів для ШІ-агентів, які торгуватимуться щодо цін, вирішуватимуть скарги або покращуватимуть пропозиції за контрактами. Anthropic вже продемонструвала в експериментах, що потужніші моделі укладають вигідніші угоди, що може посилити суспільну нерівність.

Це не нова сфера. Anthropic уже наймає стипендіатів із концептуального міркування, зокрема юристів. Протягом чотирьох місяців стипендіати тестуватимуть Claude на складних для оцінювання питаннях у галузях права, філософії, когнітивних наук, економіки та політології, отримуючи від 100 000 до 167 000 доларів.

Цей напрям бере початок із проблеми даних. У математиці та програмуванні вдосконалювати моделі ШІ відносно легко, оскільки даних, які можна перевірити, багато або їх нескладно генерувати. У гуманітарних науках таких даних немає, частково тому, що правильні й неправильні відповіді рідко бувають однозначними. Anthropic потрібні експерти, які зможуть створювати тестові приклади та оцінювання, щоб зробити Claude сильнішим у цих сферах. Джастін Керл, співробітник технічного відділу Anthropic, який досліджує право, інституції та ШІ, зазначає, що в праві «сумнозвісно складно визначити якість».

Новини про ШІ без хайпу — підготовлено людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.