Anthropic консультируется с юрфирмами о справедливых нормах переговоров, прежде чем ИИ-агенты начнут заключать сделки

Anthropic выясняет, как ИИ-агенты могли бы вести переговоры от имени пользователей. Согласно Financial Times, компания консультируется с юридическими фирмами, чтобы разработать справедливые нормы переговоров для ИИ-агентов, которые будут торговаться о ценах, разрешать жалобы или улучшать условия контрактов. Anthropic уже показала в ходе экспериментов, что более мощные модели заключают более выгодные сделки, что может усилить социальное неравенство.

Это не новая территория. Anthropic уже нанимает стипендиатов по концептуальному мышлению, в частности юристов. В течение четырех месяцев стипендиаты будут тестировать Claude на требующих глубокого суждения вопросах в области права, философии, когнитивных наук, экономики и политологии, получая от 100 000 до 167 000 долларов.

Этот импульс берет начало в проблеме данных. В математике и программировании совершенствовать модели ИИ относительно легко, поскольку проверяемые данные доступны в большом объеме или их несложно генерировать. В гуманитарных науках таких данных не существует, отчасти потому, что правильные и неправильные ответы редко бывают однозначными. Anthropic нужны эксперты, которые смогут создавать тестовые примеры и оценки, чтобы сделать Claude сильнее в этих областях. Джастин Кёрл, технический сотрудник Anthropic, исследующий право, институты и ИИ, утверждает, что в праве «общеизвестно трудно определить качество».

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.