Anthropic се консултира с адвокатски кантори за справедливи правила на преговорите, преди ИИ агентите да започнат да сключват сделки

Anthropic проучва как AI агентите биха могли да преговарят от името на потребителите. Според Financial Times компанията се консултира с адвокатски кантори, за да разработи справедливи правила за преговори за AI агенти, които да се пазарят за цени, да разрешават оплаквания или да подобряват договорни оферти. Anthropic вече показа в експерименти, че по-мощните модели договарят по-добри сделки, което би могло да задълбочи общественото неравенство.

Това не е нова територия. Anthropic вече наема стипендианти по концептуално разсъждение, и по-специално юристи. В продължение на четири месеца стипендиантите ще тестват Claude по въпроси, изискващи преценка, в областите на правото, философията, когнитивната наука, икономиката и политическите науки срещу възнаграждение от 100 000 до 167 000 долара.

Тласъкът за това произтича от проблем с данните. При математиката и програмирането подобряването на AI моделите е сравнително лесно, тъй като проверимите данни са в изобилие или лесно могат да бъдат генерирани. В хуманитарните науки такива данни не съществуват отчасти защото правилните и грешните отговори рядко са еднозначни. Anthropic се нуждае от експерти, които да създават тестови случаи и оценки, за да направят Claude по-силен в тези области. Justin Curl, член на техническия екип на Anthropic, който изследва правото, институциите и AI, твърди, че в правото „определянето на качеството е пословично трудно“.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за AI, ексклузивния ни обзор „AI Radar“ за най-новите разработки шест пъти годишно, пълен достъп до архива и достъп до секцията ни за коментари.