Главният изпълнителен директор на Anthropic предлага забавяне на ИИ разработките
Главният изпълнителен директор на Anthropic Дарио Амодей призова за по-бавен темп на развитие на изкуствения интелект. Според него хакът на OpenAI-HuggingFace и бързото подобряване на системите, включително на способността им да изграждат следващото поколение ИИ, налагат по-предпазлив подход. Амодей заяви, че напредъкът може да остане бърз, ако бъде използвано допълнителното време за повишаване на безопасността.
Първото му предложение е независими оценители от организации като METR да бъдат постоянно присъстващи в ИИ компаниите. Те трябва да имат достъп, сходен в общи линии с този на вътрешните екипи за оценка на риска, да проверяват спазването на ангажиментите за безопасност и темп на разработване и да подпомагат докладването на инциденти. Anthropic заявява, че поема едностранен ангажимент към тази мярка.
Амодей предлага също общи стандарти за безопасност и ограничения върху неконтролирания напредък сред водещите компании в демократични държави, като правителството на САЩ може да посредничи и да предостави ограничено антитръстово изключение. По думите му ограниченията върху износа и мерките срещу дестилацията на модели могат да увеличат преднината на САЩ пред Китай през следващите 3–5 години. Третата идея е международна координация, включително ограничено сътрудничество с Китай срещу очевидно опасни употреби, например производство на биологични оръжия с помощта на ИИ. Критици поставиха под съмнение катастрофичните предупреждения и възможната полза за утвърдените компании. Амодей заяви, че ИИ може значително да подобри живота при внимателно разработване.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.