Sakhanda Wire
NVDA $152.56 -2.29% MSFT $505.79 -2.36% GOOGL $279.70 -1.42% META $618.14 -1.32% AMZN $256.03 -0.67%
← Към новините

Главният изпълнителен директор на Anthropic предлага забавяне на ИИ разработките

Главният изпълнителен директор на Anthropic Дарио Амодей призова за по-бавен темп на развитие на изкуствения интелект. Според него хакът на OpenAI-HuggingFace и бързото подобряване на системите, включително на способността им да изграждат следващото поколение ИИ, налагат по-предпазлив подход. Амодей заяви, че напредъкът може да остане бърз, ако бъде използвано допълнителното време за повишаване на безопасността.

Първото му предложение е независими оценители от организации като METR да бъдат постоянно присъстващи в ИИ компаниите. Те трябва да имат достъп, сходен в общи линии с този на вътрешните екипи за оценка на риска, да проверяват спазването на ангажиментите за безопасност и темп на разработване и да подпомагат докладването на инциденти. Anthropic заявява, че поема едностранен ангажимент към тази мярка.

Амодей предлага също общи стандарти за безопасност и ограничения върху неконтролирания напредък сред водещите компании в демократични държави, като правителството на САЩ може да посредничи и да предостави ограничено антитръстово изключение. По думите му ограниченията върху износа и мерките срещу дестилацията на модели могат да увеличат преднината на САЩ пред Китай през следващите 3–5 години. Третата идея е международна координация, включително ограничено сътрудничество с Китай срещу очевидно опасни употреби, например производство на биологични оръжия с помощта на ИИ. Критици поставиха под съмнение катастрофичните предупреждения и възможната полза за утвърдените компании. Амодей заяви, че ИИ може значително да подобри живота при внимателно разработване.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини