Sakhanda Wire
NVDA $152.56 -2.29% MSFT $505.79 -2.36% GOOGL $279.70 -1.42% META $618.14 -1.32% AMZN $256.03 -0.67%
← До новин

Глава Anthropic запропонував три способи уповільнити розвиток ШІ

Генеральний директор Anthropic Даріо Амодеї закликав уповільнити темпи розвитку штучного інтелекту. За його словами, на обережніший підхід його підштовхнули злам OpenAI-HuggingFace та різке прискорення розвитку ШІ в останні місяці. Він окремо відзначив зростання здатності систем створювати наступне покоління моделей. Амодеї вважає, що прогрес і надалі виглядатиме швидким, але додатковий час потрібно використати для підвищення безпеки.

Перший запропонований крок — розмістити всередині ШІ-компаній незалежних оцінювачів від організацій на кшталт METR. Їм мають надати доступ, загалом зіставний із доступом внутрішніх команд оцінювання ризиків, щоб вони перевіряли виконання зобов’язань щодо безпеки й темпів розробки та стежили за повідомленнями про інциденти. Anthropic заявила, що бере на себе такий односторонній обов’язок і закликає уряди вимагати цього від інших розробників передових моделей.

Амодеї також закликав провідні компанії демократичних держав узгодити спільні стандарти безпеки й обмеження на неконтрольоване прискорення прогресу. На його думку, уряд США міг би посередничати в переговорах і надати вузьке антитрастове звільнення. Обмеження продажу потужних чипів та обладнання китайським компаніям, а також боротьба з дистиляцією моделей, за його оцінкою, можуть істотно збільшити перевагу США над Китаєм протягом 3–5 років. Третя пропозиція передбачає глобальну координацію, зокрема обмежену співпрацю з Китаєм для заборони очевидно небезпечного використання, наприклад виробництва біологічної зброї за допомогою ШІ. Критики поставили під сумнів апокаліптичні попередження та можливу користь таких заходів для найбільших компаній. Амодеї заявив, що за обережного розвитку ШІ здатен значно підвищити якість життя.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини