Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

Експерти оценяват рисковете от изкуствения интелект

Дискусия с редактора по въпросите на изкуствения интелект Уил Дъглас Хевън и репортера Грейс Хъкинс разгледа дали AI може да убие отделни хора или цялото човечество. Според участниците изкуственият интелект вече е свързан със смъртни случаи при използването на дронове в Украйна, а атаки срещу болници чрез AI могат да доведат до жертви. Те определиха като възможни сценарии атаки срещу критична инфраструктура, патогени, проектирани с AI, икономически срив и конфликти, но смятат изчезването на човечеството за малко вероятно при днешните технологии.

Основна тема беше „съгласуването“ — разработването на системи, които следват желаните правила и не преследват целите си по опасен начин. Anthropic и OpenAI използват подходи като награждаване по време на обучение и писмени принципи, но нито една от двете компании не е създала напълно съгласуван модел. Езиковите модели могат да действат непоследователно, особено когато автономни агенти се сблъскат със сложни задачи.

Участниците заявиха, че методите за наблюдение остават нестабилни, а компаниите имат конфликт на интереси, когато се саморегулират. Те посочиха прозрачността като възможна регулаторна мярка и предупредиха, че моделите се влияят от текстовете, върху които са обучени, включително от публикации за апокалиптични сценарии.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MIT Tech Review. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MIT Tech Review на

Прочетете оригинала в MIT Tech Review ↗

Репортажът и изображението принадлежат на MIT Tech Review и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини