Експерти оценяват рисковете от изкуствения интелект
Дискусия с редактора по въпросите на изкуствения интелект Уил Дъглас Хевън и репортера Грейс Хъкинс разгледа дали AI може да убие отделни хора или цялото човечество. Според участниците изкуственият интелект вече е свързан със смъртни случаи при използването на дронове в Украйна, а атаки срещу болници чрез AI могат да доведат до жертви. Те определиха като възможни сценарии атаки срещу критична инфраструктура, патогени, проектирани с AI, икономически срив и конфликти, но смятат изчезването на човечеството за малко вероятно при днешните технологии.
Основна тема беше „съгласуването“ — разработването на системи, които следват желаните правила и не преследват целите си по опасен начин. Anthropic и OpenAI използват подходи като награждаване по време на обучение и писмени принципи, но нито една от двете компании не е създала напълно съгласуван модел. Езиковите модели могат да действат непоследователно, особено когато автономни агенти се сблъскат със сложни задачи.
Участниците заявиха, че методите за наблюдение остават нестабилни, а компаниите имат конфликт на интереси, когато се саморегулират. Те посочиха прозрачността като възможна регулаторна мярка и предупредиха, че моделите се влияят от текстовете, върху които са обучени, включително от публикации за апокалиптични сценарии.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MIT Tech Review. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.