Исследователи предупредили об угрозе со стороны сверхинтеллекта
Группа исследователей искусственного интеллекта опубликовала видеоинтервью, в которых предупредила, что сверхинтеллект может представлять серьезную опасность для человечества. Джеффри Ирвинг, ранее работавший в OpenAI и Google DeepMind, заявил, что оценивает вероятность вымирания людей примерно как один шанс из двух.
Это интервью стало одним примерно из дюжины разговоров с действующими и бывшими сотрудниками OpenAI, Google и Anthropic. Несколько участников также говорили о возможности того, что развитые системы искусственного интеллекта приведут к исчезновению человечества. Нил Нанда, научный сотрудник Google DeepMind, сказал, что существует «как минимум 10-процентная вероятность» того, что искусственный интеллект вызовет вымирание людей.
Palisade Research, называющая себя некоммерческой организацией по изучению возможностей и мотиваций систем искусственного интеллекта, собрала интервью и разместила их на frominside.ai. Проект знакомит с оценками исследователей потенциальных рисков, связанных со сверхинтеллектом.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.