Исследователь DeepMind ушёл, назвав скорый сверхинтеллект безответственным
Роберт О’Каллаган, технический специалист Google DeepMind в Новой Зеландии, покинул компанию из-за опасений по поводу рисков искусственного интеллекта. По его словам, нынешние темпы изменений слишком высоки, а стремление создать искусственный сверхинтеллект в ближайшем будущем по своей сути безответственно.
О’Каллаган занимался инструментами для проектирования чипов, которые помогали делать системы ИИ дешевле и быстрее. Теперь он не считает возможным оправдать свой вклад в это направление. Риск сверхинтеллектуального ИИ он называет реальным, хотя и неопределённым, и предупреждает о возможной когнитивной зависимости, психозе и одиночестве, вызванных ИИ, концентрации власти, экономических потрясениях, угрозах кибербезопасности и отсутствии ответственности.
По словам О’Каллагена, многие сотрудники DeepMind разделяют его тревоги, но редко высказываются публично. Он считает, что вред от ИИ может перевесить пользу, и намерен заниматься работой, которая «однозначно служит людям». Исследователь также дал ссылку на книгу If Anyone Builds It Элиезера Юдковского и Нейта Соареса, не поддержав её утверждение о неизбежности катастрофы из-за сверхинтеллекта.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.