Медалист Филдса Джейкоб Цимерман присоединяется к OpenAI
Джейкоб Цимерман, недавно получивший медаль Филдса математик из Университета Торонто, присоединяется к OpenAI для работы над безопасностью искусственного интеллекта. Он называет ИИ крайне преобразующей технологией и считает, что обществу необходимо значительно увеличить усилия, направленные на обеспечение его безопасности.
По словам Циммермана, математики способны внести заметный вклад в эту область: современные системы ИИ по-прежнему создаются главным образом эмпирическим путем, а надежных гарантий того, как именно они работают, немного. В прошлом году он опубликовал исследование об «омницидных событиях» — сценариях, при которых ИИ может способствовать вымиранию человечества. Цимерман отмечает, что эксперты спорят об этих рисках: паника не является правильной реакцией, однако угрозы следует оценивать честно.
Математик также уверен, что ИИ в ближайшее время превзойдет людей в математических исследованиях. Бывший генеральный директор DeepMind Демис Хассабис считает последние достижения прогрессом, но не фундаментальным прорывом уровня знаменитого «Хода 37» AlphaGo. Новая модель OpenAI Astra тоже не справилась с задачами Millennium Prize Problems, хотя Цимерман не видит причин, почему ИИ не сможет решить их со временем.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.