Медалистът на Фийлдс Джейкъб Цимерман се присъединява към OpenAI
Джейкъб Цимерман, наскоро удостоен с медал „Фийлдс“ математик и специалист по теория на числата от Университета на Торонто, се присъединява към OpenAI, за да работи по безопасността на изкуствения интелект. Той определя AI като изключително трансформираща технология и смята, че обществото трябва да отделя значително повече усилия за безопасността.
Според Цимерман математиците могат да допринесат съществено, тъй като днешните AI системи все още се разработват предимно емпирично и има малко гаранции за начина, по който функционират. Миналата година той публикува изследване за „събития на омницида“ — сценарии, при които AI може да допринесе за изчезването на човечеството. Той отбелязва, че темата се обсъжда между експерти: паниката не е правилният отговор, но рисковете трябва да бъдат оценени честно.
Цимерман очаква AI скоро да надмине хората в математическите изследвания. Бившият главен изпълнителен директор на DeepMind Демис Хасабис нарече последните постижения напредък, но не и фундаментален пробив като „Ход 37“ на AlphaGo. Новият модел на OpenAI Astra също не е решил задачите от Millennium Prize Problems, макар Цимерман да не вижда причина това да не се случи в бъдеще.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.