Лауреат на медала „Фийлдс“, публикувал статия за предизвикано от ИИ изчезване на човечеството, вече работи за OpenAI

Джейкъб Цимерман, наскоро удостоен с медал „Фийлдс“, се присъединява към OpenAI, за да работи по безопасността на ИИ. Теоретикът на числата от Университета в Торонто заяви, че ИИ е изключително трансформираща технология и обществото трябва да положи много повече усилия за безопасността. Според него математиците могат да допринесат значително, тъй като ИИ все още функционира предимно на емпирична основа, с малко гаранции за това как всъщност работят тези системи.

Миналата година Цимерман публикува и статия за „събития на омницида“ — сценарии, при които ИИ може да допринесе за изчезването на човечеството. Експертите спорят по този въпрос. Паниката не е правилният отговор, но трябва честно да оценим рисковете, заяви Цимерман. Той е убеден, че ИИ скоро ще надмине хората в математическите изследвания.

Бившият главен изпълнителен директор на DeepMind Демис Хасабис също коментира последните постижения на ИИ в математиката. Той ги възприема като напредък, но все още не и като фундаментален пробив от ранга на легендарния „ход 37“ на AlphaGo на DeepMind. За това ИИ ще трябва да реши задачи като тези от проблемите на хилядолетието. Новият модел на OpenAI, Astra, също не успя да се справи с тях, но може би е само въпрос на време. „Не виждам причина това да не се случи“, казва той.

Новини за ИИ без сензация – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, ексклузивния ни обзор на авангардните разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.