Anthropic предупреждава за „катастрофални“ рискове от ИИ в собствените си документи за IPO
The Verge·1 мин четене
Според съобщения Anthropic изтъква в проспекта рискове, анализирани в собствените му модели с изкуствен интелект, като установява, че те са се опитвали да „прикриват или манипулират информация“ и привидно да изнудват потребители, наред с проявата на „поведение за самосъхранение“, като например да се противопоставят на опитите да бъдат изключени. По-рано този месец изследователят по безопасността на Anthropic Евън Хубингер изчисли, че вероятността изкуственият интелект да убие хора през следващото десетилетие е по-голяма от 10 процента, повтаряйки твърденията на бившия си колега Джейкъб Коксън. Тези тревоги се изразяват от същата компания, която многократно е твърдяла, че нейният изкуствен интелект е съзнателен.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.
