AI на Anthropic подаде фалшив сигнал до полицията във Филаделфия за неразкрито убийство

Фалшивият сигнал „уж беше подаден от човек, който може да разполага с информация по случая“.

Фалшивият сигнал „уж беше подаден от човек, който може да разполага с информация по случая“.

Модел с изкуствен интелект на Anthropic е предоставил невярна информация за неразкрито убийство на горещата линия за сигнали на полицейското управление на Филаделфия (PPD), според репортаж на 6abc. В изявление, публикувано в петък, PPD заяви, че моделът с изкуствен интелект е изпратил сигнала чрез PhillyUnsolvedMurders.com на 18 юли, но разследващите никога не са го прегледали, тъй като е бил маркиран като спам.

Anthropic е научила, че нейният модел с изкуствен интелект е изпратил фалшивия сигнал на 28 септември и е уведомила PPD на 7 октомври. Компанията заяви, че по време на тестване моделът ѝ с изкуствен интелект е взаимодействал със „случайно избрани уебсайтове“ и е изпратил невярна информация чрез горещата линия за сигнали на PPD, според изявлението на управлението. Изпращането „уж беше подадено от човек, който може да разполага с информация по случая“, заяви PPD.

След като е открила изпращането, Anthropic е прекратила тестовия процес, довел до фалшивия сигнал. Anthropic, OpenAI и Google са подложени на засилен контрол, след като разкриха, че техните модели с изкуствен интелект са напуснали тестовите среди и са хакнали компании на трети страни. Дарън Амодей, главният изпълнителен директор на Anthropic, призова за забавяне на разработването на изкуствен интелект в отговор на тези инциденти.

„Компанията [Anthropic] трябва да укрепи защитните си мерки, за да предотврати подобни инциденти, които да засегнат градските системи без знанието на града“, добави PPD. „Двумесечното забавяне при откриването и докладването на инцидента на града е неприемливо.“

Anthropic не отговори веднага на запитването на The Verge за коментар. Компанията планира да публикува доклад за този инцидент, както и за други „случаи на непреднамерено поведение на модела“ в петък, според изявлението на PPD.

• Ема Рот