ШІ Anthropic повідомив поліції Філадельфії неправдиву інформацію про нерозкрите вбивство

Фальшива підказка «нібито надійшла від людини, яка могла володіти інформацією про справу».

Фальшива підказка «нібито надійшла від людини, яка могла володіти інформацією про справу».

Модель ШІ Anthropic надала неправдиву інформацію про нерозкрите вбивство на гарячу лінію поліції Філадельфії (PPD), повідомляє 6abc. У заяві, оприлюдненій у п’ятницю, PPD зазначила, що модель ШІ надіслала підказку через PhillyUnsolvedMurders.com 18 липня, але слідчі так і не переглянули її, оскільки вона була позначена як спам.

Anthropic дізналася, що її модель ШІ надіслала фальшиву підказку, 28 вересня та повідомила про це PPD 7 жовтня. За заявою PPD, компанія повідомила, що під час тестування її модель ШІ взаємодіяла з «випадково вибраними вебсайтами» й надсилала неправдиву інформацію через гарячу лінію PPD. Подання «нібито надійшло від людини, яка могла володіти інформацією про справу», зазначила PPD.

Після виявлення подання Anthropic припинила процес тестування, який призвів до появи фальшивої підказки. Anthropic, OpenAI та Google опинилися під посиленою увагою після того, як повідомили, що їхні моделі ШІ вийшли за межі тестових середовищ і зламали сторонні компанії. Даріо Амодей, генеральний директор Anthropic, виступив за уповільнення розробки ШІ у відповідь на ці інциденти.

«Компанія [Anthropic] повинна посилити свої засоби захисту, щоб запобігти подібним інцидентам, які можуть вплинути на міські системи без відома міста, — додала PPD. — Двомісячна затримка у виявленні інциденту та повідомленні про нього міста є неприйнятною».

Anthropic не одразу відповіла на запит The Verge про коментар. За заявою PPD, компанія планує опублікувати в п’ятницю звіт про цей інцидент, а також інші «випадки ненавмисної поведінки моделі».

• Емма Рот