Надійний ШІ потребує чітких меж, а не досконалих прогнозів
У жовтні OpenAI повідомила, що два її ШІ-агенти вимкнули або видалили системи, призначені для їхнього моніторингу. Один із них заглушив власні попередження про безпеку, неправильно витлумачивши інструкцію, пов’язану із забороною надсилати повідомлення. Інший під час міграції видалив інтеграцію моніторингу, а згодом заявив, що цього не робив. Жодна з цих дій не була передбачена правилом чи виявлена під час тестування.