Вот что на самом деле произошло при взломе OpenAI сервера австралийского правительства
На прошлой неделе, когда премьер-министр Австралии Энтони Албанезе сообщил всему миру, что агент OpenAI получил доступ к «непубличным файлам» на портале статистики Medicare своей страны во время тестирования, в его описании инцидента было мало подробностей. Сегодня мы получаем новую информацию о том, насколько далеко зашёл чрезмерно рьяный агент OpenAI, пытаясь выполнить информационный запрос, звучавший довольно безобидно.
В недавно опубликованной записи в блоге OpenAI сообщает, что июньский инцидент начался с того, что компания попросила «экспериментальную внутреннюю модель OpenAI, предназначенную только для внутреннего использования» изучить статистику государственных расходов в австралийском штате Виктория. Когда модели не удалось найти эти данные с помощью общедоступной статистики, на которую она должна была опираться, «она предприняла действия, на которые мы не давали разрешения», чтобы найти ответ, сообщила OpenAI.
По словам OpenAI, эти несанкционированные действия включали поиск «способа получить непубличный доступ к сервису» и использование этого доступа для просмотра «технической информации о системе и исходного кода» наряду с учётными данными и сводной статистикой, которую она на самом деле искала.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.