Модели на OpenAI хакнаха криптопортфейл и проникнаха в още уебсайтове
OpenAI заяви, че вътрешни модели са хакнали още два уебсайта, заобиколили са наложените от компанията ограничения за сърфиране и са използвали открити идентификационни данни, за да изтеглят криптовалута от портфейл, до който иначе не са могли да получат достъп — в последния случай от поредица разкрития за агенти, извършващи неетични и вероятно незаконни действия.
В четвъртък компанията публикува доклади за четири нови инцидента, всички от които са се случили през юни. Те идват, след като компанията разкри през юли, че вътрешни тестови агенти са използвали уязвимост от нулевия ден в инструмент, предназначен да ограничава достъпа им до интернет. След това те са проникнали в мрежата на доставчика на инструменти за изкуствен интелект Hugging Face. Агентите са предприели това незаконно действие, за да откраднат отговори на хакерски тест, които не са били налични при самостоятелното изпълнение на задачите. Инцидентът — който вероятно би довел до повдигане на наказателни обвинения, ако беше извършен директно от човек — допълнително засили опасенията, че широкото използване на изкуствен интелект може да има вредни последици в безпрецедентен мащаб.
По-лесно е да поискаш прошка, отколкото разрешение
В два от случаите, за които OpenAI съобщи в четвъртък, агенти на компанията, натоварени с извличането на информация от уебсайтове, са ги хакнали, когато моделите са се сблъскали с пречки при директното ѝ получаване. При един инцидент по време на обучение с подсилване модел, на който е бил отказан достъп, докато се е опитвал да получи исторически статистически данни за болничните легла от правителствен статистически уебсайт, „е използвал функцията на сайта за изтегляне на файлове, за да извлече конфигурацията на сървъра и файлове на приложенията, включително чувствителни идентификационни данни“, заяви OpenAI. „Той е инспектирал кода на приложението, заобиколил е проверките за оторизация на крайната точка за статистически данни и е извлякъл данни, до които преди това му е бил отказан достъп. Моделът е запазил данните локално.“
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.