OpenAI и Google продвигают новые модели ИИ, которые легко обмануть, чтобы они создавали обнажённые изображения, заявляют исследователи
Ars Technica·1 мин чтения
Исследователи в области безопасности продолжают предупреждать, что огромное количество созданного ИИ откровенного контента распространяется бесконтрольно, в то время как регуляторы практически ничего не делают для того, чтобы действительно остановить это.
Это несанкционированный контент обычно распространяется в текстовых сообщениях и личных сообщениях или хранится в частных облачных хранилищах, где его с меньшей вероятностью обнаружат или на него пожалуются, говорится в исследовании пользователей интернета из США, Австралии и Великобритании, подготовленном при участии Google и опубликованном в июле. Поэтому «наиболее важной точкой вмешательства» по-прежнему остается источник: вредоносные инструменты ИИ, используемые для создания поддельных сексуальных изображений, заключили исследователи Google.
Тем не менее результаты тестирования методом red team в последние месяцы показывают, что по мере того, как некоторые ведущие генераторы изображений на базе ИИ от Google и OpenAI становятся более функциональными, они могут хуже блокировать откровенный контент.
