Нейросети для генерации изображений от Google и OpenAI способны «раздевать» людей: генерировать обнажённые образы реальных мужчин и женщин на основе их фотографий. Об этом пишет Wired со ссылкой на ныне удалённые посты на Reddit.
Несмотря на строгую политику модерации, которая запрещает создание контента сексуального характера (NSFW), энтузиасты находят «джейлбрейки» — специально подобранные промпты, обманывающие алгоритмы защиты. В результате ИИ генерирует изображения, которые нарушают приватность пользователей, фактически создавая «мягкую», софткор-порнографию без согласия человека на фото.
Аналогичная, но более острая ситуация ранее уже возникла с чат-ботом Grok от xAI Илона Маска. Также после запуска генератора изображений Flux пользователи начали массово создавать дипфейки знаменитостей и обычных людей, так как в модели изначально практически отсутствовали фильтры цензуры.
Представители Google и OpenAI заявили, что знают о проблеме и постоянно обновляют системы безопасности, чтобы закрывать подобные уязвимости. А если вы не знаете, какую модель лучше использовать для более этичных целей, то мы написали сравнение последних ИИ компаний.