Метаплатформы показали сотни «обнаженных» фейковых объявлений, обнаружили CBS News

Meta удалила ряд объявлений, продвигающих приложения для «обнажения» — инструменты искусственного интеллекта, используемые для создания откровенных сексуальных подделок с использованием изображений реальных людей, — после того, как расследование CBS News обнаружило сотни подобных объявлений на ее платформах.

«У нас действуют строгие правила в отношении несогласованных интимных изображений; мы удалили эту рекламу, удалили страницы, ответственные за ее размещение, и навсегда заблокировали URL-адреса, связанные с этими приложениями», — сообщил представитель Meta в заявлении, отправленном CBS News по электронной почте.

CBS News обнаружила десятки таких объявлений на платформе Instagram Meta в разделе «Истории», продвигающих инструменты ИИ, которые во многих случаях рекламировали возможность «загрузить фото» и «увидеть кого угодно голым». Другие объявления в «Историях» Instagram рекламировали возможность загружать и обрабатывать видео реальных людей. В одном рекламном объявлении даже было написано «как этот фильтр вообще разрешен?» в качестве текста под примером обнаженного deepfake .

Одна реклама продвигала свой продукт ИИ, используя крайне сексуализированные, одетые в нижнее белье, фейковые изображения актеров Скарлетт Йоханссон и Энн Хэтэуэй. Некоторые URL-ссылки рекламных объявлений перенаправляют на веб-сайты, которые продвигают возможность анимировать изображения реальных людей и заставлять их совершать половые акты. А некоторые приложения взимали с пользователей от 20 до 80 долларов за доступ к этим «эксклюзивным» и «продвинутым» функциям. В других случаях URL-адрес рекламы перенаправлял пользователей в магазин приложений Apple, где можно было загрузить приложения «nudify».

Анализ рекламы в библиотеке объявлений Meta показал, что на платформах социальных сетей компании, включая Facebook, Instagram, Threads, приложение Facebook Messenger и Meta Audience Network — платформу, которая позволяет рекламодателям Meta охватить пользователей мобильных приложений и веб-сайтов, сотрудничающих с компанией, доступны как минимум сотни таких объявлений.

По данным библиотеки объявлений Meta, многие из этих объявлений были специально нацелены на мужчин в возрасте от 18 до 65 лет и активно показывались в США, Европейском союзе и Великобритании.

Представитель Meta сообщил CBS News, что распространение такого рода контента, создаваемого искусственным интеллектом, является постоянной проблемой, и они сталкиваются со все более сложными задачами в попытках с ней бороться.

«Люди, стоящие за этими эксплуататорскими приложениями, постоянно совершенствуют свои тактики, чтобы избежать обнаружения, поэтому мы постоянно работаем над усилением мер по обеспечению безопасности», — заявил представитель Meta.

CBS News обнаружила, что реклама инструментов для создания фейковых изображений с эффектом «ню» все еще была доступна на платформе Instagram компании даже после того, как Meta удалила изначально отмеченные инструменты.

Дипфейки — это сфальсифицированные изображения, аудиозаписи или видео реальных людей, измененные с помощью искусственного интеллекта, чтобы создать ложное впечатление, будто кто-то говорит или делает что-то, чего этот человек на самом деле не говорил и не делал.

В прошлом месяце президент Трамп подписал двухпартийный закон « Закон о запрете на использование фейков », который, среди прочего, требует от веб-сайтов и социальных сетей удалять поддельный контент в течение 48 часов с момента получения уведомления от жертвы.

Хотя закон запрещает «заведомую публикацию» или угрозу публикации интимных изображений без согласия человека, включая дипфейки, созданные с помощью ИИ, он не распространяется на инструменты, используемые для создания такого контента, сгенерированного ИИ.

Эти инструменты нарушают правила безопасности и модерации платформы, реализованные как Apple, так и Meta на своих платформах.

Политика рекламных стандартов Meta гласит: «Реклама не должна содержать наготу взрослых и сексуальные действия. Это включает в себя наготу, изображения людей в откровенных или сексуально вызывающих позах или действия, которые носят сексуально вызывающий характер».

В соответствии с политикой Meta в отношении «запугивания и преследования» компания также запрещает «уничижительный сексуализированный фотошоп или рисунки» на своих платформах. Компания заявляет, что ее правила направлены на то, чтобы запретить пользователям делиться или угрожать делиться несогласованными интимными изображениями.

В правилах магазина приложений Apple прямо указано, что «контент, который является оскорбительным, бестактным, расстраивающим, призванным вызвать отвращение, имеет исключительно дурной вкус или просто жуткий», запрещен.

Алексиос Манцарлис, директор Инициативы по безопасности, доверию и защите в технологическом исследовательском центре Корнеллского университета, уже больше года изучает всплеск маркетинга сетей искусственного интеллекта deepfake на социальных платформах. Он рассказал CBS News в телефонном интервью во вторник, что видел тысячи подобных объявлений на платформах Meta, а также на таких платформах, как X и Telegram, за этот период.

Хотя в Telegram и X существует то, что он назвал структурным «беззаконием», допускающим подобный контент, он считает, что у руководства Meta нет воли для решения этой проблемы, несмотря на наличие модераторов контента.

«Я думаю, что команды по доверию и безопасности в этих компаниях заботятся. Честно говоря, я не думаю, что они заботятся на самом верху компании в случае с Meta», — сказал он. «Они явно недофинансируют команды, которые должны бороться с этим, потому что, какими бы сложными ни были эти [дипфейковые] сети… у них нет денег Meta, чтобы вложить их в это».

Мантзарлис также сообщил, что в ходе своего исследования он обнаружил, что генераторы дипфейков «nudify» доступны для загрузки как в магазине приложений Apple, так и в магазине Google Play, выразив разочарование неспособностью этих крупных платформ обеспечить соблюдение требований по такому контенту.

«Проблема с приложениями заключается в том, что у них есть этот фронт двойного назначения, когда они представлены в магазине приложений как забавный способ столкнуться с подменой, но затем они продвигаются на Meta, поскольку их главная цель — обнажить. Поэтому, когда эти приложения попадают на рассмотрение в магазины Apple или Google, у них не обязательно есть средства, чтобы запретить их», — сказал он.

«Необходимо межотраслевое сотрудничество, когда если приложение или веб-сайт позиционируют себя как инструмент для обнажения в любом месте сети, то все остальные могут сказать: «Ладно, мне все равно, как вы себя представляете на моей платформе, вы уходите»», — добавил Мантзарлис.

CBS News обратились к Apple и Google за комментариями о том, как они модерируют свои платформы. На момент написания статьи ни одна из компаний не ответила.

Продвижение крупных технологических компаний таких приложений поднимает серьезные вопросы как о согласии пользователя, так и о безопасности несовершеннолетних в сети. Анализ CBS News одного из сайтов «nudify», продвигаемых в Instagram, показал, что сайт не запрашивал никакой формы проверки возраста перед загрузкой пользователем фотографии для создания изображения deepfake.

Подобные проблемы широко распространены. В декабре программа CBS News 60 Minutes сообщила об отсутствии проверки возраста на одном из самых популярных сайтов, использующих искусственный интеллект для создания поддельных обнаженных фотографий реальных людей.

Несмотря на то, что посетителям сообщалось, что для использования сайта им должно быть 18 лет или больше, и что «обработка данных несовершеннолетних невозможна», 60 Minutes смог сразу же получить доступ к загрузке фотографий, как только пользователь нажал «принять» в сообщении о предупреждении о возрасте, без необходимости какой-либо другой проверки возраста.

Данные также показывают, что высокий процент несовершеннолетних подростков взаимодействовал с контентом deepfake. Исследование, проведенное в марте 2025 года некоммерческой организацией по защите детей Thorn , показало, что среди подростков 41% заявили, что слышали термин «deepfake nudes», а 10% сообщили, что лично знают кого-то, кто создал deepfake nudes.