Видеоролики искусственного интеллекта, на которых чернокожие женщины изображены как «снежный человек», становятся вирусными

Сгенерированный ИИ «злодей-бигфут » с акриловыми ногтями и розовым париком напрямую обращается к своей воображаемой аудитории с помощью iPhone. «Возможно, нам придется бежать», — говорит она. «Меня разыскивают за ложный донос на папу моего ребенка». Это видео ИИ, созданное Veo 3 от Google, набрало более миллиона просмотров в Instagram . Это всего лишь один из многих вирусных постов в Instagram и TikTok, просмотренных WIRED, которые изображают чернокожих женщин как приматов и увековечивают расистские штампы с помощью видеоинструментов ИИ .

Veo 3 от Google стал хитом среди интернет-аудитории, когда был представлен на конференции разработчиков компании в мае. Сюрреалистические поколения библейских персонажей и криптидов, таких как снежный человек, которые ведут блоги в стиле инфлюенсеров, быстро распространились по социальным сетям. Созданные ИИ видеоблоги о снежном человеке даже использовались Google в качестве торгового аргумента в рекламе новой функции.

С помощью «злодеев-бигфутов» создатели контента в Интернете берут то, что было довольно безобидным трендом в социальных сетях, и перепрофилируют его для дегуманизации чернокожих женщин. «Есть исторический прецедент, почему это оскорбительно. В ранние дни рабства чернокожие люди были чрезмерно преувеличены в иллюстрациях, чтобы подчеркнуть первобытные характеристики», — говорит Никол Тернер Ли , директор Центра технологических инноваций в Институте Брукингса.

«Омерзительно и тревожно, что эти расовые штампы и изображения легко доступны для разработки и распространения на онлайн-платформах», — говорит Тернер Ли.

Один из самых популярных аккаунтов Instagram, публикующий эти сгенерированные клипы, имеет пять видео с более чем миллионом просмотров, менее чем через месяц после первой публикации аккаунта. Видеоролики AI показывают гибридов животных и женщин, говорящих на афроамериканском диалекте английского языка в карикатурной манере, причем персонажи часто изображены в чепчиках и угрожающими драться с людьми. В одном из клипов поколение AI, используя деревенский акцент, намекает, что она достала бутылку ликера Hennessy, которая хранилась в ее гениталиях.

Veo 3 может создать все, что вы видите в таких видео, от декораций до аудиозаписей и самих персонажей, с помощью одной подсказки. Биография популярного аккаунта Instagram включает ссылку на онлайн-курс за 15 долларов, где вы можете узнать, как создавать подобные видео. В видео с заголовками вроде «Veo 3 делает тяжелую работу» три учителя используют закадровый голос, чтобы провести учеников через процесс подсказок видеоинструменту ИИ для клипов с бигфутами и создания последовательных персонажей. Адрес электронной почты, указанный в качестве администратора онлайн-курса, вернул сообщения, когда WIRED попытался связаться с создателями.

Представитель Meta, которой принадлежит Instagram, отказался комментировать запись. Google и TikTok подтвердили запрос WIRED на комментарий, но не предоставили заявления до публикации.

Наш анализ социальных сетей обнаружил подражательные аккаунты в Instagram и TikTok, которые перепечатывали клипы «злодеев-бигфутов» или создавали похожие видео. Перепост одного видео в Instagram набрал 1 миллион просмотров на странице мемов, посвященной ИИ. В другом аккаунте Instagram есть еще одно видео «злодеев-бигфутов», набравшее почти 3 миллиона просмотров. Это касается не только Instagram; аккаунт в TikTok, посвященный похожему контенту, созданному ИИ, в настоящее время имеет более 1 миллиона лайков. Эти аккаунты не сразу отреагировали на просьбу прокомментировать ситуацию.

«Если я умру здесь, мне лучше воскреснуть с BBL», — говорит созданная ИИ женщина-бигфут в другом аккаунте, разговаривая на камеру, уклоняясь от бомб во время отпуска в Израиле. «Одна из проблем с генеративным ИИ заключается в том, что создатели инструментов ИИ не могут представить себе все способы, которыми люди могут быть ужасны друг другу», — говорит Мередит Бруссард, профессор Нью-Йоркского университета и автор книгиMore Than a Glitch о предвзятости в технологиях. «Поэтому они не могут установить достаточное количество ограждений. Это точно такая же проблема, которую мы видели на платформах социальных сетей».

После того, как мы нажали на несколько видеороликов с самками бигфута, лента Instagram Reels нашего тестового аккаунта вскоре заполнилась алгоритмом другими расистскими видеороликами, включая сгенерированное искусственным интеллектом изображение чернокожего мужчины на рыбацкой лодке, который с волнением ловит кусок жареной курицы и называет шимпанзе своим сыном.

Хотя эти видеоролики с ИИ расстраивают, они не обязательно удивляют. Еще в 2023 году, когда созданное ИИ видео Уилла Смита, поедающего спагетти, стало вирусным в социальных сетях, старший автор WIRED Джейсон Пархэм раскритиковал видео как форму менестрелей. «Эта грядущая эпоха нового менестреля примет еще более хитрую форму хамелеона, адаптивную и непосредственную в своем коварстве, от гуманистических дипфейков и точных голосовых манипуляций до всевозможных цифровых обманов», — писал тогда Пархэм.

С этой последней волной генеративных видеоинструментов ИИ, возглавляемых Veo 3 от Google, никогда не было так просто создавать фотореалистичные видео ИИ. Простота создания многочисленных видео в сочетании с постоянным распространением ИИ-отходов на платформах социальных сетей является частью того, что популяризировало этих «злодеев-бигфутов». Больше тенденций в социальных сетях, где создатели используют ИИ для атак на группы меньшинств, вероятно, продолжатся. «ИИ не только упростил манипулирование изображениями», — говорит Тернер Ли. «Но сам алгоритм и экология алгоритма также упростили распространение или увеличение потребления этого контента».