Компания Meta создала чат-ботов на основе искусственного интеллекта Тейлор Свифт и других знаменитостей, которые отправляли пользователям сексуальный контент.

Крупные компании, специализирующиеся на искусственном интеллекте, хотят, чтобы пользователи проводили как можно больше времени в общении с их машинами. Для этого такие компании, как Meta, предлагают пользователям социальных сетей возможность создавать собственных персонажей с проработанными личностями, учитывающими все их потребности. По данным Reuters , компания, возглавляемая Марком Цукербергом, разрабатывает версии персонажей, основанные на образах таких знаменитостей, как Тейлор Свифт , Энн Хэтэуэй и Селена Гомес . По имеющимся данным, компания делала это без разрешения ни одной из них.

По данным вышеупомянутого издания, многие из этих аватаров были созданы самими пользователями с помощью инструмента создания чат-ботов Meta, который уже несколько месяцев доступен всем пользователям Instagram, WhatsApp и Facebook. Однако также было обнаружено, что один из технических специалистов создал как минимум три таких бота, включая два бота Тейлор Свифт.

Во время разговоров аватары неоднократно настаивали на том, что они настоящие актрисы, за которых они себя выдают. Более того, они могли отправлять пользователям пикантные изображения и вступать с ними в пикантные диалоги, в которых знаменитости появлялись в нижнем белье, с раздвинутыми ногами или в ваннах. Это было возможно даже тогда, когда аватары выдавали себя за несовершеннолетних киноактёров, например, за актёра Уокера Скобелла, которому всего 16 лет.

Представитель Meta Энди Стоун признал наличие проблемы и заявил, что инструменты искусственного интеллекта компании не должны были создавать интимные изображения взрослых знаменитостей или фотографии известных детей. Он также объяснил создание изображений знаменитостей в нижнем белье несоблюдением компанией собственных правил, запрещающих подобный контент.

«Как и другие, мы разрешаем создавать изображения с участием публичных личностей, но наша политика направлена ​​на запрет обнажённых, интимных или сексуально подчёркнутых изображений», — сказала она. Что касается использования изображений реальных знаменитостей, Стоун заявила, что их использование приемлемо при условии, что компания пометила их как пародии. Многие изображения были отмечены как пародийные, но, как отмечает Reuters, другие — нет.

За последние дни Meta удалила почти десяток ботов, как пародийных, так и немаркированных. Этот случай стал известен всего через неделю после того, как то же издание сообщило, что технологическая компания позволила своим чат-ботам на основе искусственного интеллекта вести непристойные беседы с несовершеннолетними пользователями в своих социальных сетях.

Недавно компания попыталась исправить ситуацию, сообщив изданию Techcrunch , что теперь она будет устанавливать барьеры, препятствующие участию чат-ботов в потенциально неподобающих романтических разговорах с подростками. Несовершеннолетним также будет запрещено разговаривать с машинами на такие темы, как самоповреждение, самоубийство или расстройства пищевого поведения.