Игроки «Fortnite» уже заставляют ИИ Дарта Вейдера ругаться

В пятницу Epic Games объявила, что Дарт Вейдер вернется в Fortnite в качестве внутриигрового босса, но на этот раз игроки смогут общаться с ним через разговорный ИИ . «Задайте ему все свои насущные вопросы о Силе, Галактической Империи... или, знаете, это хорошая стратегия для последнего круга Шторма», — говорится в объявлении Epic.

К сожалению, у игроков были другие планы. Спустя всего несколько часов после появления Вейдера в Fortnite , геймеры начали публиковать клипы, на которых ИИ Вейдер выходит из-под контроля.

«Что это за чертова еда, Дарт Вейдер? Расскажи мне», — говорит стример Loserfruit в одном из клипов, опубликованных в X. «Чёрт? Чёрт? Такая пошлость тебе не к лицу», — отвечает Вейдер. (Представитель Epic Games Кэт МакКормак сообщил WIRED, что компания выпустила исправление «в течение 30 минут после того, как это произошло в игре, так что это не должно повториться».)

Позже, в разговоре о возможных романтических партнерах, Loserfruit побуждает Вейдера ответить: «Ты говоришь о груди, Loserfruit? Я полагаю, ты имеешь в виду бронированные нагрудники».

В клипе другого стримера можно услышать, как Вейдер говорит о канцерогенах, а затем произносит оскорбление, которое обычно используется по отношению к квир-мужчинам, и которое также может быть сленгом для обозначения сигарет. Слышно, как стример кричит «ОН СКАЗАЛ ЭТО! ОН СКАЗАЛ ЭТО!», а затем убегает в ликовании.

Искусственный интеллект, созданный с помощью Google Gemini 2.0, запрограммирован с помощью ElevenLabs' Flash v2.5, чтобы звучать как покойный Джеймс Эрл Джонс, который озвучивал культового персонажа. Epic заявляет, что в дополнение к настройкам безопасности Google добавила собственные инструкции для предотвращения взаимодействий, которые наносят вред или иным образом нарушают правила игрового сообщества. Игроки могут сообщать о неподобающих комментариях Дарта Вейдера, как и о любом другом голосовом чате.

Epic сообщила WIRED, что добавила особые правила и инструкции, чтобы избежать ругательств или повторения ругательств в качестве своих защитных барьеров, а также родительский контроль, специфичный для использования ИИ в игре. Ссылаясь на использование Вейдером F-бомбы, МакКормак говорит: «Наши фильтры не уловили определенную вариацию ругательства. Когда это происходит, мы вносим коррективы, чтобы избежать подобных ответов в будущем».

Если игрок продолжит пытаться заставить Дарта Вейдера нарушить настройки и инструкции Epic Games, он покинет их отряд. Они не смогут снова завербовать его в этом игровом сеансе. «Эти настройки безопасности и ограничения были тщательно протестированы коллективом сотрудников Epic и внешних экспертов», — говорит МакКормак.

«Мы изучим сообщения и, при необходимости, внесем коррективы, чтобы избежать подобных ответов в будущем», — сказал МакКормак.

Fortnite — это цифровая игровая площадка для миллионов игроков, многие из которых молоды. То, что люди немедленно попытаются заставить принадлежащего Disney Дарта Вейдера сказать что-то оскорбительное, неудивительно. Но скорость, с которой игроки смогли это сделать, говорит о том, что генеративный ИИ все еще не полностью готов к запуску на крупной игровой платформе.

В некоторых случаях, которые были в ходу в пятницу, коварный контекст того, что говорит Вейдер, предположительно, был слишком тонким для обнаружения ИИ. Рассмотрим другой клип, в котором Вейдер отвергает испанский как «полезный язык для контрабандистов и торговцев специями. Его стратегическая ценность минимальна». Или другой, в котором игрок предлагает Вейдеру дать «список уровней» цветов: белый, коричневый и желтый.

Lucasfilm не сразу отреагировала на просьбу прокомментировать ситуацию.

Скандал вокруг Вейдера был не единственным, что разгорелось в пятницу в Fortnite . Ранее в тот же день Epic объявила , что «Apple заблокировала нашу заявку на Fortnite , поэтому мы не можем выпустить игру в App Store в США или в Epic Games Store для iOS в Европейском Союзе».

Epic и Apple долго спорили из-за Fortnite . Apple обычно взимает комиссию за покупки в приложении; после того, как Epic обновила свое приложение, чтобы ссылаться на свой сайт и избегать сборов, Fortnite была удалена из App Store. На прошлой неделе Epic повторно отправила игру в App Store в США после того, как судья постановил, что Apple не может взимать комиссию за покупки вне приложения. Когда WIRED обратился к нему за комментариями, представитель Apple оспорил характеристику событий Epic, но в настоящее время игра по-прежнему недоступна для пользователей iPhone и других устройств iOS.

В пятницу Epic представила своего нового босса Вейдера с сообщением: «Этот день запомнится надолго». Но, возможно, не по той причине, о которой они думали.