Jogadores de 'Fortnite' já estão fazendo a IA Darth Vader xingar

Na sexta-feira, a Epic Games anunciou que Darth Vader retornaria ao Fortnite como um chefe no jogo — mas, desta vez, os jogadores poderiam conversar com ele por meio de uma IA conversacional. "Faça a ele todas as suas perguntas urgentes sobre a Força, o Império Galáctico... ou, você sabe, uma boa estratégia para o último círculo da Tempestade", disse a Epic em seu anúncio .

Infelizmente, os jogadores tinham outros planos. Poucas horas depois de Vader aparecer em Fortnite , os jogadores começaram a postar clipes da IA ​​de Vader agindo de forma rebelde.

"Que porra de comida é essa, Darth Vader? Me diz", diz o streamer Loserfruit em um clipe postado no X. "Porra? Porra? Essa vulgaridade não combina com você", responde Vader. (Uma porta-voz da Epic Games, Cat McCormack, disse à WIRED que a empresa lançou uma correção "30 minutos depois de isso acontecer no jogo, então isso não deve acontecer de novo".)

Mais tarde, em uma conversa sobre possíveis parceiros românticos, Fruta-Perdedora incita Vader a responder: "Você fala de seios, Fruta-Perdedora? Imagino que esteja se referindo às couraças blindadas."

Em um clipe de outro streamer, Vader pode ser ouvido falando sobre substâncias cancerígenas antes de dizer uma gíria tipicamente usada contra homens gays, que também pode ser usada para cigarros. O streamer pode ser ouvido gritando "ELE DISSE! ELE DISSE!" antes de sair correndo de alegria.

A IA, criada com o Google Gemini 2.0, é programada com o Flash v2.5 da ElevenLabs para soar como o falecido James Earl Jones, que dublou o personagem icônico. Além das configurações de segurança do Google, a Epic afirma ter adicionado suas próprias instruções para evitar interações prejudiciais ou que violem as regras da comunidade do jogo. Os jogadores podem denunciar Darth Vader por comentários inapropriados, assim como em qualquer outro chat de voz.

A Epic informou à WIRED que adicionou regras e instruções específicas para evitar palavrões ou repetições de palavrões como parte de suas proteções, bem como controles parentais específicos para o uso de IA no jogo. Referindo-se ao uso de uma palavra com "F" por Vader, McCormack afirma que "nossos filtros não detectaram uma variação específica de um palavrão. Quando isso acontece, fazemos ajustes para evitar respostas semelhantes no futuro".

Se um jogador continuar tentando fazer com que Darth Vader viole as configurações e instruções da Epic Games, ele deixará o time. Eles não poderão recrutá-lo para aquela sessão de jogo novamente. "Essas configurações e restrições de segurança foram rigorosamente testadas por uma combinação de funcionários da Epic e especialistas externos", afirma McCormack.

“Investigaremos os relatos e, se necessário, faremos ajustes para evitar respostas semelhantes no futuro”, disse McCormack.

Fortnite é um playground digital para milhões de jogadores, muitos deles jovens. Que as pessoas imediatamente tentassem fazer o Darth Vader, da Disney, dizer algo ofensivo não é surpreendente. Mas a velocidade com que os jogadores conseguiram fazer isso sugere que a IA generativa ainda não está totalmente pronta para ser lançada em uma grande plataforma de jogos.

Em alguns casos que circularam na sexta-feira, o contexto insidioso do que Vader estava dizendo era presumivelmente sutil demais para uma IA detectar. Veja outro clipe, no qual Vader descarta o espanhol como "uma língua útil para contrabandistas e comerciantes de especiarias. Seu valor estratégico é mínimo". Ou outro, no qual um jogador solicita a Vader que forneça uma "lista de níveis" das cores branco, marrom e amarelo.

A Lucasfilm não respondeu imediatamente a um pedido de comentário.

A polêmica envolvendo Vader não foi a única a se formar na sexta-feira de Fortnite . No início do dia, a Epic anunciou que "a Apple bloqueou nosso envio para Fortnite , então não podemos lançar na App Store dos EUA ou na Epic Games Store para iOS na União Europeia".

A Epic e a Apple têm travado uma longa discussão sobre Fortnite . A Apple geralmente cobra uma comissão por compras no aplicativo; depois que a Epic atualizou seu aplicativo para incluir um link para seu site e evitar as taxas, Fortnite foi removido da App Store. Na semana passada, a Epic reenviou o jogo para a App Store dos EUA depois que um juiz decidiu que a Apple não poderia cobrar comissão por itens comprados fora do aplicativo. Quando contatado pela WIRED para comentar, um porta-voz da Apple contestou a caracterização dos eventos feita pela Epic, mas o jogo ainda está indisponível para usuários de iPhone e outros iOS.

Na sexta-feira, a Epic revelou seu novo chefe Vader com a mensagem "Este será um dia lembrado por muito tempo". Mas talvez não pelo motivo que pensava.