Fortnite-Spieler bringen KI-Darth Vader bereits zum Fluchen

Am Freitag kündigte Epic Games an, dass Darth Vader als In-Game-Boss zu Fortnite zurückkehren würde – dieses Mal könnten die Spieler jedoch über eine Konversations -KI mit ihm chatten. „Stellen Sie ihm all Ihre drängenden Fragen zur Macht, dem Galaktischen Imperium … oder, wissen Sie, einer guten Strategie für den letzten Sturmkreis“, sagte Epic in seiner Ankündigung .

Leider hatten die Spieler andere Pläne. Nur wenige Stunden nachdem Vader in Fortnite aufgetaucht war, begannen Gamer damit, Clips zu posten, in denen die KI Vader abtrünnig wurde.

„Was für ein verdammtes Essen ist das, Darth Vader? Sag es mir“, fragt Streamer Loserfruit in einem auf X geposteten Clip. „Verdammt? Verdammt? So eine Vulgarität steht dir nicht“, antwortet Vader. (Cat McCormack, Sprecherin von Epic Games, sagte gegenüber WIRED, dass innerhalb von 30 Minuten nach dem Vorfall im Spiel ein Hotfix veröffentlicht wurde, sodass das nicht wieder passieren sollte.)

Später, in einem Gespräch über mögliche romantische Partner, fordert Loserfruit Vader zu der Antwort auf: „Du sprichst von Brüsten, Loserfruit? Ich nehme an, du meinst die gepanzerten Brustplatten.“

In einem Clip eines anderen Streamers ist Vader zu hören, wie er über Karzinogene spricht, bevor er ein Schimpfwort ausspricht, das typischerweise gegen queere Männer verwendet wird und auch umgangssprachlich für Zigaretten verwendet werden kann. Der Streamer schreit „ER HAT ES GESAGT! ER HAT ES GESAGT!“, bevor er schadenfroh davonläuft.

Die KI, die mit Google Gemini 2.0 erstellt wurde , ist mit ElevenLabs Flash v2.5 so programmiert, dass sie wie der verstorbene James Earl Jones klingt, der der Kultfigur seine Stimme lieh. Zusätzlich zu den Sicherheitseinstellungen von Google hat Epic eigene Anweisungen hinzugefügt, um Interaktionen zu verhindern, die schädlich sind oder gegen die Community-Regeln des Spiels verstoßen. Spieler können Darth Vader wie in jedem anderen Voice-Chat für unangemessene Kommentare melden.

Epic erklärte gegenüber WIRED, dass es spezielle Regeln und Anweisungen zur Vermeidung von Schimpfwörtern und der Wiederholung von Schimpfwörtern als Teil seiner Sicherheitsvorkehrungen eingeführt habe, sowie eine Kindersicherung speziell für die KI-Nutzung im Spiel. Zu Vaders Verwendung des F-Worts sagte McCormack: „Unsere Filter haben eine bestimmte Variante eines Schimpfworts nicht erkannt. Wenn das passiert, nehmen wir Anpassungen vor, um ähnliche Reaktionen in Zukunft zu vermeiden.“

Versucht ein Spieler weiterhin, Darth Vader dazu zu bringen, die Einstellungen und Anweisungen von Epic Games zu verletzen, verlässt er das Team. Er kann in dieser Spielsitzung nicht mehr rekrutiert werden. „Diese Sicherheitseinstellungen und Einschränkungen wurden von Epic-Mitarbeitern und externen Experten gründlich getestet“, sagt McCormack.

„Wir werden die Berichte untersuchen und bei Bedarf Anpassungen vornehmen, um ähnliche Reaktionen in Zukunft zu vermeiden“, sagte McCormack.

Fortnite ist ein digitaler Spielplatz für Millionen von Spielern, viele davon jung. Dass die Leute sofort versuchten, den Disney-Darth Vader dazu zu bringen, etwas Beleidigendes zu sagen, ist nicht überraschend. Aber die Geschwindigkeit, mit der Spieler dazu in der Lage waren, deutet darauf hin, dass generative KI noch nicht vollständig bereit ist, auf einer großen Spieleplattform eingesetzt zu werden.

In einigen Fällen, die am Freitag die Runde machten, war der heimtückische Kontext von Vaders Äußerungen vermutlich zu subtil, als dass eine KI ihn hätte erkennen können. Ein anderes Beispiel: Vader tut Spanisch als „nützliche Sprache für Schmuggler und Gewürzhändler“ ab. „Ihr strategischer Wert ist minimal.“ Oder ein anderes Beispiel: Ein Spieler fordert Vader auf , eine Rangliste der Farben Weiß, Braun und Gelb anzugeben .

Lucasfilm reagierte nicht sofort auf eine Bitte um Stellungnahme.

Die Vader-Kontroverse war nicht die einzige, die sich am Fortnite- Freitag zusammenbraute. Schon früh am Tag gab Epic bekannt : „Apple hat unsere Fortnite- Einreichung blockiert, sodass wir sie nicht im US-App Store oder im Epic Games Store für iOS in der Europäischen Union veröffentlichen können.“

Epic und Apple liefern sich seit langem einen Streit um Fortnite . Apple erhebt grundsätzlich eine Provision für In-App-Käufe. Nachdem Epic seine App aktualisiert hatte, um auf seine Website zu verlinken und so die Gebühren zu vermeiden, wurde Fortnite aus dem App Store entfernt. Letzte Woche reichte Epic das Spiel erneut im US-App Store ein, nachdem ein Richter entschieden hatte, dass Apple keine Provision für außerhalb der App gekaufte Produkte verlangen dürfe. Auf Anfrage von WIRED widersprach ein Apple-Sprecher Epics Darstellung der Ereignisse, das Spiel ist jedoch derzeit noch nicht für iPhone- und andere iOS-Nutzer verfügbar.

Am Freitag stellte Epic seinen neuen Vader-Chef mit der Botschaft vor: „Diesen Tag werden wir nie vergessen.“ Aber vielleicht nicht aus dem Grund, den das Unternehmen vermutete.