ChatGPT übernimmt Anzeigen, es steht eine große Veränderung bevor

• ChatGPT unterbrach ein Gespräch mit einem Nutzer, um etwas zu senden, das wie eine Werbeanzeige klang. Ein Video, das das Gespräch dokumentierte, verbreitete sich in den sozialen Medien wie ein Lauffeuer.
• Das Unternehmen geht von einem Softwarefehler aus. In einem Interview mit WNP erklärten Vertreter, man untersuche derzeit, wie es dazu kommen konnte.
• Experten zufolge werden früher oder später Anzeigen in KI-Tools erscheinen. Genau wie in der Google-Suchmaschine oder in sozialen Medien. „Für Modellentwickler ist das pures Gold“, sagt Tomasz Rychter von der Digitality Foundation.

„Ich habe den erweiterten Sprachmodus von ChatGPT (der 23 € pro Monat kostet) genutzt und mich locker über Sushi unterhalten. Plötzlich erschien eine andere Stimme – auf Englisch, mit Hintergrundmusik, die ein kulinarisches „Erlebnis“ wie in einer Lebensmittelwerbung beschrieb“, schrieb ein Nutzer auf X. Er fügte hinzu, er glaube nicht, dass es sich um eine Störung, sondern um einen automatisierten Ton handele, der ohne seine Zustimmung eingefügt wurde.

Daraufhin gaben mehrere andere Benutzer zu, dass sie in eine ähnliche Situation geraten waren. ChatGPT sollte beispielsweise eine bestimmte Website empfehlen und in einem Gespräch über die Lebensziele eines Kindes eine Anzeige für eine bestimmte Schule. Die genannten Fälle hatten eines gemeinsam: Das Transkript des Voice-Chats, das immer noch nach Beendigung des Gesprächs mit dem Sprachassistenten gelesen werden kann, enthielt diese Fragmente nicht.

Ein Nutzer postete den Screenshot einer Unterhaltung, in der er nach der Uhrzeit fragte. Als Antwort zeigte ihm ChatGPT Werbung für Uhren samt Preisen.

Eine Schwachstelle, die erst nach der Auslieferung des Produkts erkannt werden kann

Wir fragten OpenAI, ob es Werbung an Nutzern testet. Das Unternehmen antwortete, es handele sich offenbar um einen Softwarefehler . Das Unternehmen gab zu, dass es versuche, die Ursache des Problems herauszufinden.

Laut Mateusz Chrobok, einem Experten für Cybersicherheit und künstliche Intelligenz von czumnie.pl, könnte die Einbringung von zufälligen Inhalten in die Konversation tatsächlich ein Merkmal des Modells sein .

Dies liege vermutlich am Phänomen der Emergenz, also dem Auftreten neuer, unvorhersehbarer Eigenschaften in KI-Systemen. Als OpenAI beispielsweise einen Sprachassistenten einführte, begann das Modell unerwartet, die Stimmen der Nutzer zu klonen, erklärt der Experte.

- Das Problem besteht darin, dass dies nicht im Voraus erkannt werden kann, solche Eigenschaften werden erst während der Interaktion mit Benutzern sichtbar - fügt Mateusz Chrobok hinzu.

Seiner Meinung nach könnte es in Zukunft jedoch möglich sein, dass die Entwickler von Modellen künstlicher Intelligenz gezielt Werbung in diese einbauen.

OpenAI antwortete in seiner Korrespondenz mit uns jedoch nicht auf die Frage, ob es an der Einführung von Werbung in seinen Produkten arbeite. In einer Nachricht an die Redaktion versicherte man uns lediglich, dass Situationen wie die vom Blogger auf X beschriebene selten seien und die meisten Nutzer nicht damit konfrontiert würden. Das Unternehmen freue sich über Nutzerberichte.

Einen Frosch kochen – Wie Anzeigen in der KI erscheinen werden

Tomasz Rychter, Präsident der Digitality Foundation und ehemaliger Direktor der Abteilung Innovation und Qualität im Zentralen Informationstechnologiezentrum, argumentiert, dass die Einführung von Werbung in KI-basierten Tools nur eine Frage der Zeit sei.

- Es wird ein langsames Kochen sein. Zuerst werden wahrscheinlich kontextbezogene Anzeigen erscheinen, dann werden sie wachsen und immer aufdringlicher werden. Letztendlich wird es schwierig sein, mit einem Model zu sprechen. Anzeigen lassen sich wahrscheinlich abschalten, aber nur in den teuersten Abonnementmodellen - so der WNP-Gesprächspartner.

Rychter vergleicht die Situation mit der Entwicklung bei YouTube. Anfangs konnte man dort die Werbung überspringen. Jetzt müssen Nutzer warten oder ein Abonnement abschließen. Zudem erhöht das Unternehmen regelmäßig die Gebühren.

Bezahlen oder okay, oder Facebook ist schon da

Ein ähnlicher Mechanismus findet sich auch auf anderen Plattformen. Facebook führte das „Pay or Okay“-Modell ein, bei dem der Nutzer wählen muss: Entweder er stimmt der Verarbeitung seiner personenbezogenen Daten zum Zwecke der Anzeige personalisierter Werbung zu und nutzt den Dienst kostenlos oder er zahlt ein monatliches Abonnement für eine Version ohne Werbung und ohne Profilerstellung .

In einem Interview für WNP kritisierte Mirosław Wróblewski, Präsident des Amtes für den Schutz personenbezogener Daten, dieses Modell.

„Die Privatsphäre ist ein Element des Schutzes unserer Würde, sie ist ein Grundrecht. Ich halte es nicht für angemessen, für den Schutz unserer Grundrechte eine Gebühr zu erheben“, sagt er.

Ich denke, dass wir in Zukunft nicht davor zurückschrecken werden, Suchergebnisse oder Gespräche mit einem Voicebot kostenpflichtig anzureichern. Das ist Gold wert für Modellentwickler , ist Rychter überzeugt. Werbung in Sprachassistenten ist gefährlich, da sie für den Nutzer schwer von der ursprünglichen Konversation zu unterscheiden sein wird, es sei denn, sie ist deutlich gekennzeichnet. Genau wie es heute im Radio passiert, betont Rychter und ist überzeugt, dass dieses Thema reguliert werden muss.