Wikipedia Italien hat ein Problem mit Inhalten, die von generativer KI erstellt wurden

Seit mehreren Jahren beschäftigt eine Frage die weltweite Gemeinschaft der Wikipedia-Kuratoren. Was wird aus der freien Enzyklopädie? Von dem Portal, das in der Lage ist, alles menschliche Wissen, in jeder Sprache, von Menschen für Menschen erstellt, an einem Ort zu bündeln? Was wird aus all dem mit der durch generative KI erreichten Leistung? „Wir diskutieren darüber seit Jahren, zumindest seit ChatGpt der breiten Öffentlichkeit zugänglich gemacht wurde“, erklärt Ferdinando Traversa, 20, aus Bari, der neue Präsident von Wikimedia Italia, gegenüber Italian Tech.

„Aber in letzter Zeit haben viele von uns einen Anstieg der Einträge bemerkt, die mit KI-Tools geschrieben wurden. Deshalb haben wir beschlossen, uns einige Regeln zu geben. Wir diskutieren darüber, aber das Ziel ist nur eines: den Menschen immer im Mittelpunkt zu behalten und ihm die Kontrolle über das Endprodukt zu geben“, fügt er hinzu. Die Community ist gespalten, die Diskussion hitzig. Allerdings hat sich die Stiftung für einen „nicht völlig geschlossenen“ Ansatz gegenüber KIs entschieden, die schätzungsweise 5 % der Einträge in der gesamten Enzyklopädie geschrieben oder zum Schreiben beigetragen haben. Im Gegenteil. „Wir möchten aber, dass die Einträge weiterhin von Menschen geschrieben werden, die sich gegenseitig beim Erstellen von Tabellen oder bei wiederkehrenden Aufgaben beim Entwurf helfen können“, begründet er.

Das Risiko eines Zusammenbruchs oder dass KIs ihre eigenen Produkte trainieren

Die Vorsicht der Wikipedia Italia-Community ist auf mehrere Risikofaktoren zurückzuführen: die Halluzinationen, unter denen generative KIs weiterhin leiden, das Risiko schwerwiegender Ungenauigkeiten, das Fehlen von Quellen und Zitaten, aber vor allem ein möglicher Kurzschluss in den Ergebnissen, wenn die KIs mit von ihnen selbst verfassten Artikeln zu trainieren beginnen.

Es ist kein Geheimnis, dass KIs Wikipedia in allen Sprachen nutzen, um die Textgenerierung zu erlernen. Unsere Server haben unter den ständigen Zugriffsanfragen dieser generativen Modelle stark gelitten. Doch nur wenige sehen ein damit verbundenes Risiko: einen Modellzusammenbruch, der alle – Nutzer und Wikipedia selbst – zum Verlust bringen würde. Der Modellkollaps ist ein viel diskutiertes Phänomen im Zusammenhang mit KI. Dies geschieht, wenn Modelle selbst mit KI-Produkten trainiert werden. Sie ernähren sich von ihrem eigenen Brei. Wirkung? Das Modell verarmt zunehmend, die Sprache wiederholt sich, wird weniger kreativ, ungenau und neigt dazu, Fehler und falsche Informationen zu verstärken.

Von der Wikipedia-Suche bis zur Chatbot-Anfrage: Was fehlt

Auch Traversa sieht in der KI eine Herausforderung. „Immer mehr Menschen, insbesondere jüngere, führen keine Online-Suchen mehr durch, sondern fragen Chatbots direkt.“ Wenn Wikipedia ihre Mission, das Wissen der Menschheit zu schützen, zu bewahren und dem Leser zugänglich zu machen, aufrechterhalten wolle, müsse sie „neue Wege erforschen, um dem Leser selbst bei der Konsultation zu helfen“.

Einen Chatbot direkt zu fragen bedeutet für Traversa, „auf die Schönheit zu verzichten, sich in der Lektüre zu verlieren und vielleicht einen Link oder eine Referenz zu entdecken und erneut zu lesen, mehr zu verstehen und neue Dinge zu lernen“. Und es besteht das Risiko, dass der Chatbot anhand eines fehlerhaften Datensatzes trainiert wurde und daher schlechtes Feedback gibt. All dies sind Probleme, die im Laufe der Zeit angegangen werden müssen.

Heute ist Wikipedia in bester Verfassung. In Italien sind jeden Monat 3.000 Community-Mitglieder aktiv. Im April wurde es 57 Millionen Mal gelesen, 396.000 Änderungen an den Einträgen wurden vorgenommen. Auch wenn ihre Popularität derzeit nicht durch den Druck der KI beeinträchtigt wird, stellt der politische Druck ein größeres Hindernis dar.

Zu Musks Angriffen: „Wir sind nicht käuflich“

Wir wurden mehrfach von Musk angegriffen. Er glaubt, wir seien voreingenommen und verbreiteten falsche Informationen über ihn und Tesla. Er möchte, dass wir Dinge schreiben, die nicht wahr sind, zumindest nicht verifiziert. Deshalb hat er uns mehrfach angegriffen und die Amerikaner aufgefordert, keine Spenden mehr an uns zu senden.

Nachricht fehlgeschlagen. Die Spenden „entsprechen den Erwartungen der Stiftung“, sagt Traversa. Nächstes Jahr wird Wikipedia 25 Jahre alt. „Unsere Mission wird sich nicht ändern, unsere Arbeitsweise wird sich nicht ändern, wir stehen nicht zum Verkauf und können nicht wie Twitter gekauft werden, wir sind das letzte Stück freies Internet im Zeitalter der Dominanz der Technologiegiganten“, schließt Traversa.