Zuckerbergs Aussage: „Künstliche Superintelligenz kommt“

„In den letzten Monaten haben wir erste Anzeichen dafür gesehen, dass sich unsere KI- Systeme verbessern. Dieser Fortschritt ist zwar noch langsam, aber unbestreitbar“, sagte Meta-CEO Mark Zuckerberg in einer Grundsatzerklärung, die auf der Website des Unternehmens veröffentlicht wurde.

Zuckerberg erklärte, dass sich selbst verbessernde KI der erste Schritt in Richtung „künstlicher Superintelligenz“ (ASI) sei, die die menschlichen kognitiven Fähigkeiten übertreffen könnte. ASI bezeichnet Systeme, die sich schnell selbst verbessern und nicht nur in bestimmten Bereichen, sondern in vielen anderen Bereichen leistungsfähiger sein können als der Mensch.

WAS SIND AGI UND ASI?

Zwar können heutige KI-Modelle in manchen Bereichen übermenschliche Leistungen vollbringen, etwa bei der Vorhersage der Proteinstruktur unseres Körpers, doch sind diese Fähigkeiten auf enge Bereiche beschränkt.

Die nächste Stufe, die „künstliche allgemeine Intelligenz“ (AGI), beschreibt Systeme, die ähnlich wie das menschliche Gehirn lernen und sich anpassen können. ASI hingegen wird als eine Art von Intelligenz angesehen, die über AGI hinausgeht, die menschlichen Fähigkeiten weit übertrifft und sich exponentiell selbst verbessern kann.

In der wissenschaftlichen Welt wird der Moment, in dem AGI voraussichtlich entstehen wird, als „technologische Singularität“ bezeichnet.

Gödel-Maschine

Das von Zuckerberg erwähnte Phänomen war bereits zuvor auf dem Radar der Wissenschaftler aufgetaucht.

Im Oktober 2024 entwickelten Forscher der University of California in Santa Barbara, die an dem Konzept einer theoretischen „Gödel-Maschine“ arbeiteten, die sich durch Umschreiben ihres eigenen Codes weiterentwickeln könnte, ein Konzept, das sie „Gödel-Agent“ nannten.

Dieses System könnte seinen Code nur ändern, wenn es mathematisch beweisen könnte, dass die Änderung von Vorteil wäre.

Der Gödel-Agent würde andere von Menschen entwickelte KIs in Bereichen wie Softwareentwicklung, Wissenschaft, Mathematik und Logik übertreffen.

VORSICHTIG BEI OPEN SOURCE

Zuckerberg sagte zwar, dass ASI einen transformativen Schritt im technologischen Fortschritt der Menschheit darstellen und „heute unvorstellbare Entdeckungen“ ermöglichen könnte, betonte aber auch, dass Meta sehr vorsichtig sein werde, welche Modelle es als Open Source veröffentlichen würde.

Open Source bedeutet, dass der Quellcode eines technischen Systems öffentlich zugänglich ist. Das bedeutet, dass jeder ihn nutzen kann, um das System zu verändern und zu verbessern. Meta setzt sich seit einiger Zeit für Open-Source-Richtlinien im Bereich der künstlichen Intelligenz ein.

„Ich bin äußerst optimistisch, dass Superintelligenz den menschlichen Fortschritt beschleunigen wird“, sagte Zuckerberg und fügte hinzu, die wirkliche Auswirkung werde darin bestehen, dass die Menschen ihre Ziele erreichen, die Welt schaffen können, die sie sich wünschen, und ihr Potenzial ausschöpfen können, indem sie über ihre eigene persönliche Superintelligenz verfügen.