Die FDA bringt ihr generatives KI-Tool Elsa vorzeitig auf den Markt

Generative künstliche Intelligenz hat in der Bundesregierung eine neue Anwendung gefunden. Am Dienstag kündigte die US-amerikanische Food and Drug Administration die vorzeitige Einführung einer eigenen generativen KI an, die die Effizienz steigern soll.

Das Tool der FDA – Spitzname Elsa – soll Mitarbeiter bei allen Aufgaben unterstützen, von wissenschaftlichen Überprüfungen bis hin zu grundlegenden Betriebsabläufen. Ursprünglich hatte die FDA die Markteinführung bis zum 30. Juni geplant. Laut einer FDA- Erklärung liegt Elsa damit deutlich vor dem Zeitplan und unter dem Budget.

Es ist unklar, mit welchen genauen Informationen Elsa trainiert wurde, aber die FDA gibt an, dass keine „von der regulierten Industrie übermittelten Daten“ verwendet wurden, um sensible Forschungsergebnisse und Informationen zu schützen. Derzeit speichert Elsa seine Informationen in GovCloud, einem Produkt von Amazon Web Services, das speziell für vertrauliche Informationen entwickelt wurde.

Als Sprachmodell kann Elsa Mitarbeiter beim Lesen, Schreiben und Zusammenfassen unterstützen. Darüber hinaus kann die Software laut FDA unerwünschte Ereignisse zusammenfassen, Code für nichtklinische Anwendungen generieren und vieles mehr. Laut der Behörde wird Elsa bereits eingesetzt, um „die Überprüfung klinischer Protokolle zu beschleunigen, den Zeitaufwand für wissenschaftliche Auswertungen zu verkürzen und Inspektionsziele mit hoher Priorität zu identifizieren“.

In einer Pressemitteilung vom Mai, in der der Abschluss der ersten KI-gestützten wissenschaftlichen Prüfung der FDA bekannt gegeben wurde, zeigte sich Makary „überwältigt“ von Elsas Fähigkeiten. Diese seien „enorm vielversprechend, um die Prüfungszeit für neue Therapien zu verkürzen“. Er fügte hinzu: „Wir müssen die Zeit unserer Wissenschaftler wertschätzen und den Anteil unproduktiver Routinearbeiten reduzieren, der in der Vergangenheit einen Großteil des Prüfungsprozesses in Anspruch genommen hat.“

Laut dem Wissenschaftler Jinzhong Liu erledigte die generative KI der FDA Aufgaben in Minuten, die sonst mehrere Tage dauern würden. In der Ankündigung vom Dienstag sagte FDA-Chef-KI-Beauftragter Jeremy Walsh: „Mit der Veröffentlichung von Elsa bricht heute das KI-Zeitalter bei der FDA an. KI ist kein fernes Versprechen mehr, sondern eine dynamische Kraft, die die Leistung und das Potenzial jedes Mitarbeiters steigert und optimiert.“

Generative KI kann sicherlich ein nützliches Werkzeug sein, doch jedes Werkzeug hat seine Nachteile. Insbesondere im KI-Bereich häufen sich Berichte über Halluzinationen , die schlichtweg falsch oder irreführend sind. Obwohl sie häufig mit Chatbots wie ChatGPT in Verbindung gebracht werden, können Halluzinationen auch in staatlichen KI-Modellen auftreten und dort noch mehr Chaos anrichten .

Laut IT Veterans sind KI-Halluzinationen typischerweise auf Faktoren wie Verzerrungen in den Trainingsdaten oder fehlende, im Modell selbst integrierte Sicherheitsvorkehrungen zur Faktenprüfung zurückzuführen. Doch selbst wenn diese vorhanden sind, warnt IT Veterans, dass menschliche Kontrolle „unverzichtbar ist, um die Risiken zu minimieren und die Zuverlässigkeit der KI-integrierten Bundesdatenströme zu gewährleisten“.

Im Idealfall hat die FDA sorgfältig geprüft und Maßnahmen ergriffen, um Pannen bei Elsas Einsatz zu verhindern. Doch der Ausbau einer Technologie, die menschliche Aufsicht erfordert, ist immer dann besorgniserregend, wenn Bundesbehörden Massenentlassungen durchführen. Anfang April entließ die FDA 3.500 Mitarbeiter, darunter Wissenschaftler und Prüfer ( einige Entlassungen wurden jedoch später wieder rückgängig gemacht).

Die Zeit wird zeigen, wie sich Elsa letztendlich bewährt. Die FDA plant jedoch, den Einsatz in der gesamten Behörde auszuweiten, sobald die Technologie ausgereift ist. Dazu gehören Datenverarbeitung und generative KI-Funktionen, um „die Mission der FDA weiter zu unterstützen“.