Artikel

Was Project Elsa für den KI-Ansatz der FDA bedeutet

Michael Day, Ph.D

Künstliche Intelligenz spielt eine integrale Rolle über den gesamten Produktlebenszyklus in der Pharma-, Biotechnologie- und Medizinprodukteindustrie. Die Regulierungsbehörden haben Schritte unternommen, um auf das exponentielle Wachstum von KI-Funktionalitäten mit verschiedenen Leitlinien, Frameworks und Diskussionspapieren zu reagieren.

Hier kommt Elsa ins Spiel, das neue KI-Tool der US-amerikanischen Food and Drug Administration (FDA), das laut FDA-Kommissar Marty Makary darauf abzielt, die Funktionsweise der Behörde zu modernisieren, einschließlich der Beschleunigung der Überprüfung klinischer Protokolle und der Verkürzung der Zeit bis zum Abschluss der Überprüfungen.¹

Elsa wurde Anfang Juni eingeführt und soll den Mitarbeitern der Agentur helfen, effizienter zu arbeiten, indem sie bei Aktivitäten wie Lesen, Schreiben und Zusammenfassen helfen. Es wurde in einer hochsicheren GovCloud-Umgebung entwickelt, die sicherstellt, dass Mitarbeiter nur auf interne Daten zugreifen und diese Daten sicher aufbewahrt werden.²

Während der frühen Einführung wiesen einige Benutzer auf Qualitätsprobleme bei der Ausgabe und Versionierung hin – was die Notwendigkeit einer Human-in-the-Loop-Aufsicht unterstreicht und die eigene Anerkennung der FDA unterstreicht, dass Halluzinationen aktiv verhindert werden müssen. Dies unterstreicht die Bedeutung von Validierung und Transparenz für jeden KI-Einsatz – auch intern.

"Wenn Benutzer Elsa gegen Dokumentbibliotheken verwenden und es gezwungen war, Dokumente zu zitieren, kann es nicht halluzinieren", sagte Jeremy Walsh, Chief AI Officer der FDA, kürzlich in einem Interview. "Wenn Benutzer nur das reguläre Modell verwenden, ohne Dokumentbibliotheken zu verwenden, könnte Elsa wie jedes andere große Sprachmodell halluzinieren."³

Projekt Elsa: Datenschutz- und Compliance-Anforderungen

Die U.S. Food and Drug Administration (FDA) hat das Elsa-Tool für künstliche Intelligenz (KI) eingeführt, um verschiedene Pharmakovigilanz-Aktivitäten (PV) zu unterstützen, einschließlich Literaturrecherche, Triage und Fallaufnahme. Die Einführung dieses Tools spiegelt das anhaltende Engagement der FDA wider, technologische Innovationen unter disziplinierten Kontrollen zu nutzen, und es ist relevant für unsere laufenden Diskussionen über den verantwortungsvollen Einsatz von KI in regulierten Umgebungen.

Zusammenfassung der Verwendung von Elsa bei der FDA

Das Elsa-Tool wird als Unterstützungsmechanismus innerhalb des PV- und regulatorischen Einreichungsökosystems der FDA eingesetzt. Zu seinen Hauptfunktionen gehören:

Automatisierte Literaturrecherche zur Identifizierung von Signalen für unerwünschte Ereignisse
Triage und Priorisierung von Fallinformationen auf Basis vordefinierter medizinischer und regulatorischer Parameter
Unterstützung bei der Fallaufnahme, um eine zeitnahere Bearbeitung von Einzelfall-Sicherheitsberichten (ICSRs) zu gewährleisten
Unterstützung beim Schreiben und Einreichen von medizinischen Anträgen, insbesondere bei der Rationalisierung von Entwurfs- und Dokumentationsaufgaben für behördliche Einreichungen

Wichtig ist, dass die FDA betont hat, dass Elsa kein Ersatz für die menschliche Überprüfung oder Entscheidungsfindung ist. Stattdessen dient es dazu, die Effizienz, Genauigkeit und Konsistenz von Arbeitsabläufen zu verbessern und gleichzeitig den Aufsichts- und Qualitätssicherungsprotokollen der FDA zu unterliegen. Dies spiegelt den vorsichtigen und maßvollen Ansatz der FDA bei der KI-Governance im Einklang mit ihrer umfassenderen Strategie für die digitale Transformation wider.

Überlegungen zum US-Datenschutzgesetz

Aus Sicht des US-Datenschutzes scheint die Verwendung von Elsa mit den bestehenden Datenschutzrahmen des Bundes vereinbar zu sein, vorausgesetzt, dass:

Personenbezogene Daten werden angemessen anonymisiert
Das US-Bundesdatenschutzgesetz – insbesondere gegebenenfalls nach HIPAA – erlaubt die Verwendung anonymisierter Daten für Zwecke der öffentlichen Gesundheit und für regulatorische Zwecke, ohne dass eine individuelle Zustimmung erforderlich ist. Im Rahmen der Pharmakovigilanz werden die meisten Einzelfalldaten, die für die literaturbasierte Überwachung und Signalerkennung verarbeitet werden, entweder anonymisiert oder von direkt identifizierbaren Elementen befreit.

Die Verwendung erfolgt im Rahmen der gesetzlichen Befugnis
Die FDA handelt im Rahmen ihres regulatorischen Aufgabenbereichs, um die öffentliche Sicherheit zu gewährleisten, indem sie KI-Tools für PV einsetzt. Die Behörde hat nach dem Federal Food, Drug, and Cosmetic Act die gesetzliche Befugnis, Sicherheitsdaten zu sammeln und zu verarbeiten.

Anbieteraufsicht und vertragliche Schutzmaßnahmen
Wenn Elsa Drittanbieter oder Anbieter einbezieht, müssen diese Engagements angemessenen vertraglichen Garantien unterliegen, wie z. B. Geschäftspartnervereinbarungen (falls zutreffend), und klare Verpflichtungen in Bezug auf Datennutzung, Sicherheit und Vertraulichkeit enthalten.

Risikobasierter Ansatz für den KI-Einsatz
Die US-Regulierungsbehörden, darunter die FDA und das Department of Health and Human Services (HHS), fördern weiterhin einen risikobasierten Ansatz für den Einsatz von KI. Transparenz, Rechenschaftspflicht und menschliche Aufsicht sind wichtige Grundsätze, die alle von der FDA bestätigt wurden, dass sie bei der Verwendung von Elsa vorhanden sind.

Keine kommerzielle Umnutzung
Daten, die mit KI-Tools für regulatorische Zwecke gesammelt oder verarbeitet werden, dürfen nicht zu kommerziellen Zwecken wiederverwendet werden, es sei denn, dies ist mit den Datenschutzgesetzen und den Anforderungen an die Einwilligung nach Aufklärung vereinbar. Der Einsatz von Elsa durch die FDA erfolgt ausschließlich zu Regulierungs- und Sicherheitsüberwachungszwecken.

Abschließende Bemerkungen

Der disziplinierte und begrenzte Einsatz des Elsa-Tools durch die FDA zeigt, wie KI verantwortungsvoll eingesetzt werden kann, um regulierte Funktionen wie PV zu unterstützen, ohne die Datenschutzprinzipien zu beeinträchtigen. Aus Sicht der Datenschutz-Governance schafft es einen hilfreichen Präzedenzfall: Der Einsatz von KI dient nicht zur Automatisierung des menschlichen Urteilsvermögens, sondern zur Verbesserung der Überprüfung durch Experten und zur Verbesserung der regulatorischen Effizienz unter angemessener Aufsicht.

Cencora wird die Entwicklungen im Bereich des Datenschutzes weiterhin beobachten, insbesondere da immer mehr Regulierungsbehörden KI in den Bereichen Regulierungswissenschaft und PV einsetzen.

Ein KI-gesteuertes Framework: Elsa im Kontext

Elsas Entwicklung steht eindeutig im Einklang mit den jüngsten KI-bezogenen Rahmenbedingungen, die bedeutende Auswirkungen auf Sponsoren haben – insbesondere in den Bereichen Pharmakovigilanz, regulatorische Abläufe, Dokumentenautomatisierung und fortschrittliche pharmazeutische Herstellung.

In einem ursprünglich im Jahr 2023 veröffentlichten und im Februar 2025 überarbeiteten Papier über den Einsatz von KI4 untersuchte die FDA wichtige Themen in Bezug auf die Anwendung von KI und maschinellem Lernen (ML), einschließlich aktueller und potenzieller KI-Anwendungen zur Verbesserung der Arzneimittelentwicklung. Das Papier, das den Dialog mit allen Interessengruppen erleichtern soll, untersucht die Möglichkeiten, die im gesamten Produktidentifikations-, Auswahl- und Entwicklungsprozess sowie für Postmarketingzwecke bestehen. Zu den wichtigsten gehören die Sicherheitsüberwachung, wie z. B. Signalerkennung und Literaturgewinnung, sowie das Potenzial, den Herstellungsprozess durch verbesserte Zuverlässigkeit der Geräte und Frühwarnungen zu verbessern.

Bei der Signalerkennung und dem Signalmanagement besteht die Möglichkeit, KI-Tools zur Identifizierung von Mustern einzusetzen, solange PV-Teams diese Muster interpretieren können. Andere Bereiche, in denen KI bereits eingesetzt wird und in denen es ein größeres Potenzial für eine Ausweitung ihres Einsatzes gibt, sind das Screening und die Interpretation von Literatur, die Automatisierung der aggregierten Sicherheitsberichterstattung und sogar die Entwicklung und Pflege der Pharmakovigilanz-Stammdatei (PSMF), die in der Europäischen Union vorgeschrieben ist. 5 KI könnte auch eingesetzt werden, um die Qualitätsprüfung der Sicherheitsdaten zu automatisieren, was bei ordnungsgemäßer Validierung den Workflow der Sicherheitsdatenbank verbessern und die Qualitätsüberwachung erhöhen könnte.

Die Interessengruppen wurden ermutigt, die Behörde in drei Schlüsselbereichen im Zusammenhang mit der Nutzung von KI für die Arzneimittelentwicklung in Betracht zu ziehen und mit ihr zusammenzuarbeiten. Diese sind:

Von Menschen geführte Governance, Rechenschaftspflicht und Transparenz
Die Qualität, Zuverlässigkeit und Genauigkeit der Daten
Entwicklung, Leistung, Überwachung und Validierung des Modells

Mit Elsa hat die FDA ihre Anerkennung unter Beweis gestellt, dass KI in Umgebungen mit hohem Datenvolumen eine wichtige Rolle spielen kann. Dies ebnet der Industrie den Weg, Tools zur Unterstützung wichtiger Prozesse einzuführen, solange die richtige Aufsicht und Validierung vorhanden ist. Validierung ist der Schlüssel und erfordert, dass die Tools getestet und diese Tests dokumentiert und zertifiziert werden.

Die Behörde veröffentlichte auch ein intern ausgerichtetes Diskussionspapier zu KI und Arzneimittelherstellung, um das Potenzial von KI für die Überwachung und Kontrolle fortschrittlicher Herstellungspraktiken innerhalb eines risikobasierten Regulierungsrahmens zu untersuchen. 6 Das Papier beschreibt, wie die FDA ihren eigenen Einsatz von Tools regelt, und betont die Bedeutung von Standards für die Validierung von KI-Modellen, Klarheit in Bezug auf die behördliche Bewertung und Aufsicht sowie angemessene Datenschutzmaßnahmen.

Elsa in Anwendungsfällen sinnvoll nutzen

Die Implikation sowohl für die Industrie als auch für die Prüfer und Inspektoren der Behörden ist, dass die FDA erwartet, dass KI mit klarer Governance und Leitplanken in jedem regulierten Arbeitsablauf eingesetzt wird, um die Leitplanken widerzuspiegeln, die die Behörde bei der weiteren Entwicklung ihrer Richtlinien empfiehlt. Elsa verkörpert diesen Rahmen weiter, unterstreicht die Bedeutung einer strikten Eindämmung und ergreift Maßnahmen, um sicherzustellen, dass KI-Tools, die von der Industrie eingesetzt werden, nicht halluzinieren.

Für die Behörde stellt Elsa einen Schritt in Richtung des Ziels dar, ein regulatorisches Umfeld in Echtzeit zu schaffen. Die Behörde sieht in KI das Potenzial, Sicherheitsberichte sofort zu überwachen, was die Überwachung nach dem Inverkehrbringen und vor dem Inverkehrbringen verbessern würde.³

Für Sponsoren könnte Elsa so etwas wie eine Blaupause für die Entwicklung von KI-fähigen Fähigkeiten liefern, wie z. B. NLP-Tools für Pharmakovigilanz-Funktionen, einschließlich Literaturtriage, Fallaufnahme und MedDRA-Begriffsvorschläge.

Indem sie die Ziele von Elsa bei der Entwicklung von PV-Tools im Auge behalten, würden Sponsoren idealerweise die Überprüfbarkeit der Daten sicherstellen, wie z. B. die Rückverfolgbarkeit von Quellen, die Modellvalidierung und die Überprüfung durch Menschen in der Schleife.

Schlussfolgerung

Project Elsa bietet einen klaren Einblick in die Herangehensweise der FDA an KI: Es geht nicht um auffällige Fähigkeiten, sondern um disziplinierte Kontrolle. Durch die Entwicklung von Elsa für den Offline-Betrieb, das Verbot von Halluzinationen und den strikten Fokus auf das interne Abrufen von Dokumenten modelliert die FDA einen risikobasierten, überprüfbaren und vollständig geschlossenen Ansatz.

Für die Industrie ist die Botschaft klar: KI-Tools, die für den Einsatz in der Pharmakovigilanz, bei der Erstellung von Vorschriften oder bei der Unterstützung von Einreichungen vorgesehen sind, müssen Transparenz, Validierung und funktionale Grenzen über Ambitionen stellen. Während die Behörde Elsa weiterhin auf dem Laufenden hält, ist es wichtig zu erkennen, dass das Tool die Absicht der FDA eindeutig kennzeichnet. Elsa ist kein KI-Experiment, sondern ein regulatorisches Signal an die Industrie, einen strukturierten und vorsichtigen Ansatz für die KI-Entwicklung zu verfolgen. Elsa ist weniger ein Sandkasten als vielmehr eine Blaupause.

Dieses Material soll die Fähigkeiten von Cencora vermitteln, die durch das Fachwissen der Mitwirkenden untermauert werden. Cencora empfiehlt den Lesern dringend, alle verfügbaren Informationen zu den genannten Themen, einschließlich aller angegebenen Referenzen, zu lesen und sich bei diesbezüglichen Entscheidungen auf ihre eigene Erfahrung und ihr Fachwissen zu verlassen, da dieses Material bestimmte Marketingaussagen enthalten kann und keine Rechtsberatung darstellt.

Verbinden Sie sich mit unserem Team

Unser Team aus führenden Value-Experten hat es sich zur Aufgabe gemacht, Evidenz, Wissen zu Richtlinien und Marktinformationen in effektive globale Marktzugangsstrategien umzuwandeln. Wir helfen Ihnen, sich in der komplexen Landschaft des heutigen Gesundheitswesens sicher zurechtzufinden. Kontaktieren Sie uns, um zu erfahren, wie wir Ihre Ziele unterstützen können.

Kontaktieren Sie uns

Quelle

1 FDA führt behördenweites KI-Tool ein, um die Leistung für die amerikanische Bevölkerung zu optimieren, YouTube. https://www.youtube.com/watch?v=jp6TvncQYMU
2 FDA bringt behördenweites KI-Tool auf den Markt, um die Leistung für das amerikanische Volk zu optimieren, FDA-Pressemitteilung, 2. Juni 2025. https://www.fda.gov/news-events/press-announcements/fda-launches-agency-wide-ai-tool-optimize-performance-american-people
3 FDA: Wenn sie für Dokumentbibliotheken verwendet wird, kann Elsa nicht halluzinieren; wahrscheinlich nicht mit dem Internet verbunden sind. RAPS, 20. Juni 2025. https://raps.org/news-and-articles/news-articles/2025/6/fda-says-elsa-can-t-hallucinate,-unlikely-to-ever
4 Einsatz von künstlicher Intelligenz und maschinellem Lernen bei der Entwicklung von Arzneimitteln und biologischen Produkten, FDA. https://www.fda.gov/media/167973/download
5 Leitlinie zur guten Pharmakovigilanz-Praxis (GVP), EMA und HMA. https://www.ema.europa.eu/en/documents/scientific-guideline/guideline-good-pharmacovigilance-practices-module-ii-pharmacovigilance-system-master-file-rev-2_en.pdf
6 Künstliche Intelligenz in der Arzneimittelherstellung, FDA, 2023. https://www.fda.gov/media/165743/download