Artikel
KI im Rampenlicht: Erkenntnisse vom Weltkongress für Patientensicherheit
-
Lin Li, Ph.D.
-
José Miguel Rivas Romero
-
Stephen Sun, MD, MPH
Die Branche hat einen Punkt erreicht, an dem das Verständnis von künstlicher Intelligenz (KI) und ihren potenziellen Anwendungen in der Pharmakovigilanz erheblich gereift ist. Das wurde sowohl auf dem Weltkongress für Patientensicherheit vom 22. bis 24. September in Amsterdam als auch auf dem Kongress vom 13. bis 15. Oktober in Boston deutlich. Für PV-Führungskräfte weltweit bedeutet dies, wie sich die PV-Workflows selbst entwickeln sollten, um KI optimal zu nutzen, und wie wichtig es ist, die Technologie nicht nur zu implementieren, sondern auch zu verstehen.
Umgang mit den Risiken von KI
Die Redner beider Treffen betonten, wie wichtig es ist, die Grenzen der KI zu kennen und die Risiken zu verstehen und zu kontrollieren. Das Ziel aller Beteiligten war es, den Wert der Implementierung von KI zu demonstrieren.
Bei einer Sitzung in Boston konzentrierte sich die Diskussion auf fokussierte Governance, kontinuierliche Bewertung von KI-Anwendungsfällen und Risikomanagement. Dies ist wichtig, da stark regulierte Umgebungen die Validierung der Ergebnisse, die menschliche Aufsicht, dokumentierte Kontrollen, die Überprüfung, wo KI angemessen ist und wo nicht, und die Bewertung des Modells oder der Workflow-Risiken erfordern. Eine wichtige Erkenntnis aus der Sitzung war, dass der Wert der KI untrennbar mit der Governance in PV- und Sicherheitseinstellungen verbunden ist.
Bei einer Sitzung in Boston konzentrierte sich die Diskussion auf fokussierte Governance, kontinuierliche Bewertung von KI-Anwendungsfällen und Risikomanagement. Dies ist wichtig, da stark regulierte Umgebungen die Validierung der Ergebnisse, die menschliche Aufsicht, dokumentierte Kontrollen, die Überprüfung, wo KI angemessen ist und wo nicht, und die Bewertung des Modells oder der Workflow-Risiken erfordern. Eine wichtige Erkenntnis aus der Sitzung war, dass der Wert der KI untrennbar mit der Governance in PV- und Sicherheitseinstellungen verbunden ist.
Aufsicht, Änderungsmanagement und Überwachung
Bei beiden Treffen gab es auch eine starke Botschaft, dass Innovation nicht von Change Management getrennt werden kann. Jede neue Systemimplementierung muss durch einen robusten Änderungsmanagementplan unterstützt werden, der gleichermaßen für umfassendere organisatorische Veränderungen wie zentralisierte Modelle gilt. Die erfolgreiche Einführung hängt von klaren Rollen, der Bereitschaft der Stakeholder, Schulungen, Workflow-Design und disziplinierter Ausführung ab.
Auch die Gesundheitsbehörden testen KI, und die Aufsichtsbehörden ermutigen die Unternehmen, ihren Einsatz weiter zu erforschen. Die Aufsichtsbehörden äußerten jedoch klare Erwartungen an strukturierte Bewertungsprotokolle, starke Validierungsansätze und eine kontinuierliche Überwachung im Laufe der Zeit – selbst wenn die ersten Daten ermutigend erscheinen.
Auch die Gesundheitsbehörden testen KI, und die Aufsichtsbehörden ermutigen die Unternehmen, ihren Einsatz weiter zu erforschen. Die Aufsichtsbehörden äußerten jedoch klare Erwartungen an strukturierte Bewertungsprotokolle, starke Validierungsansätze und eine kontinuierliche Überwachung im Laufe der Zeit – selbst wenn die ersten Daten ermutigend erscheinen.
Die Empfehlung der Regulierungsbehörden lautet, klein anzufangen und zu skalieren. Der bevorzugte Ansatz besteht darin, mit gezielten, überschaubaren Anwendungsfällen zu beginnen, den Wert zu demonstrieren und Governance und Workflows zu verfeinern, bevor er breiter expandiert.
Ein weiterer wichtiger Diskussionspunkt auf dem Amsterdamer Treffen war die Rolle der agentischen KI bei der Verarbeitung von unerwünschten Ereignissen. Obwohl ein klares Interesse am Potenzial dieser Modelle besteht, lag der Schwerpunkt eindeutig auf Aufsicht und Eskalation. Das diskutierte Konzept bestand darin, dass Agentenvorgesetzte in die Organisation eingebettet sind, um Agententrupps zu beaufsichtigen, mit obligatorischen Übergaben an Menschen, wenn Unklarheiten auftreten - insbesondere im Zusammenhang mit schwerwiegenden unerwünschten Ereignissen.
Ein weiterer wichtiger Diskussionspunkt auf dem Amsterdamer Treffen war die Rolle der agentischen KI bei der Verarbeitung von unerwünschten Ereignissen. Obwohl ein klares Interesse am Potenzial dieser Modelle besteht, lag der Schwerpunkt eindeutig auf Aufsicht und Eskalation. Das diskutierte Konzept bestand darin, dass Agentenvorgesetzte in die Organisation eingebettet sind, um Agententrupps zu beaufsichtigen, mit obligatorischen Übergaben an Menschen, wenn Unklarheiten auftreten - insbesondere im Zusammenhang mit schwerwiegenden unerwünschten Ereignissen.
Wie man KI in PV Realität werden lässt
Die wichtigsten Themen des Treffens in Boston untersuchten, wie KI am besten für erfolgreiche Ergebnisse eingesetzt werden kann. Die Redner betonten die Bedeutung der Standardisierung und stellten fest, dass lokale Unterschiede zu Ineffizienz, Qualitätsrisiken und Reibungsverlusten bei der Umsetzung führen. Wenn der Prozess fragmentiert ist, neigt KI dazu, Inkonsistenzen zu verstärken, anstatt sie zu lösen.
Eine erfolgreiche Einführung sollte auch mit der Bewältigung betrieblicher Schwachstellen verbunden sein, wie z. B. der Automatisierung der Aufnahme, dem Einsatz fortschrittlicher Technologien wie Natural Language Processing (NLP) und optischer Zeichenerkennung (OCR) für die Dokumentenbearbeitung, Falltriage, KI-gestützte Übersetzung, Unterstützung medizinischer Überprüfungen sowie Zusammenfassung und Nachverfolgung.
Eine erfolgreiche Einführung sollte auch mit der Bewältigung betrieblicher Schwachstellen verbunden sein, wie z. B. der Automatisierung der Aufnahme, dem Einsatz fortschrittlicher Technologien wie Natural Language Processing (NLP) und optischer Zeichenerkennung (OCR) für die Dokumentenbearbeitung, Falltriage, KI-gestützte Übersetzung, Unterstützung medizinischer Überprüfungen sowie Zusammenfassung und Nachverfolgung.
.jpg?h=768&iar=0&w=1365&hash=E0A6FCA47BA854226B601A260EE129BE)
Jobs jetzt und in Zukunft
Ein wichtiger Schwerpunkt ist, wie sich KI auf Arbeitsplätze auswirken wird, einschließlich ihres Potenzials, neue Rollen zu schaffen, die sich auf die Verwaltung und Koordination von KI-Agenten konzentrieren und es den Mitarbeitern ermöglichen, in strategischere Rollen zu wechseln.
Die Rolle von Pharmakovigilanz-Führungskräften und die Auswirkungen der Technologie auf Arbeitsplätze wurden ebenfalls auf dem Treffen in Amsterdam diskutiert. Ein wichtiger Aspekt ist die zunehmende Komplexität der Überwachung der globalen PV-Aktivitäten eines Unternehmens.
Leiter von PV, der EU-qualifizierten Person für Pharmakovigilanz (QPPV) und anderen PV-Funktionen müssen Inspektoren und Auditoren nachweisen, dass die Prozesse wie beabsichtigt verwaltet werden und dass das Unternehmen inspektionsbereit ist.
Die Rolle von Pharmakovigilanz-Führungskräften und die Auswirkungen der Technologie auf Arbeitsplätze wurden ebenfalls auf dem Treffen in Amsterdam diskutiert. Ein wichtiger Aspekt ist die zunehmende Komplexität der Überwachung der globalen PV-Aktivitäten eines Unternehmens.
Leiter von PV, der EU-qualifizierten Person für Pharmakovigilanz (QPPV) und anderen PV-Funktionen müssen Inspektoren und Auditoren nachweisen, dass die Prozesse wie beabsichtigt verwaltet werden und dass das Unternehmen inspektionsbereit ist.
Vielen Unternehmen fehlen jedoch Dashboards, die eine umfassendere Übersicht ermöglichen würden. Die Diskussionen befassten sich mit dem Potenzial, Technologien zu nutzen, die auf einen Blick zeigen können, dass ein Unternehmen in einer validierten Umgebung tätig ist, und die auf Lücken in der PV-Anlage prüfen können, um diese Komplexität zu bewältigen.
Es wurde auch klargestellt, dass auch in zentralisierteren oder technologiegestützten Modellen lokale Teams für den Aufbau von Beziehungen zu Regulierungsbehörden, die Aufrechterhaltung starker Netzwerke im Land und die Sammlung relevanter Erkenntnisse aus lokalen Vorschriften unerlässlich bleiben. Dies erfordert eine klarere Eigenverantwortung für die Prozesse und eine durchdachte Definition, wo lokales Fachwissen den größten Mehrwert bringt.
Die Bedeutung menschlicher Expertise wurde auf dem Treffen in Boston ebenfalls betont, wobei eine wichtige Erkenntnis darin bestand, dass die Automatisierung zwar die Arbeit beschleunigt, Experten jedoch für die klinische und regulatorische Beurteilung verantwortlich bleiben.
Es wurde auch klargestellt, dass auch in zentralisierteren oder technologiegestützten Modellen lokale Teams für den Aufbau von Beziehungen zu Regulierungsbehörden, die Aufrechterhaltung starker Netzwerke im Land und die Sammlung relevanter Erkenntnisse aus lokalen Vorschriften unerlässlich bleiben. Dies erfordert eine klarere Eigenverantwortung für die Prozesse und eine durchdachte Definition, wo lokales Fachwissen den größten Mehrwert bringt.
Die Bedeutung menschlicher Expertise wurde auf dem Treffen in Boston ebenfalls betont, wobei eine wichtige Erkenntnis darin bestand, dass die Automatisierung zwar die Arbeit beschleunigt, Experten jedoch für die klinische und regulatorische Beurteilung verantwortlich bleiben.
Schlussfolgerung: Ein Blick auf das KI-Potenzial
Die wichtigsten Erkenntnisse aus den Treffen sind, dass Unternehmen, wenn sie Erfahrungen mit KI sammeln, beurteilen können, wo sie genutzt werden kann, wie Informationen fließen sollten, wo statistische Methoden und menschliches Fachwissen wichtig sind und wie diese Komponenten zusammenarbeiten sollten.
Eine weitere wichtige Richtung ist der Einsatz von KI-gestützten proaktiven und prädiktiven Methoden, um aufkommende Probleme und potenzielle zukünftige Ergebnisse früher zu antizipieren und den Teams mehr Möglichkeiten zu geben, die Beweise zu bewerten, mögliche Auswirkungen zu verstehen und sich auf Entscheidungen vorzubereiten.
Unserer Erfahrung nach wird dies mehr als nur Fortschritte bei KI-Modellen erfordern. Es kann die Zusammenführung neuer oder breiterer Datenquellen, statistischer und prädiktiver Methoden, relevanter wissenschaftlicher und klinischer Expertise und neuer Wege der Zusammenarbeit beinhalten.
Ebenso wichtig ist es, zu bestimmen, wie verschiedene Arten von Nachweisen Vorhersagen angemessen stützen können und wie die Unsicherheit in Bezug auf diese Vorhersagen Entscheidungen beeinflussen sollte. Dies steht in engem Zusammenhang mit der von uns entwickelten prädiktiven KI-Arbeit, bei der das Ziel darin besteht, Daten und Analysemethoden zu nutzen, um Ergebnisse zu antizipieren und sinnvolle Entscheidungshilfen zu bieten. Es ist auch möglich, dass das, was heute als KI bezeichnet wird, auf der Konferenz im nächsten Jahr einfach nur Automatisierung ist.
Eine weitere wichtige Richtung ist der Einsatz von KI-gestützten proaktiven und prädiktiven Methoden, um aufkommende Probleme und potenzielle zukünftige Ergebnisse früher zu antizipieren und den Teams mehr Möglichkeiten zu geben, die Beweise zu bewerten, mögliche Auswirkungen zu verstehen und sich auf Entscheidungen vorzubereiten.
Unserer Erfahrung nach wird dies mehr als nur Fortschritte bei KI-Modellen erfordern. Es kann die Zusammenführung neuer oder breiterer Datenquellen, statistischer und prädiktiver Methoden, relevanter wissenschaftlicher und klinischer Expertise und neuer Wege der Zusammenarbeit beinhalten.
Ebenso wichtig ist es, zu bestimmen, wie verschiedene Arten von Nachweisen Vorhersagen angemessen stützen können und wie die Unsicherheit in Bezug auf diese Vorhersagen Entscheidungen beeinflussen sollte. Dies steht in engem Zusammenhang mit der von uns entwickelten prädiktiven KI-Arbeit, bei der das Ziel darin besteht, Daten und Analysemethoden zu nutzen, um Ergebnisse zu antizipieren und sinnvolle Entscheidungshilfen zu bieten. Es ist auch möglich, dass das, was heute als KI bezeichnet wird, auf der Konferenz im nächsten Jahr einfach nur Automatisierung ist.
Verzichtserklärung:
Die Informationen in diesem Artikel sollen die Leser über ein Thema informieren, das mit den Kompetenzen von Cencora zusammenhängt, und stellen keine Rechts- oder Kaufberatung dar. Cencora, Inc. ermutigt die Leser, die zitierten Referenzen in diesem Artikel zu lesen und ihr eigenes Wissen und ihre Erfahrung bei der Entscheidungsfindung zu nutzen.
