Artikel
AI in de kijker: Conclusies van het World Patient Safety Congress
-
Lin Li, Ph.D.
-
José Miguel Rivas Romero
-
Stephen Sun, MD, MPH
De industrie heeft een punt bereikt waarop het begrip van kunstmatige intelligentie (AI) en de mogelijke toepassingen ervan in de geneesmiddelenbewaking aanzienlijk is gerijpt. Dat bleek zowel op het World Patient Safety Congress in Amsterdam van 22 tot 24 september als op het congres in Boston van 13 tot 15 oktober. Voor PV-leiders wereldwijd is de implicatie van deze ontwikkelingen hoe PV-workflows zelf moeten evolueren om optimaal gebruik te maken van AI en het belang van niet alleen het implementeren, maar ook begrijpen van de technologie.
De risico's van AI beheren
Sprekers op beide bijeenkomsten benadrukten het belang van het kennen van de beperkingen van AI en het begrijpen van de risico's en hoe deze te beheersen. Het doel van alle belanghebbenden was om de waarde van de implementatie van AI aan te tonen.
Tijdens een sessie in Boston werd de nadruk gelegd op gericht bestuur, continue beoordeling van AI-gebruiksscenario's en risicobeheer. Dit is belangrijk omdat sterk gereguleerde omgevingen validatie van outputs, menselijk toezicht, gedocumenteerde controles, beoordeling van waar AI geschikt is en waar niet, en beoordeling van het model of de workflowrisico's vereisen. Een belangrijke conclusie van de sessie was dat AI-waarde onlosmakelijk verbonden is met governance in PV- en veiligheidsomgevingen.
Tijdens een sessie in Boston werd de nadruk gelegd op gericht bestuur, continue beoordeling van AI-gebruiksscenario's en risicobeheer. Dit is belangrijk omdat sterk gereguleerde omgevingen validatie van outputs, menselijk toezicht, gedocumenteerde controles, beoordeling van waar AI geschikt is en waar niet, en beoordeling van het model of de workflowrisico's vereisen. Een belangrijke conclusie van de sessie was dat AI-waarde onlosmakelijk verbonden is met governance in PV- en veiligheidsomgevingen.
Toezicht, verandermanagement en monitoring
Er was ook een sterke boodschap op beide bijeenkomsten dat innovatie niet los kan worden gezien van verandermanagement. Elke nieuwe systeemimplementatie moet worden ondersteund door een robuust verandermanagementplan, dat evenzeer van toepassing is op bredere organisatorische verschuivingen zoals gecentraliseerde modellen. Succesvolle adoptie hangt af van duidelijke rollen, bereidheid van belanghebbenden, training, workflowontwerp en gedisciplineerde uitvoering.
Gezondheidsautoriteiten testen ook AI en regelgevers moedigen bedrijven aan om het gebruik ervan te blijven onderzoeken. Regelgevers spraken echter een duidelijke verwachting uit voor gestructureerde evaluatieprotocollen, sterke validatiebenaderingen en continue monitoring in de loop van de tijd - zelfs als de eerste gegevens er bemoedigend uitzien.
Gezondheidsautoriteiten testen ook AI en regelgevers moedigen bedrijven aan om het gebruik ervan te blijven onderzoeken. Regelgevers spraken echter een duidelijke verwachting uit voor gestructureerde evaluatieprotocollen, sterke validatiebenaderingen en continue monitoring in de loop van de tijd - zelfs als de eerste gegevens er bemoedigend uitzien.
De aanbeveling van toezichthouders is om klein te beginnen en op te schalen. De voorkeursaanpak is om te beginnen met gerichte, beheersbare use cases, waarde aan te tonen en governance en workflows te verfijnen voordat ze breder worden uitgebreid.
Een ander belangrijk discussiepunt tijdens de bijeenkomst in Amsterdam was de rol van agentische AI bij de verwerking van bijwerkingen. Hoewel er duidelijk interesse is in het potentieel van deze modellen, lag de nadruk sterk op toezicht en escalatie. Het besproken concept was er een van agentsupervisors die binnen de organisatie waren ingebed om toezicht te houden op agentische squadrons, met verplichte overdrachten aan mensen wanneer er onduidelijkheid ontstaat - vooral in de context van ernstige bijwerkingen.
Een ander belangrijk discussiepunt tijdens de bijeenkomst in Amsterdam was de rol van agentische AI bij de verwerking van bijwerkingen. Hoewel er duidelijk interesse is in het potentieel van deze modellen, lag de nadruk sterk op toezicht en escalatie. Het besproken concept was er een van agentsupervisors die binnen de organisatie waren ingebed om toezicht te houden op agentische squadrons, met verplichte overdrachten aan mensen wanneer er onduidelijkheid ontstaat - vooral in de context van ernstige bijwerkingen.
Hoe maak je AI een realiteit in PV
Belangrijke thema's tijdens de bijeenkomst in Boston onderzochten hoe AI het beste kan worden toegepast voor succesvolle resultaten. Sprekers benadrukten het belang van standaardisatie en merkten op dat lokale variatie leidt tot inefficiëntie, kwaliteitsrisico's en implementatiefrictie. Als het proces gefragmenteerd is, heeft AI de neiging om inconsistentie te versterken in plaats van op te lossen.
Succesvolle adoptie moet ook worden gekoppeld aan het aanpakken van operationele pijnpunten, zoals automatisering van de intake, het gebruik van geavanceerde technologieën zoals natuurlijke taalverwerking (NLP) en optische tekenherkenning (OCR) voor documentverwerking, case-triage, AI-aangedreven vertaling, ondersteuning bij medische beoordeling en samenvatting en follow-up.
Succesvolle adoptie moet ook worden gekoppeld aan het aanpakken van operationele pijnpunten, zoals automatisering van de intake, het gebruik van geavanceerde technologieën zoals natuurlijke taalverwerking (NLP) en optische tekenherkenning (OCR) voor documentverwerking, case-triage, AI-aangedreven vertaling, ondersteuning bij medische beoordeling en samenvatting en follow-up.
.jpg?h=768&iar=0&w=1365&hash=E0A6FCA47BA854226B601A260EE129BE)
Banen nu en in de toekomst
Een belangrijk aandachtsgebied is hoe AI banen zal beïnvloeden, inclusief het potentieel om nieuwe rollen te creëren die gericht zijn op het beheren en coördineren van AI-agenten, terwijl werknemers kunnen overstappen naar meer strategische rollen.
De rol van leiders op het gebied van geneesmiddelenbewaking en de impact die technologie heeft op banen werd ook besproken tijdens de bijeenkomst in Amsterdam. Een belangrijke overweging is de toenemende complexiteit van het toezicht op de wereldwijde PV-activiteiten van een bedrijf.
Hoofden van PV, de in de EU gekwalificeerde persoon voor geneesmiddelenbewaking (QPPV) en andere PV-functies moeten aan inspecteurs en auditors aantonen dat de processen worden beheerd zoals bedoeld en dat het bedrijf klaar is voor inspectie.
De rol van leiders op het gebied van geneesmiddelenbewaking en de impact die technologie heeft op banen werd ook besproken tijdens de bijeenkomst in Amsterdam. Een belangrijke overweging is de toenemende complexiteit van het toezicht op de wereldwijde PV-activiteiten van een bedrijf.
Hoofden van PV, de in de EU gekwalificeerde persoon voor geneesmiddelenbewaking (QPPV) en andere PV-functies moeten aan inspecteurs en auditors aantonen dat de processen worden beheerd zoals bedoeld en dat het bedrijf klaar is voor inspectie.
Veel bedrijven hebben echter geen dashboards die een vollediger overzicht mogelijk maken. In de discussies werd gekeken naar het potentieel om technologie te gebruiken die in één oogopslag kan aantonen dat een bedrijf in een gevalideerde omgeving opereert en die kan controleren op eventuele hiaten in het PV-systeem, zou helpen om deze complexiteit aan te pakken.
Er werd ook duidelijk gemaakt dat zelfs in meer gecentraliseerde of op technologie gebaseerde modellen lokale teams essentieel blijven voor het opbouwen van relaties met regelgevers, het onderhouden van sterke netwerken in het land en het verzamelen van relevante inzichten uit lokale regelgeving. Dit vereist een duidelijker eigenaarschap van processen en een doordachte definitie van waar lokale expertise de grootste waarde toevoegt.
Het belang van menselijke expertise werd ook benadrukt tijdens de bijeenkomst in Boston, met als belangrijkste conclusie dat, hoewel automatisering het werk versnelt, experts verantwoordelijk blijven voor klinische en regelgevende oordelen.
Er werd ook duidelijk gemaakt dat zelfs in meer gecentraliseerde of op technologie gebaseerde modellen lokale teams essentieel blijven voor het opbouwen van relaties met regelgevers, het onderhouden van sterke netwerken in het land en het verzamelen van relevante inzichten uit lokale regelgeving. Dit vereist een duidelijker eigenaarschap van processen en een doordachte definitie van waar lokale expertise de grootste waarde toevoegt.
Het belang van menselijke expertise werd ook benadrukt tijdens de bijeenkomst in Boston, met als belangrijkste conclusie dat, hoewel automatisering het werk versnelt, experts verantwoordelijk blijven voor klinische en regelgevende oordelen.
Conclusie: Vooruitkijken naar AI-potentieel
De belangrijkste conclusies van de bijeenkomsten zijn dat naarmate bedrijven meer ervaring opdoen met AI, ze kunnen beoordelen waar het kan worden gebruikt, hoe informatie moet stromen, waar statistische methoden en menselijke expertise belangrijk zijn en hoe deze componenten moeten samenwerken.
Een andere belangrijke richting is het gebruik van proactieve en voorspellende methoden op basis van AI om eerder te anticiperen op opkomende problemen en mogelijke toekomstige resultaten, waardoor teams meer kans krijgen om het bewijs te evalueren, mogelijke implicaties te begrijpen en zich voor te bereiden op beslissingen.
Onze ervaring is dat om dit te bereiken meer nodig is dan alleen vooruitgang in AI-modellen. Het kan gaan om het samenbrengen van nieuwe of bredere gegevensbronnen, statistische en voorspellende methoden, relevante wetenschappelijke en klinische expertise en nieuwe manieren van samenwerken.
Even belangrijk is het bepalen hoe verschillende soorten bewijs voorspellingen op de juiste manier kunnen ondersteunen en hoe onzekerheid rond die voorspellingen beslissingen moet informeren. Dit sluit nauw aan bij het voorspellende AI-werk dat we hebben ontwikkeld, waarbij het doel is om gegevens en analytische methoden te gebruiken om te anticiperen op resultaten en zinvolle beslissingsondersteuning te bieden. Het is ook mogelijk dat waar vandaag over wordt gesproken als AI op de conferentie van volgend jaar gewoon automatisering is.
Een andere belangrijke richting is het gebruik van proactieve en voorspellende methoden op basis van AI om eerder te anticiperen op opkomende problemen en mogelijke toekomstige resultaten, waardoor teams meer kans krijgen om het bewijs te evalueren, mogelijke implicaties te begrijpen en zich voor te bereiden op beslissingen.
Onze ervaring is dat om dit te bereiken meer nodig is dan alleen vooruitgang in AI-modellen. Het kan gaan om het samenbrengen van nieuwe of bredere gegevensbronnen, statistische en voorspellende methoden, relevante wetenschappelijke en klinische expertise en nieuwe manieren van samenwerken.
Even belangrijk is het bepalen hoe verschillende soorten bewijs voorspellingen op de juiste manier kunnen ondersteunen en hoe onzekerheid rond die voorspellingen beslissingen moet informeren. Dit sluit nauw aan bij het voorspellende AI-werk dat we hebben ontwikkeld, waarbij het doel is om gegevens en analytische methoden te gebruiken om te anticiperen op resultaten en zinvolle beslissingsondersteuning te bieden. Het is ook mogelijk dat waar vandaag over wordt gesproken als AI op de conferentie van volgend jaar gewoon automatisering is.
Disclaimer:
De informatie in dit artikel is bedoeld om lezers te informeren over een onderwerp dat verband houdt met de mogelijkheden van Cencora en is geen juridisch of aankoopadvies. Cencora, Inc. raadt lezers aan de geciteerde referenties in dit artikel door te nemen en hun eigen kennis en ervaring te gebruiken bij het nemen van beslissingen.
