Artikkel
AI i søkelyset: Lærdommer fra World Patient Safety Congress
-
Lin Li, Ph.D.
-
José Miguel Rivas Romero
-
Stephen Sun, MD, MPH
Bransjen har nådd et punkt hvor forståelsen av kunstig intelligens (AI) og dens potensielle anvendelser innen legemiddelovervåking har modnet betraktelig. Det var tydelig både på World Patient Safety Congress i Amsterdam 22.-24.september og på kongressen i Boston 13.-15.oktober. For PV-ledere globalt er implikasjonen av denne utviklingen hvordan PV-arbeidsflyter i seg selv bør utvikle seg for å utnytte AI best mulig og viktigheten av ikke bare å implementere, men også forstå teknologien.
Håndtering av risikoen ved kunstig intelligens
Foredragsholdere på begge møtene understreket viktigheten av å kjenne AIs begrensninger og forstå risikoene og hvordan de kan kontrolleres. Målet til alle interessentene var å demonstrere verdien av implementering av AI.
På en økt i Boston la diskusjonen vekt på fokusert styring, kontinuerlig vurdering av AI-brukstilfeller og risikostyring. Dette er viktig fordi sterkt regulerte miljøer krever validering av utdata, menneskelig tilsyn, dokumenterte kontroller, gjennomgang av hvor AI er hensiktsmessig og hvor det ikke er det, og vurdering av modellen eller arbeidsflytrisikoer. En viktig takeaway fra økten var at AI-verdi er uatskillelig fra styring i PV- og sikkerhetsinnstillinger.
På en økt i Boston la diskusjonen vekt på fokusert styring, kontinuerlig vurdering av AI-brukstilfeller og risikostyring. Dette er viktig fordi sterkt regulerte miljøer krever validering av utdata, menneskelig tilsyn, dokumenterte kontroller, gjennomgang av hvor AI er hensiktsmessig og hvor det ikke er det, og vurdering av modellen eller arbeidsflytrisikoer. En viktig takeaway fra økten var at AI-verdi er uatskillelig fra styring i PV- og sikkerhetsinnstillinger.
Tilsyn, endringsledelse og overvåking
Det var også et sterkt budskap på begge møtene om at innovasjon ikke kan skilles fra endringsledelse. Enhver ny systemimplementering må støttes av en robust endringsledelsesplan, som gjelder også for bredere organisatoriske endringer som sentraliserte modeller. Vellykket innføring avhenger av klare roller, interessentberedskap, opplæring, arbeidsflytdesign og disiplinert utførelse.
Helsemyndighetene tester også AI, og regulatorer oppfordrer selskaper til å fortsette å utforske bruken. Regulatorer uttrykte imidlertid en klar forventning om strukturerte evalueringsprotokoller, sterke valideringstilnærminger og kontinuerlig overvåking over tid – selv når tidlige data ser oppmuntrende ut.
Helsemyndighetene tester også AI, og regulatorer oppfordrer selskaper til å fortsette å utforske bruken. Regulatorer uttrykte imidlertid en klar forventning om strukturerte evalueringsprotokoller, sterke valideringstilnærminger og kontinuerlig overvåking over tid – selv når tidlige data ser oppmuntrende ut.
Anbefalingen fra regulatorer er å starte i det små og skalere opp. Den foretrukne tilnærmingen er å begynne med målrettede, håndterbare brukstilfeller, demonstrere verdi og avgrense styring og arbeidsflyter før du utvider bredere.
Et annet viktig diskusjonspunkt på Amsterdam-møtet var rollen til agentisk AI i behandling av uønskede hendelser. Selv om det er en klar interesse for potensialet til disse modellene, ble det lagt stor vekt på tilsyn og eskalering. Konseptet som ble diskutert var et av agentveiledere innebygd i organisasjonen for å føre tilsyn med agenttropper, med obligatoriske overleveringer til mennesker når tvetydighet oppstår – spesielt i sammenheng med alvorlige uønskede hendelser.
Et annet viktig diskusjonspunkt på Amsterdam-møtet var rollen til agentisk AI i behandling av uønskede hendelser. Selv om det er en klar interesse for potensialet til disse modellene, ble det lagt stor vekt på tilsyn og eskalering. Konseptet som ble diskutert var et av agentveiledere innebygd i organisasjonen for å føre tilsyn med agenttropper, med obligatoriske overleveringer til mennesker når tvetydighet oppstår – spesielt i sammenheng med alvorlige uønskede hendelser.
Hvordan gjøre AI til en realitet i PV
Nøkkeltemaer i Boston-møtet utforsket hvordan man best kan bruke AI for vellykkede resultater. Foredragsholdere fremhevet viktigheten av standardisering, og bemerket at lokal variasjon skaper ineffektivitet, kvalitetsrisiko og implementeringsfriksjon. Hvis prosessen er fragmentert, har AI en tendens til å forsterke inkonsekvens i stedet for å løse den.
Vellykket adopsjon bør også knyttes til å adressere operasjonelle smertepunkter, for eksempel inntaksautomatisering, bruk av avanserte teknologier som naturlig språkbehandling (NLP) og optisk tegngjenkjenning (OCR) for dokumenthåndtering, sakstriage, AI-drevet oversettelse, medisinsk gjennomgangsstøtte og oppsummering og oppfølging.
Vellykket adopsjon bør også knyttes til å adressere operasjonelle smertepunkter, for eksempel inntaksautomatisering, bruk av avanserte teknologier som naturlig språkbehandling (NLP) og optisk tegngjenkjenning (OCR) for dokumenthåndtering, sakstriage, AI-drevet oversettelse, medisinsk gjennomgangsstøtte og oppsummering og oppfølging.
.jpg?h=768&iar=0&w=1365&hash=E0A6FCA47BA854226B601A260EE129BE)
Jobber nå og i fremtiden
Et sentralt fokusområde er hvordan AI vil påvirke jobber, inkludert potensialet til å skape nye roller fokusert på å administrere og koordinere AI-agenter, samtidig som de ansatte kan gå over til mer strategiske roller.
Rollen til legemiddelovervåkingsledere og innvirkningen teknologi har på arbeidsplasser ble også diskutert på Amsterdam-møtet. En nøkkelfaktor er den økende kompleksiteten ved å opprettholde tilsyn med et selskaps globale PV-aktiviteter.
Ledere av PV, EUs kvalifiserte person for legemiddelovervåking (QPPV) og andre PV-funksjoner må demonstrere for inspektører og revisorer at prosessene administreres etter hensikten og at selskapet er inspeksjonsklart.
Rollen til legemiddelovervåkingsledere og innvirkningen teknologi har på arbeidsplasser ble også diskutert på Amsterdam-møtet. En nøkkelfaktor er den økende kompleksiteten ved å opprettholde tilsyn med et selskaps globale PV-aktiviteter.
Ledere av PV, EUs kvalifiserte person for legemiddelovervåking (QPPV) og andre PV-funksjoner må demonstrere for inspektører og revisorer at prosessene administreres etter hensikten og at selskapet er inspeksjonsklart.
Imidlertid mangler mange selskaper dashbord som vil muliggjøre mer fullstendig tilsyn. Diskusjoner så på potensialet for å utnytte teknologi som på et øyeblikk kan demonstrere at et selskap opererer i et validert miljø og som kan sjekke for eventuelle hull i PV-systemet, vil bidra til å løse denne kompleksiteten.
Det ble også gjort klart at selv i mer sentraliserte eller teknologiaktiverte modeller er lokale team fortsatt avgjørende for å bygge relasjoner med regulatorer, opprettholde sterke nettverk i landet og samle relevant innsikt fra lokale forskrifter. Dette vil kreve et tydeligere eierskap til prosessene og en gjennomtenkt definisjon av hvor lokal kompetanse tilfører størst verdi.
Viktigheten av menneskelig ekspertise ble også understreket på Boston-møtet, med en viktig takeaway at mens automatisering akselererer arbeidet, forblir eksperter ansvarlige for klinisk og regulatorisk vurdering.
Det ble også gjort klart at selv i mer sentraliserte eller teknologiaktiverte modeller er lokale team fortsatt avgjørende for å bygge relasjoner med regulatorer, opprettholde sterke nettverk i landet og samle relevant innsikt fra lokale forskrifter. Dette vil kreve et tydeligere eierskap til prosessene og en gjennomtenkt definisjon av hvor lokal kompetanse tilfører størst verdi.
Viktigheten av menneskelig ekspertise ble også understreket på Boston-møtet, med en viktig takeaway at mens automatisering akselererer arbeidet, forblir eksperter ansvarlige for klinisk og regulatorisk vurdering.
Konklusjon: Ser fremover mot potensialet for kunstig intelligens
Viktige ting fra møtene er at etter hvert som selskaper får erfaring med AI, kan de vurdere hvor det kan utnyttes, hvordan informasjon skal flyte, hvor statistiske metoder og menneskelig ekspertise er viktig, og hvordan disse komponentene skal fungere sammen.
En annen viktig retning er bruken av AI-aktiverte proaktive og prediktive metoder for å gå mot å forutse nye problemer og potensielle fremtidige utfall tidligere, noe som gir teamene større mulighet til å evaluere bevisene, forstå mulige implikasjoner og forberede seg på beslutninger.
Etter vår erfaring vil det kreve mer enn fremskritt innen AI-modeller alene. Det kan innebære å samle nye eller bredere datakilder, statistiske og prediktive metoder, relevant vitenskapelig og klinisk ekspertise og nye måter å samarbeide på.
Like viktig er det å bestemme hvordan ulike typer bevis på riktig måte kan støtte spådommer og hvordan usikkerhet rundt disse spådommene bør informere beslutninger. Dette henger tett sammen med det prediktive AI-arbeidet vi har utviklet, der målet er å bruke data og analytiske metoder for å forutse resultater og gi meningsfull beslutningsstøtte. Det er også mulig at det som snakkes om i dag som AI ganske enkelt kan være automatisering innen neste års konferanse.
En annen viktig retning er bruken av AI-aktiverte proaktive og prediktive metoder for å gå mot å forutse nye problemer og potensielle fremtidige utfall tidligere, noe som gir teamene større mulighet til å evaluere bevisene, forstå mulige implikasjoner og forberede seg på beslutninger.
Etter vår erfaring vil det kreve mer enn fremskritt innen AI-modeller alene. Det kan innebære å samle nye eller bredere datakilder, statistiske og prediktive metoder, relevant vitenskapelig og klinisk ekspertise og nye måter å samarbeide på.
Like viktig er det å bestemme hvordan ulike typer bevis på riktig måte kan støtte spådommer og hvordan usikkerhet rundt disse spådommene bør informere beslutninger. Dette henger tett sammen med det prediktive AI-arbeidet vi har utviklet, der målet er å bruke data og analytiske metoder for å forutse resultater og gi meningsfull beslutningsstøtte. Det er også mulig at det som snakkes om i dag som AI ganske enkelt kan være automatisering innen neste års konferanse.
Ansvarsfraskrivelse:
Informasjonen i denne artikkelen er ment å informere leserne om et emne relatert til Cencoras evner og er ikke juridisk eller kjøpsrådgivning. Cencora, Inc. oppfordrer leserne til å gjennomgå de siterte referansene i denne artikkelen og bruke sin egen kunnskap og erfaring når de tar beslutninger.
