Wat Project Elsa betekent voor de benadering van AI door de FDA

De Amerikaanse Food and Drug Administration (FDA) heeft de Elsa-tool voor kunstmatige intelligentie (AI) overgenomen ter ondersteuning van verschillende activiteiten op het gebied van geneesmiddelenbewaking (PV), waaronder literatuuronderzoek, triage en inname van casussen. De acceptatie van deze tool weerspiegelt de voortdurende inzet van de FDA om technologische innovatie te benutten onder gedisciplineerde controles, en het is relevant voor onze voortdurende discussies over het verantwoorde gebruik van AI in gereguleerde omgevingen.

De Elsa-tool wordt gebruikt als een ondersteuningsmechanisme binnen het PV- en regelgevende indieningsecosysteem van de FDA. De belangrijkste functies zijn:

• Geautomatiseerd literatuuronderzoek om signalen van bijwerkingen te identificeren
• Triage en prioritering van casusinformatie op basis van vooraf gedefinieerde medische en regelgevende parameters
• Ondersteuning voor casusintake, zorgen voor een snellere verwerking van individuele casusveiligheidsrapporten (ICSR's)
• Medische hulp bij het schrijven en indienen, met name bij het stroomlijnen van ontwerp- en documentatietaken voor wettelijke deponeringen

Belangrijk is dat de FDA heeft benadrukt dat Elsa geen vervanging is voor menselijke beoordeling of besluitvorming. In plaats daarvan dient het om de efficiëntie, nauwkeurigheid en consistentie van workflows te verbeteren, terwijl het onderworpen blijft aan FDA-toezicht en kwaliteitsborgingsprotocollen. Dit weerspiegelt de voorzichtige en weloverwogen benadering van AI-governance door de FDA in overeenstemming met haar bredere digitale transformatiestrategie.

Vanuit het oogpunt van gegevensprivacy in de VS lijkt het gebruik van Elsa in overeenstemming te zijn met bestaande federale privacykaders, op voorwaarde dat:

Persoonsgegevens worden adequaat geanonimiseerd
De Amerikaanse federale privacywetgeving, met name onder de HIPAA, voor zover van toepassing, staat het gebruik van geanonimiseerde gegevens voor volksgezondheids- en regelgevingsdoeleinden toe zonder dat individuele toestemming nodig is. In het kader van geneesmiddelenbewaking worden de meeste individuele casusgegevens die worden verwerkt voor op literatuur gebaseerde surveillance en signaaldetectie geanonimiseerd of ontdaan van direct identificeerbare elementen.

Gebruik valt binnen de wettelijke bevoegdheid
De FDA handelt binnen haar regelgevende bevoegdheid om de openbare veiligheid te waarborgen door gebruik te maken van AI-tools voor PV. Het bureau heeft wettelijke bevoegdheid onder de Federal Food, Drug and Cosmetic Act om veiligheidsgegevens te verzamelen en te verwerken.

Toezicht door de leverancier en contractuele waarborgen
Als Elsa externe dienstverleners of leveranciers inschakelt, moeten deze opdrachten worden beheerst door passende contractuele waarborgen, zoals overeenkomsten met zakenpartners (indien van toepassing), en duidelijke verplichtingen bevatten rond gegevensgebruik, beveiliging en vertrouwelijkheid.

Risicogebaseerde benadering van AI-implementatie
Amerikaanse regelgevers, waaronder de FDA en het Department of Health and Human Services (HHS), blijven een op risico's gebaseerde benadering van de inzet van AI aanmoedigen. Transparantie, verantwoording en menselijk toezicht zijn belangrijke principes, waarvan de FDA heeft bevestigd dat ze allemaal aanwezig zijn met het gebruik van Elsa.

Geen commerciële herbestemming
Gegevens die worden verzameld of verwerkt met behulp van AI-tools voor regelgevingsdoeleinden mogen niet worden hergebruikt voor commercieel gewin, tenzij dit in overeenstemming is met de privacywetgeving en de vereisten voor geïnformeerde toestemming. De inzet van Elsa door de FDA is uitsluitend bedoeld voor regelgevings- en veiligheidscontroledoeleinden.

De gedisciplineerde en beperkte inzet van de Elsa-tool door de FDA laat zien hoe AI op verantwoorde wijze kan worden gebruikt om gereguleerde functies zoals PV te ondersteunen, zonder afbreuk te doen aan de principes van gegevensbescherming. Vanuit het oogpunt van privacygovernance schept het een nuttig precedent: AI niet gebruiken om menselijke beoordeling te automatiseren, maar om de beoordeling door experts te vergroten en de efficiëntie van de regelgeving te verbeteren onder passend toezicht.

Cencora zal de ontwikkelingen op het gebied van privacy blijven volgen, vooral naarmate meer toezichthouders AI gaan toepassen op het gebied van regelgeving, wetenschap en PV.