Článek
Co znamená projekt Elsa pro přístup FDA k umělé inteligenci
-
Michael Day, Ph.D.
Umělá inteligence hraje nedílnou roli v celém životním cyklu produktu ve farmaceutickém, biotechnologickém a zdravotnickém průmyslu. Regulační orgány podnikají kroky v reakci na exponenciální růst funkcí umělé inteligence pomocí různých pokynů, rámců a diskusních dokumentů.
Vstupte do Elsy, nového nástroje umělé inteligence amerického Úřadu pro kontrolu potravin a léčiv (FDA), který se podle komisaře FDA Martyho Makaryho snaží modernizovat fungování agentury, včetně urychlení přezkumů klinických protokolů a zkrácení doby do dokončení přezkumu.1
Aplikace Elsa, která byla původně spuštěna na začátku června, je navržena tak, aby pomáhala zaměstnancům agentury pracovat efektivněji tím, že jim pomáhá s činnostmi, jako je čtení, psaní a shrnutí. Byl vytvořen v prostředí GovCloud s vysokým zabezpečením, které zajišťuje, že zaměstnanci mají přístup pouze k interním datům a že data jsou uchovávána v bezpečí.2
Během raného zavádění někteří uživatelé upozorňovali na problémy s kvalitou výstupu a verzování – což zdůrazňovalo potřebu lidského dohledu a podtrhovalo vlastní uznání FDA, že halucinacím je třeba aktivně předcházet. To posiluje důležitost validace a transparentnosti pro jakékoli použití umělé inteligence – a to i interně.
Aplikace Elsa, která byla původně spuštěna na začátku června, je navržena tak, aby pomáhala zaměstnancům agentury pracovat efektivněji tím, že jim pomáhá s činnostmi, jako je čtení, psaní a shrnutí. Byl vytvořen v prostředí GovCloud s vysokým zabezpečením, které zajišťuje, že zaměstnanci mají přístup pouze k interním datům a že data jsou uchovávána v bezpečí.2
Během raného zavádění někteří uživatelé upozorňovali na problémy s kvalitou výstupu a verzování – což zdůrazňovalo potřebu lidského dohledu a podtrhovalo vlastní uznání FDA, že halucinacím je třeba aktivně předcházet. To posiluje důležitost validace a transparentnosti pro jakékoli použití umělé inteligence – a to i interně.
"Pokud uživatelé používají Elsu proti knihovnám dokumentů a ta byla nucena citovat dokumenty, nemůže mít halucinace," řekl v nedávném rozhovoru šéf FDA pro umělou inteligenci Jeremy Walsh. "Pokud uživatelé používají pouze běžný model bez použití knihoven dokumentů, Elsa by mohla mít halucinace stejně jako jakýkoli jiný velký jazykový model."3
Projekt Elsa: Důležité informace o ochraně osobních údajů a dodržování předpisů
Americký Úřad pro kontrolu potravin a léčiv (FDA) přijal nástroj umělé inteligence (AI) Elsa na podporu různých činností v oblasti farmakovigilance (PV), včetně rešerše literatury, třídění a příjmu případů. Přijetí tohoto nástroje odráží trvalý závazek FDA využívat technologické inovace pod disciplinovanými kontrolami a je relevantní pro naše probíhající diskuse o odpovědném používání umělé inteligence v regulovaných prostředích.
Shrnutí použití přípravku Elsa ze strany FDA
Nástroj Elsa se používá jako podpůrný mechanismus v rámci ekosystému FDA pro fotovoltaiku a předkládání regulačních předpisů. Mezi jeho primární funkce patří:
Důležité je, že FDA zdůraznila, že Elsa nenahrazuje lidskou kontrolu nebo rozhodování. Místo toho slouží ke zvýšení efektivity, přesnosti a konzistence pracovních postupů, přičemž zůstává předmětem dohledu FDA a protokolů pro zajištění kvality. To odráží opatrný a uvážlivý přístup FDA ke správě umělé inteligence v souladu s její širší strategií digitální transformace.
- Automatizovaný přehled literatury k identifikaci signálů nežádoucích účinků
- Třídění a prioritizace informací o případu na základě předem definovaných lékařských a regulačních parametrů
- Podpora příjmu případů, zajištění včasnějšího zpracování jednotlivých zpráv o bezpečnosti případů (ICSR)
- Pomoc při psaní lékařských textů a předkládání, zejména při zefektivňování úkolů v oblasti návrhu a dokumentace pro regulační podání
Důležité je, že FDA zdůraznila, že Elsa nenahrazuje lidskou kontrolu nebo rozhodování. Místo toho slouží ke zvýšení efektivity, přesnosti a konzistence pracovních postupů, přičemž zůstává předmětem dohledu FDA a protokolů pro zajištění kvality. To odráží opatrný a uvážlivý přístup FDA ke správě umělé inteligence v souladu s její širší strategií digitální transformace.
Úvahy o zákonech o ochraně osobních údajů v USA
Z hlediska ochrany osobních údajů v USA se zdá, že používání služby Elsa je v souladu se stávajícími federálními rámci ochrany osobních údajů za předpokladu, že:
Osobní údaje jsou adekvátně anonymizovány
Federální zákon USA o ochraně osobních údajů – zejména podle zákona HIPAA, kde je to relevantní – povoluje použití anonymizovaných údajů pro účely veřejného zdraví a regulačních účelů bez nutnosti individuálního souhlasu. V souvislosti s farmakovigilancí je většina údajů o jednotlivých případech, které jsou zpracovávány pro sledování a detekci signálů založené na literatuře, buď anonymizována, nebo zbavena přímo identifikovatelných prvků.
Použití je v rámci zákonného oprávnění
FDA jedná v rámci svých regulačních pravomocí, aby zajistila veřejnou bezpečnost využitím nástrojů umělé inteligence pro fotovoltaiku. Agentura má podle federálního zákona o potravinách, léčivech a kosmetice zákonnou pravomoc shromažďovat a zpracovávat údaje o bezpečnosti.
Dohled nad dodavatelem a smluvní záruky
Pokud společnost Elsa zahrnuje externí poskytovatele služeb nebo dodavatele, musí se tyto zakázky řídit vhodnými smluvními zárukami, jako jsou smlouvy o obchodním partnerství (je-li to relevantní), a musí zahrnovat jasné povinnosti týkající se používání údajů, zabezpečení a důvěrnosti.
Přístup k nasazení umělé inteligence založený na rizicích
Američtí regulátoři, včetně FDA a ministerstva zdravotnictví a sociálních služeb (HHS), nadále podporují přístup k zavádění umělé inteligence založený na rizicích. Transparentnost, odpovědnost a lidský dohled jsou klíčovými principy, z nichž všechny FDA potvrdila, že jsou zavedeny s použitím Elsy.
Žádné komerční změny účelu
Údaje shromážděné nebo zpracované pomocí nástrojů umělé inteligence pro regulační účely nesmějí být znovu použity ke komerčnímu zisku, pokud to není v souladu se zákony na ochranu soukromí a požadavky na informovaný souhlas. Nasazení přípravku Elsa ze strany FDA je výhradně pro účely regulace a monitorování bezpečnosti.
Osobní údaje jsou adekvátně anonymizovány
Federální zákon USA o ochraně osobních údajů – zejména podle zákona HIPAA, kde je to relevantní – povoluje použití anonymizovaných údajů pro účely veřejného zdraví a regulačních účelů bez nutnosti individuálního souhlasu. V souvislosti s farmakovigilancí je většina údajů o jednotlivých případech, které jsou zpracovávány pro sledování a detekci signálů založené na literatuře, buď anonymizována, nebo zbavena přímo identifikovatelných prvků.
Použití je v rámci zákonného oprávnění
FDA jedná v rámci svých regulačních pravomocí, aby zajistila veřejnou bezpečnost využitím nástrojů umělé inteligence pro fotovoltaiku. Agentura má podle federálního zákona o potravinách, léčivech a kosmetice zákonnou pravomoc shromažďovat a zpracovávat údaje o bezpečnosti.
Dohled nad dodavatelem a smluvní záruky
Pokud společnost Elsa zahrnuje externí poskytovatele služeb nebo dodavatele, musí se tyto zakázky řídit vhodnými smluvními zárukami, jako jsou smlouvy o obchodním partnerství (je-li to relevantní), a musí zahrnovat jasné povinnosti týkající se používání údajů, zabezpečení a důvěrnosti.
Přístup k nasazení umělé inteligence založený na rizicích
Američtí regulátoři, včetně FDA a ministerstva zdravotnictví a sociálních služeb (HHS), nadále podporují přístup k zavádění umělé inteligence založený na rizicích. Transparentnost, odpovědnost a lidský dohled jsou klíčovými principy, z nichž všechny FDA potvrdila, že jsou zavedeny s použitím Elsy.
Žádné komerční změny účelu
Údaje shromážděné nebo zpracované pomocí nástrojů umělé inteligence pro regulační účely nesmějí být znovu použity ke komerčnímu zisku, pokud to není v souladu se zákony na ochranu soukromí a požadavky na informovaný souhlas. Nasazení přípravku Elsa ze strany FDA je výhradně pro účely regulace a monitorování bezpečnosti.
Závěrečné poznámky
Disciplinované a omezené nasazení nástroje Elsa ze strany FDA ukazuje, jak lze umělou inteligenci zodpovědně využívat k podpoře regulovaných funkcí, jako je fotovoltaika, aniž by byly ohroženy zásady ochrany údajů. Z hlediska správy ochrany soukromí vytváří užitečný precedens: využití umělé inteligence nikoli k automatizaci lidského úsudku, ale k rozšíření odborného přezkumu a zlepšení efektivity regulace pod vhodným dohledem.
Společnost Cencora bude i nadále sledovat vývoj v oblasti ochrany soukromí, zejména proto, že stále více regulačních orgánů zavádí umělou inteligenci v oblasti regulace, vědy a fotovoltaiky.
Společnost Cencora bude i nadále sledovat vývoj v oblasti ochrany soukromí, zejména proto, že stále více regulačních orgánů zavádí umělou inteligenci v oblasti regulace, vědy a fotovoltaiky.
Rámec řízený umělou inteligencí: Elsa v souvislostech
Vývoj Elsy je jasně v souladu s nedávnými rámci souvisejícími s umělou inteligencí, které mají významné důsledky pro sponzory – zejména v oblasti farmakovigilance, regulačních operací, automatizace dokumentů a pokročilé farmaceutické výroby.
V dokumentu o používání umělé inteligence, který byl původně publikován v roce 2023 a revidován v únoru 20254, se FDA zabýval hlavními tématy týkajícími se aplikace umělé inteligence a strojového učení (ML), včetně současného a potenciálního využití umělé inteligence ke zlepšení vývoje léčiv. Dokument, který se snaží usnadnit dialog se všemi zúčastněnými stranami, zkoumá příležitosti, které existují v celém procesu identifikace, výběru a vývoje produktu, jakož i pro účely po uvedení na trh. Klíčovými z nich jsou bezpečnostní dohled, jako je detekce signálů a vytěžování literatury, a potenciál zlepšit výrobní proces zlepšením spolehlivosti zařízení a včasným varováním.
V dokumentu o používání umělé inteligence, který byl původně publikován v roce 2023 a revidován v únoru 20254, se FDA zabýval hlavními tématy týkajícími se aplikace umělé inteligence a strojového učení (ML), včetně současného a potenciálního využití umělé inteligence ke zlepšení vývoje léčiv. Dokument, který se snaží usnadnit dialog se všemi zúčastněnými stranami, zkoumá příležitosti, které existují v celém procesu identifikace, výběru a vývoje produktu, jakož i pro účely po uvedení na trh. Klíčovými z nich jsou bezpečnostní dohled, jako je detekce signálů a vytěžování literatury, a potenciál zlepšit výrobní proces zlepšením spolehlivosti zařízení a včasným varováním.
Při detekci a správě signálů existuje potenciál pro využití nástrojů umělé inteligence k identifikaci vzorců, pokud fotovoltaické týmy dokážou tyto vzorce interpretovat. Mezi další oblasti, kde se umělá inteligence již používá a kde je větší potenciál pro rozšíření jejího využití, patří prověřování a interpretace literatury, automatizace souhrnných zpráv o bezpečnosti, a dokonce i vývoj a údržba hlavního souboru systému farmakovigilance (PSMF), který je v Evropské unii povinný. 5 Umělá inteligence by mohla být rovněž zavedena k automatizaci kontroly kvality bezpečnostních údajů, která, pokud by byla řádně ověřena, by mohla zlepšit pracovní postup bezpečnostní databáze a zvýšit dohled nad kvalitou.
Zúčastněné strany byly vyzvány, aby zvážily a spolupracovaly s agenturou ve třech klíčových oblastech v souvislosti s využitím umělé inteligence pro vývoj léčiv. Jedná se o:
- Správa, odpovědnost a transparentnost vedená lidmi
- Kvalita, spolehlivost a přesnost dat
- Vývoj, výkon, monitorování a ověřování modelu
S Elsou FDA prokázala, že uznává, že umělá inteligence může hrát důležitou roli v prostředích s velkým objemem dat. To průmyslu otevírá cestu k přijetí nástrojů na podporu klíčových procesů, pokud je zaveden řádný dohled a validace. Validace je klíčová a vyžaduje, aby byly nástroje testovány a tyto testy byly zdokumentovány a certifikovány.
Agentura také zveřejnila interně zaměřený diskusní dokument o umělé inteligenci a výrobě léčiv, aby prozkoumala potenciál umělé inteligence pro monitorování a kontrolu pokročilých výrobních postupů v rámci regulačního rámce založeného na rizicích. 6 Dokument nastiňuje, jak FDA řídí své vlastní používání nástrojů, přičemž zdůrazňuje důležitost standardů pro validaci modelů umělé inteligence, jasnost ohledně regulačního hodnocení a dohledu a vhodná ochranná opatření pro data.
Pochopení Elsy v případech použití
Z toho vyplývá, že FDA očekává, že umělá inteligence bude nasazena s jasným řízením a mantinely v jakémkoli regulovaném pracovním postupu, který bude odrážet mantinely, které agentura doporučuje při dalším vývoji svých zásad. Elsa dále ztělesňuje tento rámec a zdůrazňuje důležitost přísného omezení a přijetí opatření k zajištění toho, aby nástroje umělé inteligence nasazené průmyslem neměly halucinace.
Pro agenturu představuje Elsa krok směrem k cíli vytvořit regulační prostředí v reálném čase. Agentura vidí umělou inteligenci jako potenciální potenciál pro okamžitý dohled nad bezpečnostními zprávami, což by zlepšilo dohled po uvedení na trh a před uvedením na trh.3
Pro sponzory by Elsa mohla poskytnout něco jako plán pro vývoj funkcí s umělou inteligencí, jako jsou nástroje NLP pro funkce farmakovigilance, včetně třídění literatury, příjmu případů a návrhů termínů MedDRA.
Tím, že by sponzoři měli při vývoji fotovoltaických nástrojů na paměti cíle společnosti Elsa, by v ideálním případě zajistili auditovatelnost dat, jako je sledovatelnost zdroje, validace modelu a kontrola člověkem ve smyčce.
Pro agenturu představuje Elsa krok směrem k cíli vytvořit regulační prostředí v reálném čase. Agentura vidí umělou inteligenci jako potenciální potenciál pro okamžitý dohled nad bezpečnostními zprávami, což by zlepšilo dohled po uvedení na trh a před uvedením na trh.3
Pro sponzory by Elsa mohla poskytnout něco jako plán pro vývoj funkcí s umělou inteligencí, jako jsou nástroje NLP pro funkce farmakovigilance, včetně třídění literatury, příjmu případů a návrhů termínů MedDRA.
Tím, že by sponzoři měli při vývoji fotovoltaických nástrojů na paměti cíle společnosti Elsa, by v ideálním případě zajistili auditovatelnost dat, jako je sledovatelnost zdroje, validace modelu a kontrola člověkem ve smyčce.
Závěr
Projekt Elsa nabízí jasný pohled na to, jak FDA přistupuje k umělé inteligenci: nejde o okázalé schopnosti, ale o disciplinovanou kontrolu. Tím, že FDA navrhla Elsu tak, aby fungovala offline, zakazovala halucinace a zaměřovala se striktně na interní vyhledávání dokumentů, modeluje přístup založený na rizicích, auditovatelný a plně uzavřený.
Pro průmysl je zpráva jasná – nástroje umělé inteligence určené pro použití v oblasti farmakovigilance, psaní předpisů nebo podpoře předkládání musí upřednostňovat transparentnost, validaci a funkční limity před ambicemi. Zatímco agentura pokračuje v aktualizaci Elsy, je důležité si uvědomit, že nástroj jasně označuje záměr FDA. Elsa není experimentem s umělou inteligencí, ale spíše regulačním signálem pro průmysl, aby přijal strukturovaný a obezřetný přístup k vývoji umělé inteligence. Elsa je méně pískoviště a více plán.
Pro průmysl je zpráva jasná – nástroje umělé inteligence určené pro použití v oblasti farmakovigilance, psaní předpisů nebo podpoře předkládání musí upřednostňovat transparentnost, validaci a funkční limity před ambicemi. Zatímco agentura pokračuje v aktualizaci Elsy, je důležité si uvědomit, že nástroj jasně označuje záměr FDA. Elsa není experimentem s umělou inteligencí, ale spíše regulačním signálem pro průmysl, aby přijal strukturovaný a obezřetný přístup k vývoji umělé inteligence. Elsa je méně pískoviště a více plán.
Cílem tohoto materiálu je informovat o schopnostech společnosti Cencora, které se opírají o odborné znalosti přispěvatelů. Společnost Cencora důrazně doporučuje čtenářům, aby si prostudovali všechny dostupné informace týkající se zmíněných témat, včetně případných poskytnutých odkazů, a aby se při rozhodování v této souvislosti spoléhali na své vlastní zkušenosti a odborné znalosti, protože tento materiál může obsahovat určitá marketingová prohlášení a nepředstavuje právní poradenství.
Spojte se s naším týmem
Náš tým špičkových odborníků se zaměřuje na přetváření důkazů, poznatků z analýz politik a informací o trhu v účinné strategie přístupu na globální trh. Dovolte nám, abychom vám pomohli s jistotou se orientovat v dnešním složitém prostředí zdravotní péče. Ozvěte se nám a zjistěte, jak můžeme podpořit dosažení vašich cílů.
Zdroj
1 FDA spouští celoagenturní nástroj umělé inteligence pro optimalizaci výkonu pro americký lid, YouTube. https://www.youtube.com/watch?v=jp6TvncQYMU
2 FDA spouští nástroj umělé inteligence pro optimalizaci výkonu pro americký lid, tisková zpráva FDA, 2. června 2025. https://www.fda.gov/news-events/press-announcements/fda-launches-agency-wide-ai-tool-optimize-performance-american-people
3 Úřad pro kontrolu potravin a léčiv: Pokud se používá pro knihovny dokumentů, Elsa nemůže mít halucinace; je nepravděpodobné, že by byl připojen k internetu. RAPS, 20. června 2025. https://raps.org/news-and-articles/news-articles/2025/6/fda-says-elsa-can-t-hallucinate,-unlikely-to-ever
4 Využití umělé inteligence a strojového učení při vývoji léčiv a biologických produktů, FDA. https://www.fda.gov/media/167973/download
5 Pokyny pro správnou farmakovigilanční praxi (GVP), EMA a HMA. https://www.ema.europa.eu/en/documents/scientific-guideline/guideline-good-pharmacovigilance-practices-module-ii-pharmacovigilance-system-master-file-rev-2_en.pdf
6 Umělá inteligence při výrobě léčiv, FDA, 2023. https://www.fda.gov/media/165743/download
