Článek
Umělá inteligence v centru pozornosti: Co si odnést ze Světového kongresu o bezpečnosti pacientů
-
Lin Li, Ph.D.
-
José Miguel Rivas Romero
-
Stephen Sun, MD, MPH
Průmysl dosáhl bodu, kdy porozumění umělé inteligenci (AI) a jejím potenciálním aplikacím ve farmakovigilanci značně dozrálo. To bylo zřejmé jak na Světovém kongresu o bezpečnosti pacientů, který se konal v Amsterodamu ve dnech 22. až 24. září, tak na kongresu, který se konal v Bostonu ve dnech 13. až 15. října. Pro lídry v oblasti fotovoltaiky po celém světě je důsledkem tohoto vývoje to, jak by se měly vyvíjet samotné pracovní postupy fotovoltaiky, aby se co nejlépe využívala umělá inteligence, a důležitost nejen implementace, ale také pochopení této technologie.
Řízení rizik spojených s umělou inteligencí
Řečníci na obou setkáních zdůraznili, že je důležité znát omezení umělé inteligence a porozumět rizikům a tomu, jak je kontrolovat. Cílem všech zúčastněných stran bylo prokázat hodnotu implementace umělé inteligence.
Na jednom zasedání v Bostonu se v diskusi kladl důraz na cílené řízení, průběžné vyhodnocování případů použití umělé inteligence a řízení rizik. To je důležité, protože vysoce regulovaná prostředí vyžadují validaci výstupů, lidský dohled, zdokumentované kontroly, přezkoumání toho, kde je umělá inteligence vhodná a kde ne, a posouzení rizik modelu nebo pracovního postupu. Klíčovým poznatkem ze zasedání bylo, že hodnota umělé inteligence je neoddělitelná od správy v prostředí fotovoltaiky a bezpečnosti.
Na jednom zasedání v Bostonu se v diskusi kladl důraz na cílené řízení, průběžné vyhodnocování případů použití umělé inteligence a řízení rizik. To je důležité, protože vysoce regulovaná prostředí vyžadují validaci výstupů, lidský dohled, zdokumentované kontroly, přezkoumání toho, kde je umělá inteligence vhodná a kde ne, a posouzení rizik modelu nebo pracovního postupu. Klíčovým poznatkem ze zasedání bylo, že hodnota umělé inteligence je neoddělitelná od správy v prostředí fotovoltaiky a bezpečnosti.
Dohled, řízení a monitorování změn
Na obou setkáních také zaznělo silné poselství, že inovace nelze oddělit od řízení změn. Jakákoli implementace nového systému musí být podpořena robustním plánem řízení změn, který platí stejně pro širší organizační změny, jako jsou centralizované modely. Úspěšné přijetí závisí na jasných rolích, připravenosti zúčastněných stran, školení, návrhu pracovního postupu a disciplinovaném provádění.
Umělé inteligence testují také zdravotnické úřady a regulační orgány vyzývají společnosti, aby pokračovaly ve zkoumání jejího využití. Regulátoři však vyjádřili jasná očekávání od strukturovaných hodnotících protokolů, silných validačních přístupů a průběžného monitorování v průběhu času – i když první údaje vypadají povzbudivě.
Umělé inteligence testují také zdravotnické úřady a regulační orgány vyzývají společnosti, aby pokračovaly ve zkoumání jejího využití. Regulátoři však vyjádřili jasná očekávání od strukturovaných hodnotících protokolů, silných validačních přístupů a průběžného monitorování v průběhu času – i když první údaje vypadají povzbudivě.
Doporučení regulačních orgánů je začít v malém a rozšiřovat se. Upřednostňovaným přístupem je začít s cílenými, spravovatelnými případy použití, demonstrovat hodnotu a upřesnit zásady správného řízení a pracovní postupy před širším rozšířením.
Dalším důležitým diskusním bodem na zasedání v Amsterodamu byla role agentní umělé inteligence při zpracování nežádoucích účinků. I když je jasný zájem o potenciál těchto modelů, důraz byl kladen na dohled a eskalaci. Diskutovaným konceptem byl koncept supervizorů agentů začleněných do organizace, kteří by dohlíželi na agentské jednotky, s povinným předáním lidem, kdykoli se objeví nejasnosti – zejména v souvislosti se závažnými nežádoucími událostmi.
Dalším důležitým diskusním bodem na zasedání v Amsterodamu byla role agentní umělé inteligence při zpracování nežádoucích účinků. I když je jasný zájem o potenciál těchto modelů, důraz byl kladen na dohled a eskalaci. Diskutovaným konceptem byl koncept supervizorů agentů začleněných do organizace, kteří by dohlíželi na agentské jednotky, s povinným předáním lidem, kdykoli se objeví nejasnosti – zejména v souvislosti se závažnými nežádoucími událostmi.
Jak proměnit umělou inteligenci ve fotovoltaice ve skutečnost
Klíčovými tématy bostonského setkání bylo, jak nejlépe využít umělou inteligenci pro dosažení úspěšných výsledků. Řečníci zdůraznili důležitost standardizace a poznamenali, že místní rozdíly vytvářejí neefektivitu, riziko kvality a tření při implementaci. Pokud je proces roztříštěný, umělá inteligence má tendenci nekonzistenci spíše zesilovat, než aby ji řešila.
Úspěšné přijetí by mělo být také spojeno s řešením provozních problémů, jako je automatizace příjmu, používání pokročilých technologií, jako je zpracování přirozeného jazyka (NLP) a optické rozpoznávání znaků (OCR) pro zpracování dokumentů, třídění případů, překlad s umělou inteligencí, podpora lékařských recenzí a sumarizace a následná opatření.
Úspěšné přijetí by mělo být také spojeno s řešením provozních problémů, jako je automatizace příjmu, používání pokročilých technologií, jako je zpracování přirozeného jazyka (NLP) a optické rozpoznávání znaků (OCR) pro zpracování dokumentů, třídění případů, překlad s umělou inteligencí, podpora lékařských recenzí a sumarizace a následná opatření.
.jpg?h=768&iar=0&w=1365&hash=E0A6FCA47BA854226B601A260EE129BE)
Pracovní místa nyní a v budoucnosti
Jednou z klíčových oblastí, na kterou je třeba se zaměřit, je to, jak umělá inteligence ovlivní pracovní místa, včetně jejího potenciálu vytvořit nové role zaměřené na řízení a koordinaci agentů umělé inteligence a zároveň umožnit zaměstnancům přesunout se do strategičtějších rolí.
Na zasedání v Amsterodamu se rovněž diskutovalo o úloze vedoucích pracovníků v oblasti farmakovigilance a o dopadu technologií na pracovní místa. Klíčovým faktorem je zvyšující se složitost udržování dohledu nad globálními fotovoltaickými aktivitami společnosti.
Vedoucí PV, kvalifikovaná osoba EU pro farmakovigilanci (QPPV) a další funkce PV musí inspektorům a auditorům prokázat, že procesy jsou řízeny tak, jak bylo zamýšleno, a že společnost je na kontrolu připravena.
Na zasedání v Amsterodamu se rovněž diskutovalo o úloze vedoucích pracovníků v oblasti farmakovigilance a o dopadu technologií na pracovní místa. Klíčovým faktorem je zvyšující se složitost udržování dohledu nad globálními fotovoltaickými aktivitami společnosti.
Vedoucí PV, kvalifikovaná osoba EU pro farmakovigilanci (QPPV) a další funkce PV musí inspektorům a auditorům prokázat, že procesy jsou řízeny tak, jak bylo zamýšleno, a že společnost je na kontrolu připravena.
Mnoho společností však postrádá řídicí panely, které by umožňovaly úplnější dohled. Diskuse se zaměřily na potenciál využití technologie, která může na první pohled prokázat, že společnost působí ve ověřeném prostředí a která dokáže zkontrolovat případné mezery ve fotovoltaickém systému, by pomohla tuto složitost řešit.
Bylo také objasněno, že i v centralizovanějších nebo technologicky vyspělejších modelech zůstávají místní týmy zásadní pro budování vztahů s regulačními orgány, udržování silných sítí v zemi a shromažďování relevantních poznatků z místních předpisů. To bude vyžadovat jasnější vlastnictví procesů a promyšlenou definici toho, kde místní odborné znalosti přinášejí největší přidanou hodnotu.
Na bostonském setkání byla také zdůrazněna důležitost lidské odbornosti, přičemž klíčovým poznatkem bylo, že zatímco automatizace urychluje práci, odborníci zůstávají zodpovědní za klinický a regulační úsudek.
Bylo také objasněno, že i v centralizovanějších nebo technologicky vyspělejších modelech zůstávají místní týmy zásadní pro budování vztahů s regulačními orgány, udržování silných sítí v zemi a shromažďování relevantních poznatků z místních předpisů. To bude vyžadovat jasnější vlastnictví procesů a promyšlenou definici toho, kde místní odborné znalosti přinášejí největší přidanou hodnotu.
Na bostonském setkání byla také zdůrazněna důležitost lidské odbornosti, přičemž klíčovým poznatkem bylo, že zatímco automatizace urychluje práci, odborníci zůstávají zodpovědní za klinický a regulační úsudek.
Závěr: Výhled na potenciál umělé inteligence
Klíčovým poznatkem ze setkání je, že jak společnosti získávají zkušenosti s umělou inteligencí, mohou posoudit, kde ji lze využít, jak by měly proudit informace, kde jsou důležité statistické metody a lidské znalosti a jak by tyto komponenty měly spolupracovat.
Dalším důležitým směrem je použití proaktivních a prediktivních metod s umělou inteligencí, které umožňují dřívější předvídání vznikajících problémů a potenciálních budoucích výsledků, což týmům dává více příležitostí vyhodnotit důkazy, porozumět možným důsledkům a připravit se na rozhodnutí.
Podle našich zkušeností bude dosažení tohoto cíle vyžadovat více než jen pokrok v samotných modelech umělé inteligence. Může zahrnovat spojení nových nebo širších zdrojů údajů, statistických a prediktivních metodologií, příslušných vědeckých a klinických odborných znalostí a nových způsobů spolupráce.
Neméně důležité je určit, jak mohou různé typy důkazů vhodně podpořit předpovědi a jak by nejistota kolem těchto předpovědí měla ovlivnit rozhodnutí. To úzce souvisí s prediktivní prací na umělé inteligenci, kterou vyvíjíme a jejímž cílem je používat data a analytické metody, které pomáhají předvídat výsledky a poskytovat smysluplnou podporu rozhodování. Je také možné, že to, o čem se dnes mluví jako o umělé inteligenci, může být do příštího ročníku konference jednoduše automatizací.
Dalším důležitým směrem je použití proaktivních a prediktivních metod s umělou inteligencí, které umožňují dřívější předvídání vznikajících problémů a potenciálních budoucích výsledků, což týmům dává více příležitostí vyhodnotit důkazy, porozumět možným důsledkům a připravit se na rozhodnutí.
Podle našich zkušeností bude dosažení tohoto cíle vyžadovat více než jen pokrok v samotných modelech umělé inteligence. Může zahrnovat spojení nových nebo širších zdrojů údajů, statistických a prediktivních metodologií, příslušných vědeckých a klinických odborných znalostí a nových způsobů spolupráce.
Neméně důležité je určit, jak mohou různé typy důkazů vhodně podpořit předpovědi a jak by nejistota kolem těchto předpovědí měla ovlivnit rozhodnutí. To úzce souvisí s prediktivní prací na umělé inteligenci, kterou vyvíjíme a jejímž cílem je používat data a analytické metody, které pomáhají předvídat výsledky a poskytovat smysluplnou podporu rozhodování. Je také možné, že to, o čem se dnes mluví jako o umělé inteligenci, může být do příštího ročníku konference jednoduše automatizací.
Zřeknutí se:
Informace v tomto článku mají za cíl informovat čtenáře o tématu souvisejícím se schopnostmi společnosti Cencora a nejsou právním ani nákupním poradenstvím. Společnost Cencora, Inc. doporučuje čtenářům, aby si prostudovali odkazy citované v tomto článku a při rozhodování využili své vlastní znalosti a zkušenosti.
