Approvate da EMA le raccomandazioni dell'ICMRA sulla regolamentazione dell’Intelligenza Artificiale in medicina - EMA approved the ICMRA recommendations on regulation of artificial intelligence in medicine

Abstract

Le tecnologie di intelligenza artificiale sono sempre più applicate in tutte le fasi del ciclo di vita di un medicinale: dalla convalida del target e l'identificazione dei biomarcatori, all'annotazione e all'analisi dei dati clinici negli studi, alla farmacovigilanza e all'ottimizzazione dell'uso clinico. Ciò comporta sfide normative, tra cui la trasparenza degli algoritmi e la loro etica, nonché i rischi di guasti dell'IA e l'impatto più ampio che questi avrebbero sulla salute dei pazienti. Due casi di studio ipotetici sviluppati nel rapporto dell'ICMRA sono stati quindi utilizzati per "sottolineare" i sistemi normativi per scoprire le aree in cui potrebbe essere necessario un cambiamento. Uno dei temi centrali riguarda le caratteristiche dell'approccio 'basato sul rischio' e il suo rapporto con l'"uomo-centrico", la cui rilevanza è stata più volte sottolineata sia da Commissione, Parlamento e Consiglio d'Europa che da EDPB e EDPS.

AI technologies are increasingly applied across all stages of a medicine’s lifecycle: from target validation and identification of biomarkers, to annotation and analysis of clinical data in trials, pharmacovigilance and clinical use optimisation. This brings regulatory challenges, including the transparency of the algorithms and their ethics, as well as the risks of AI failures and the wider impact these would have on patients’ health. Two hypothetical case studies developed in the ICMRA's report were then used to ‘stress test’ the regulatory systems to discover the areas where change may be needed. One of the central topics concerns the characteristics of the 'risk based' approach and its relationship with the "human-centric", the relevance of which has been repeatedly emphasized by both the Commission, Parliament and Council of Europe and by EDPB and EDPS.