Data protection and Inclusive AI: Assessing Risks from an ex ante perspective - Protezione dei dati personali e intelligenza artificiale inclusiva: approccio ex ante e valutazione dei rischi

Abstract

The development of Artificial Intelligence (AI) systems increasingly relies on the large-scale processing of personal data, including special categories of data, thereby raising significant data protection and privacy concerns for persons with disabilities. While AI-based technologies may enhance accessibility, autonomy, and social participation, data-intensive AI applications – particularly in healthcare, assistive technologies, and caregiving contexts – may also exacerbate existing vulnerabilities. Adopting an ex ante perspective, this contribution examines how the principles of data protection law interact with broader requirements of accessibility, non-discrimination, and respect for individual autonomy. Particular attention is devoted to the role of inclusive and representative datasets in AI training, as well as to the use of impact assessment mechanisms and the meaningful involvement of persons with disabilities in the design, deployment, and governance of AI systems.

Lo sviluppo dei sistemi di intelligenza artificiale (IA) fondato sul trattamento di dati personali solleva rilevanti questioni critiche per le persone con disabilità. Se da un lato le tecnologie basate sull’IA possono favorire l’accessibilità, l’autonomia e la partecipazione sociale, dall’altro queste possono accentuare vulnerabilità preesistenti. Adottando una prospettiva ex ante, il contributo analizza l’interazione tra la protezione dei dati personali e le più ampie esigenze di accessibilità, non discriminazione e rispetto dell’autonomia individuale. Particolare attenzione è dedicata al ruolo di set di dati inclusivi e rappresentativi nell’addestramento dei sistemi di IA, all’impiego di meccanismi di impact assesment e al coinvolgimento delle persone con disabilità nei processi di progettazione e governance dei sistemi di IA.