The Legal Framework for Source-Based Governance of AIGC Disinformation: A Comparative Perspective Between China and the EU | Il quadro giuridico del governo fondato sull’origine della AIGC Disinformation: una prospettiva comparata tra Cina e Unione europea

Abstract

The rapid iteration of generative AI has engendered complex forms of disinformation of AI-generated content (AIGC Disinformation), which constitutes a systemic risk spanning technical, legal, and social dimensions. Comparative research of Chinese and EU legal frameworks indicates that effective source based governance of AIGC Disinformation requires further development and harmonization. In terms of training data governance, China emphasizes the legality of data sources, quality assurance, and security management to ensure the authenticity of outputs. The EU focuses on transparency and traceability mechanisms, alongside data quality management systems, to mitigate AIGC Disinformation risks. Regarding AI model risk management, China has established lifecycle-based security assessment mechanisms aligned with national recommended standards, applied on a voluntary basis. The EU employs a risk based regulatory framework, imposing stringent obligations particularly on general-purpose AI (GPAI) models with systemic risks and models used in high-risk AI systems. Despite differences, both jurisdictions treat training data governance as the first line of defense and AI model risk management as the second line of defense. Both also emphasize clarifying the primary responsibilities and liabilities of AI providers. Looking forward, China and the EU should promote global consensus on AIGC Disinformation governance through collaborative frameworks and mutual technical recognition, fostering the high-quality development of generative AI.

La rapida iterazione dell’intelligenza artificiale generativa ha generato forme complesse di disinformazione basata su contenuti generati dall’IA (AIGC Disinformazione), che costituisce un rischio sistemico esteso alle dimensioni tecnica, giuridica e sociale. La ricerca comparata sui quadri normativi della Cina e dell’Unione europea indica che il governo efficace, fondato sull’origine, della AIGC Disinformazione richiede ulteriore sviluppo e armonizzazione. Per quanto riguarda il governo dei dati di addestramento, la Cina enfatizza la liceità delle fonti dei dati, la garanzia della qualità e la gestione della sicurezza al fine di assicurare l’autenticità degli output. L’Unione europea si concentra su meccanismi di trasparenza e tracciabilità, unitamente a sistemi di gestione della qualità dei dati, per mitigare i rischi connessi alla AIGC Disinformazione. Con riferimento alla gestione dei rischi dei modelli di IA, la Cina ha istituito meccanismi di valutazione della sicurezza basati sull’intero ciclo di vita del modello, allineati a standard nazionali raccomandati e applicati su base volontaria. L’Unione europea adotta un quadro normativo fondato sul rischio, imponendo obblighi stringenti in particolare ai modelli di IA di uso generale (GPAI) che presentano rischi sistemici e ai modelli impiegati in sistemi di IA classificati come ad alto rischio. Nonostante le differenze, entrambe le giurisdizioni considerano il governo dei dati di addestramento come la prima linea di difesa e la gestione dei rischi dei modelli di IA come la seconda linea di difesa. Entrambe sottolineano altresi la necessità di chiarire le responsabilità e gli obblighi primari dei fornitori di IA. In prospettiva, la Cina e l’Unione europea dovrebbero promuovere un consenso globale sul governo della AIGC Disinformazione attraverso quadri collaborativi e meccanismi di mutuo riconoscimento tecnico, favorendo uno sviluppo di alta qualità dell’intelligenza artificiale generativa.