The Fog of Information: the EU AI Act and legal strategies against AI-fuelled disinformation | La nebbia dell’informazione: l’AI Act dell’UE e le strategie giuridiche contro la disinformazione alimentata dall’IA

Abstract

The rise of generative AI has complicated longstanding challenges in the fight against disinformation, enabling the creation and spread of synthetic content at unprecedented speed and scale. While disinformation is not new, AI’s ability to impersonate credible sources, manipulate audiovisual material, and craft persuasive narratives across languages raises urgent legal and regulatory concerns. This article examines the provisions of the EU Artificial Intelligence Act (AI Act), which can provide innovative responses to AI-driven disinformation. The AI Act does not address disinformation in a direct manner, but it establishes mechanisms that are relevant to this emerging problem. The article situates the AI Act within the broade EU regulatory landscape, which also includes the Digital Services Act, the Code of Practice on Disinformation, and the EU Charter of Fundamental Rights. The focus is on the risk-based classification and transparency rules of the AI Act, which can enhance democratic resilience, if they are paired with the necessary safeguards.

L’ascesa dell’intelligenza artificiale generativa ha complicato sfide già note nella lotta contro la disinformazione, rendendo possibile la creazione e la diffusione di contenuti sintetici con una velocità e una portata senza precedenti. Sebbene la disinformazione non sia un fenomeno nuovo, la capacità dell’IA di imitare fonti credibili, manipolare contenuti audiovisivi e costruire narrazioni persuasive in più lingue pone interrogativi giuridici e regolatori urgenti. Questo articolo analizza il Regolamento europeo sull’intelligenza artificiale (AI Act), che rappresenta una risposta innovativa, sebbene indiretta, alla disinformazione generata dall’IA. Pur senza affrontare esplicitamente il fenomeno, l’AI Act introduce strumenti rilevanti per i nuovi disordini informativi. L’analisi colloca il Regolamento nel più ampio panorama normativo dell’UE, che comprende il Digital Services Act, il Codice di buone pratiche sulla disinformazione e la Carta dei diritti fondamentali dell’Unione europea. L'attenzione è posta sul sistema di classificazione basato sul rischio e sulle norme di trasparenza previste dall'AI Act, che possono rafforzare la resilienza democratica se accompagnate dalle necessarie garanzie.