The Kleinberg epistemic paradox within contractual discrimination | Il paradosso epistemico di Kleinberg e la discriminazione contrattuale

Abstract

This paper examines contractual discrimination in the age of Artificial Intelligence through the epistemic paradox formulated by Jon Kleinberg. While the principle of non-discrimination is firmly recognised in European private law, its assessment remains epistemically complex, especially where intent is obscured by human bias or algorithmic processes. Two interpretative models are considered: the formalist, which confines protection to statutory indices and categories, and the substantive-functional, which evaluates discrimination retrospectively and contextually. The paper endorses the latter, showing that Kleinberg’s paradox offers limited utility in such a framework, yet regains relevance for formalist approaches. Through doctrinal, legislative, and jurisprudential analysis, reinforced by hypothetical examples, the argument highlights how AI systems may serve as “moral mentors,” exposing fractures in a positivist system dominated by binarisation, confinement, and market interests. Ultimately, the interpreter, not legislation alone, must ensure that remedies evolve with the complexity of technological and economic development, safeguarding human dignity.

Il presente contributo esamina la discriminazione contrattuale nell’era dell’Intelligenza Artificiale alla luce del paradosso epistemico formulato da Jon Kleinberg. Sebbene il principio di non discriminazione sia saldamente riconosciuto nel diritto privato europeo, il suo accertamento rimane epistemicamente complesso, specialmente quando l’intento è oscurato da bias umani o da processi algoritmici. Sono presi in considerazione due modelli interpretativi: quello formalista, che circoscrive la tutela agli indici e alle categorie previsti dalla legge, e quello sostanziale-funzionale, che valuta la discriminazione in modo retrospettivo e contestuale. Il contributo aderisce a quest’ultimo, mostrando come il paradosso di Kleinberg offra un’utilità limitata in tale prospettiva, ma riacquisti rilevanza negli approcci formalisti. Attraverso un’analisi dottrinale, legislativa e giurisprudenziale, corroborata da esempi ipotetici, l’argomentazione evidenzia come i sistemi di Intelligenza Artificiale possano fungere da “mentori morali”, mettendo in luce le fratture di un sistema positivistico dominato da binarizzazione, confinamento e interessi di mercato. In ultima analisi, spetta all’interprete e non alla sola legislazione garantire che i rimedi si evolvano in sintonia con la complessità dello sviluppo tecnologico ed economico, salvaguardando la dignità umana.