Provocazioni culturali e implicazioni giuridiche degli AI Companion | Cultural Provocations and legal implications of AI Companions

Abstract

Lo scritto mira ad analizzare alcuni sistemi di intelligenza artificiale generativa, anche detti AI Companion, che per capacità e pervasività sono idonei a configurare un alto rischio per l’autonomia delle persone, specie laddove interagiscano con soggetti vulnerabili, che soffrono di disturbi psichici. In seguito, sono indicati alcuni dei possibili rimedi utili a fronteggiare il fenomeno ed a governare l’evoluzione della tecnica.

The paper aims to analyse some generative AI systems, also known as AI Companion, which, due to their capacity and pervasiveness, are apt to be a high risk for the human agency, especially where vulnerable people who suffering with psychological disorders are concerned. Then, there are some of the possibles remedies useful in facing the phenomenon and ruling the evolution of technology.