AI e diritti umani: il ruolo dell’etica nelle decisioni automatiche

L’Intelligenza Artificiale è ormai una componente onnipresente della nostra vita quotidiana: sta trasformando il modo in cui viviamo, lavoriamo e interagiamo, dalla domotica ai social network, dai sistemi di navigazione all’assistenza sanitaria. Tuttavia, come ogni strumento potente, l’AI porta con sé sia opportunità che rischi.

Lo studio dell’etica dell’AI è cruciale per garantire che queste tecnologie siano sviluppate e utilizzate in modo responsabile, richiedendo un impegno costante verso la trasparenza, la spiegabilità dei modelli decisionali, il rispetto rigoroso dei diritti e delle prerogative umane e una chiara attribuzione della responsabilità (“accountability”) per le azioni e le decisioni prese dai sistemi intelligenti.

Trasformazioni sociali e rischi etici dell’intelligenza artificiale

Con l’espansione pervasiva dell’intelligenza artificiale in tutti i settori della società – dalla medicina alla finanza, dalla pubblica amministrazione all’istruzione – emergono nuove sfide etiche, sociali e legali. Le abilità di simulazione di capacità cognitive e la crescente autonomia decisionale dei sistemi intelligenti comportano non solo benefici, ma anche rischi concreti e potenzialmente sistemici. In sintesi, L’AI moderna, anche alimentata da reti neurali profonde e grandi modelli linguistici (LLM), ha raggiunto livelli di prestazione tali da sollevare preoccupazioni su più fronti:

• Perdita di controllo: Sistemi autonomi sempre più complessi, come veicoli a guida autonoma o agenti decisionali nei mercati finanziari, possono operare in modi non completamente prevedibili o interpretabili.
• Abuso di accesso dati: L’accesso a grandi quantità di dati personali rende possibili violazioni della privacy e pratiche discriminatorie, se non regolato da principi etici e normativi adeguati.
• Manipolazione informativa: L’AI può essere utilizzata per creare contenuti sintetici realistici (deepfake), amplificare disinformazione o distorcere il consenso pubblico.

In questo articolo si analizzano brevemente i principali problemi etici connessi all’AI, a partire dalla perdita di controllo sui sistemi autonomi, l’abuso e l’accesso improprio ai dati personali, fino alla manipolazione della percezione pubblica. Si discuterà inoltre la necessità di promuovere la trasparenza, la spiegabilità e l’attribuzione della responsabilità nei processi decisionali delle macchine, salvaguardando i diritti, le convinzioni e le preferenze degli utenti umani.

Trasparenza e spiegabilità come fondamenti dell’etica dell’AI

Uno dei nodi centrali nell’etica dell’AI è la questione della trasparenza e della spiegabilità (eXplainable AI – XAI). Molti sistemi di AI, in particolare quelli basati su reti neurali profonde e Large Language Models (LLM) come ChatGPT, operano come “black-box”. Questo significa che, pur avendo una grande potenza e imparando statisticamente dai dati, non è sempre possibile spiegare le loro conclusioni o come sono giunti a una determinata decisione. Questa opacità rappresenta un problema significativo, soprattutto in settori critici come la medicina, dove l’AI è sempre più utilizzata per la diagnostica per immagini o il supporto decisionale.

In contesti medici, ad esempio, i pregiudizi algoritmici dovuti a insiemi di dati in ingresso limitati o poco rappresentativi possono generare disuguaglianze nelle diagnosi. Per superare queste sfide, è fondamentale lo sviluppo di modelli interpretabili e spiegabili (XAI).

La collaborazione tra umano e AI (Human-AI Teaming) è un’altra prospettiva promettente, ad esempio, in medicina, per aumentare la fiducia dei medici e la qualità delle cure, dove l’AI deve supportare e non sostituire il giudizio umano.

In generale, gli umani e i sistemi intelligenti lavorano in sinergia, imparando gli uni dagli altri, e raggiungendo risultati che vanno oltre le capacità di ciascuna delle parti, laddove comunque l’AI può supportare ed eventualmente sostituire gli umani in compiti noiosi, ripetitivi o critici. L’integrazione di paradigmi simbolici e sub-simbolici (reti neurali) nell’AI neuro-simbolica è vista come una direzione promettente per ottenere sistemi generali, affidabili e spiegabili, in grado di combinare il learning con il ragionamento simbolico, ossia il ragionamento logico basato su regole, e di inserirsi efficacemente nell’Human-AI Teaming.

La spiegabilità è essenziale non solo per la fiducia, ma anche per l’attribuzione di responsabilità e la correzione di errori. Se un sistema AI prende una decisione errata o discriminatoria, è imperativo comprendere il processo che ha portato a tale esito per poterlo correggere e prevenire future occorrenze. Occorre notare ancora una volta, a questo proposito, che la costruzione di un sistema AI ricco, ovvero un sistema semanticamente valido, spiegabile e in ultima analisi affidabile, richiederà un solido strato di ragionamento in combinazione con i sistemi di apprendimento automatico (reti neurali profonde, apprendimento per rinforzo o quant’altro).

Diritti umani e implicazioni etiche nell’uso dell’intelligenza artificiale

Il rispetto dei diritti umani è un pilastro fondamentale nell’etica dell’AI. Le tecnologie di AI, se non gestite con attenzione, possono portare a nuove forme di disuguaglianza, specialmente se le tecnologie avanzate non sono accessibili a tutti.

I sistemi intelligenti devono essere progettati in modo da riconoscere e rispettare non solo i diritti fondamentali degli individui (privacy, libertà di espressione, non discriminazione), ma anche le loro preferenze personali e valori morali. Questo richiede una profonda comprensione del contesto d’uso, e spesso l’integrazione di meccanismi epistemici che permettano ad un agente artificiale di modellare e aggiornare la propria conoscenza sugli utenti, modulando in modo opportuno le interazioni.

Inoltre, occorre notare che l’uso eccessivo dell’AI può disumanizzare molte professioni, ad esempio, in medicina, disumanizzare la cura, compromettendo la relazione, l’empatia e l’ascolto, aspetti cruciali nel rapporto medico-paziente.

La manipolazione e la sorveglianza attraverso l’uso improprio dei dati, anche sanitari, sono pericoli concreti, con l’AI che può essere usata per discriminare o influenzare le persone senza la loro consapevolezza. Algoritmi manipolativi possono influenzare decisioni senza che ce ne rendiamo conto, e l’AI utilizzata in modo malevolo può controllare informazioni, influenzarci in modo subdolo, e limitare così la nostra libertà. Piattaforme apparentemente innocue, come i social network, possono essere controllate da AI per manipolare opinioni e comportamenti.

Il rischio della perdita di competenze è un altro aspetto critico: un eccessivo affidamento sull’AI può portare a una minore capacità di apprendimento attivo e alla perdita di competenze vitali e di pensiero critico. È cruciale che l’AI non diventi una “prigione” che riduce l’autonomia e la capacità di pensiero indipendente, allevando generazioni dipendenti dalla tecnologia, ma incapaci di comprenderla e controllarla.

Per affrontare queste sfide, si sta promuovendo un approccio di AI centrata sull’uomo (Human-Centered AI), che mira a una collaborazione simbiotica tra umano e macchina. Requisiti fondamentali per un’AI utile includono affidabilità, empatia, riconoscimento emotivo e adattamento etico. Organismi come l’UNESCO hanno adottato standard internazionali, come la “Recommendation on the Ethics of Artificial Intelligence”, per guidare i legislatori nella traduzione di valori e principi etici in leggi e regolamenti. L’AI Act dell’Unione Europea intende regolamentare gli sviluppi dell’AI, secondo i seguenti principi:

• Beneficenza: l’AI deve promuovere il benessere degli individui e della società.
• Non maleficenza: evitare danni, sia materiali sia morali, agli utenti.
• Autonomia: rispetto delle scelte individuali e delle convinzioni personali.
• Giustizia: equità nell’accesso, nella distribuzione dei benefici e nell’impatto sociale.
• Accountability: identificazione chiara delle responsabilità nei processi automatizzati.

Attribuzione chiara della responsabilità dell’IA (“Accountability”)

L’attribuzione della responsabilità è un aspetto fondamentale, ma complesso, nell’ambito dell’AI. Quando un sistema intelligente prende decisioni che hanno conseguenze significative, è essenziale stabilire chi sia responsabile per tali esiti. L’AI Act dell’Unione Europea rappresenta il primo set completo di regolamentazioni per l’industria dell’intelligenza artificiale, richiedendo che i sistemi AI considerati “ad alto rischio” siano revisionati prima della commercializzazione. Questo include l’AI generativa, come ChatGPT, e mira a vietare il riconoscimento facciale in tempo reale. Sotto questa legge, i cittadini possono anche presentare reclami sul funzionamento dei sistemi AI. I sistemi AI utilizzati per influenzare l’esito delle elezioni e il comportamento degli elettori sono, naturalmente, classificati come ad alto rischio. Il principio di “accountability” dovrebbe essere rafforzato da strumenti normativi, tecnici e procedurali. La tracciabilità delle decisioni e dei dati è un prerequisito per ottenerla.

Le implicazioni legali ed etiche dell’uso di AI, specialmente in settori cruciali come la sanità, sono enormi. La validazione scientifica e la sicurezza sono cruciali, poiché alcuni sistemi AI non sono testati su popolazioni reali, con rischi di errori non rilevati e danni ai pazienti. È fondamentale una validazione rigorosa e trasparente. La responsabilità deve essere chiaramente definita per l’impatto algoritmico, i pregiudizi, la protezione della privacy e la gestione dei dati. I ricercatori di tutto il mondo stanno lavorando a metodi per assicurare e certificare che i sistemi AI seguano le norme etiche e i valori umani, e non cerchino mai di prevaricare gli esseri umani.

Gli agenti AI

Nel campo dell’Intelligenza Artificiale, gli agenti sono moduli software autonomi, capaci di percepire l’ambiente attraverso sensori e di agire su di esso tramite attuatori. Possono essere intelligenti se basati su tecniche di AI e opportunamente programmati, e possiedono capacità come la reattività (rispondere a eventi esterni) e la proattività (perseguire obiettivi). Gli agenti possono avere obiettivi e svolgere compiti, costruire piani e coordinarsi in “Sistemi Multi-Agente” (MAS) attraverso abilità sociali e linguaggi di comunicazione specifici. Le prospettive di utilizzo in campo aziendale, indistriale e sociale sono enormi.

Gli agenti non basati su Grandi Modelli Linguistici (LLM), spesso definiti “tradizionali” o “classici”, includono soprattutto gli agenti basati su regole logiche, che effettuano “ragionamento simbolico”. Questi garantiscono stabilità e prevedibilità del comportamento grazie a modelli deterministici che producono risultati coerenti e replicabili. I meccanismi comportamentali in questi agenti rendono i processi decisionali trasparenti, interpretabili ed efficienti. Un approccio fondamentale in questo ambito è la logica BDI (Belief, Desires, Intention), che ha portato allo sviluppo di linguaggi come AgentSpeak e DALI. Questi agenti logici sono capaci di ragionare, comunicare e rispondere tempestivamente agli eventi esterni, offrendo una semantica chiara, leggibilità, verificabilità e spiegabilità “by design”. Sono però poco flessibili, e faticano ad adattarsi a cambiamenti nell’ambiente esterno.

I più recenti agenti basati su LLM, noti come Agenti Generativi (GA), utilizzano modelli linguistici avanzati come GPT per elaborare il linguaggio naturale e prendere decisioni in autonomia. Questi agenti sono progettati per interazioni più realistiche e simili a quelle umane, simulazioni cognitive e flessibilità multi-dominio. Offrono vantaggi significativi in termini di adattabilità, simulazione del ragionamento cognitivo e complessità dell’interazione, rendendoli adatti per ambienti complessi e dinamici.

Tuttavia, presentano sfide significative, tra cui la loro natura probabilistica che può portare a risultati inconsistenti e la tendenza a “allucinare” o produrre risposte irrealistiche. Inoltre, sono considerati “scatole nere” a causa della difficoltà nel tracciare le loro decisioni , e presentano problemi di pregiudizi nei dati di addestramento, costi computazionali elevati, mancanza di interpretabilità, affidabilità, dubbi sulla privacy dei dati, e carenza di modelli del mondo espliciti e memoria a lungo termine per una pianificazione robusta. Per superare queste limitazioni, è necessaria l’integrazione con gli agenti basati su regole. La ricerca nel campo degli agenti punta infatti verso sistemi ibridi che combinino i punti di forza degli approcci tradizionali e di quelli basati su LLM.

Roboetica e responsabilità nei sistemi fisici intelligenti

Un campo particolarmente delicato dal punto di vista etico è quello della robotica, dove gli agenti AI sono installati all’interno di un “corpo” fisico. Questo specialmente nel caso di sistemi, come i robot assistivi per il supporto ai pazienti all’ospedale e a domicilio, che si stanno espandendo rapidamente ma che, interagendo con soggetti in stato di fragilità, presentano problematiche particolarmente delicate. Essi devono impegnarsi in interazioni complesse, ed occorre garantire che non violino i diritti degli esseri umani e che svolgano solo azioni etiche (cioè, azioni che seguono principi etici accettabili). Il campo della cosiddetta “roboetica” affronta queste questioni, in quanto si occupa di quali regole dovrebbero essere create per i robot per garantire il loro comportamento etico e di come progettare robot etici. Inoltre, costruire la fiducia tra esseri umani e robot è proprio come costruire la fiducia tra esseri umani. I robot assistivi possono costruire la fiducia comportandosi eticamente ed essendo trasparenti riguardo al loro comportamento. Con i robot assistivi ancora in una fase di relativa infanzia, è probabile che la scoperta di nuove questioni etiche continui. I robot dovrebbero avere la capacità di imparare continuamente da questi casi emergenti e costruire i loro principi guida e standard etici.

Costruire la fiducia tra esseri umani e robot è proprio come costruire la fiducia tra esseri umani. I robot assistivi possono costruire la fiducia comportandosi eticamente ed essendo trasparenti riguardo al loro comportamento. L’etica dovrebbe essere una considerazione fondamentale di qualsiasi azione intrapresa da un robot assistenziale. Con i robot assistivi ancora in una fase iniziale di utilizzo, è probabile che la scoperta di nuove questioni etiche continui. I robot dovrebbero perciò avere la capacità di imparare continuamente da questi casi emergenti e costruire i loro principi guida e standard etici. Tuttavia, programmare in anticipo norme etiche non è un compito facile. I codici etici sono regole astratte e generali, e spesso contengono termini che coprono una vasta gamma di situazioni specifiche. Sono soggetti a interpretazioni e possono avere significati diversi in contesti diversi. È impossibile per gli esperti definire regole intermedie per coprire tutte le possibili situazioni. I principi etici medici nella loro forma astratta sono molto difficili da applicare in situazioni reali. Inoltre, i codici potrebbero entrare in conflitto tra loro. Tutte le ragioni sopra menzionate rendono l’apprendimento dall’esperienza e la generalizzazione cruciali per il giudizio e il processo decisionale nei casi futuri. I robot quindi dovrebbero, in modo simile agli esseri umani, acquisire capacità decisionali e di giudizio etico attraverso processi impliciti, in particolare l’apprendimento induttivo.

Etica e consapevolezza collettiva nel futuro dell’AI

L’etica dell’intelligenza artificiale non può essere un’aggiunta accessoria, ma deve diventare una componente strutturale nello sviluppo, nella regolazione e nell’applicazione delle tecnologie intelligenti. In un contesto di crescente autonomia e capacità decisionale delle macchine, solo un impegno trasversale verso la trasparenza, la responsabilità e il rispetto della dignità umana può garantire un’evoluzione benefica dell’AI.

L’intelligenza artificiale non dovrebbe sostituire l’essere umano, ma potrà essere un alleato potente. Il futuro delle professioni non dovrà essere solo tecnologico: dovrà essere ancora, profondamente, umano. L’AI è uno strumento potente che deve essere usato con intelligenza e consapevolezza.

Dobbiamo integrare l’AI nel nostro apprendimento e nel lavoro senza perdere le nostre capacità critiche e decisionali. Solo così potremo mettere a frutto i benefici dell’AI per la crescita personale e della nostra società. È fondamentale adottare un atteggiamento critico e informarsi per sfruttare l’AI senza subirne gli effetti negativi. Dobbiamo restare vigili e consapevoli, e questo richiede una formazione di base sull’intelligenza artificiale rivolta a tutti, e non solo a coloro che la studiano e sviluppano. Questo perché tutti noi, più o meno consapevolmente, la usiamo e ne siamo usati, in quanto sono i nostri dati e i nostri comportamenti che concorrono all’addestramento dei sistemi intelligenti.

Bibliografia

• Costantini, S. “Intelligenza Artificiale e Agenti: sfide ed opportunità etiche.” Filosofia Morale 2025.
• Costantini, S. “Ensuring trustworthy and ethical behaviour in intelligent logical agents.” Journal of Logic and Computation, vol. 32, Issue 2, marzo 2022, pp. 443–478.
• S. Costantini, S., Tocchio, A., “The DALI logic programming agent-oriented language”. In: J. J. Alferes, J. A. Leite (Eds.), Logics in Artificial Intelligence, 9th European Conference, JELIA 2004, LNCS, Springer, 2004, pp. 685-688. DOI:10.1007/978-3-540-30227-8_57.

• Dyoub, A., Costantini, S., Monaldini, A., Dell’Acqua, P. “Towards Empathetic Care Robots”. Ital-IA 2023: CEUR Workshop Proceedings 3486, CEUR-WS.org 2023, 335-340
• Floridi, L., et al. (2018). AI4People – An Ethical Framework for a Good AI Society. Minds and Machines, 28(4), 689-707.
• Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399.
• European Commission. (2021). The Artificial Intelligence Act (AI Act), Technical Report, 2021. URL: https:// artificialintelligenceact.eu/the-act/. Proposal for a Regulation on Artificial Intelligence.
• IEEE. (2019). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems.
• Minsky, M. The Society of Mind. Simon & Schuster, New York 1986, tr.it. G. Longo, La società della mente, Adelphi, Milano 1989.
• Mittelstadt, B. D., et al. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2).
• Monaldini, A., Vozna, A., Costantini, S. “Blueprint Personas in Digital Health Transformation. Workshop HC@AIxIA 2024,” pagine 40-49.
• Rao, A.S., “AgentSpeak (L): BDI agents speak out in a logical computable language”. In: Agents Breaking Away, 7th European Workshop on Modelling Autonomous Agents in a Multi-Agent World, Springer, 1996, pp. 42-55. DOI:10.1007/BFb0031845.

W. Wallach, C. Allen, I. Smit, Machine morality: bottom-up and top-down approaches for modelling human moral faculties, AI Soc. 22 (2008) 565–582. doi:1 0 . 1 0 0 7 / s 0 0 1 4 6 – 0 0 7 – 0 0 9 9 – 0.

Turing, A. “Computing Machinery and Intelligence.” Mind, LIX (236): 433–460, (ottobre 1950) tr. it. in V. Somenzi, R. Cordeschi, La filosofia degli automi. Origini dell’intelligenza artificiale, Boringhieri, Torino 1986, pp. 157-183.

Turing, A. “On computable numbers, with an application to the Entscheidungsproblem.” Proceedings of the London Mathematical Society, 42 (1937).

S. G. Tzafestas, Roboethics: Fundamental concepts and future prospects, Information 9 (2018) 148.

UNESCO. “Recommendation on the Ethics of Artificial Intelligence.”