Algoretica: c’è un’etica degli algoritmi?

Il 14 novembre 2019 papa Francesco, in occasione dell’Udienza ai partecipanti al Convegno “Promoting Digital Child Dignity – From concept to action”, ha affermato che gli ingegneri informatici e i teologi devono «impegnarsi in uno sviluppo etico degli algoritmi, farsi promotori di un nuovo campo dell’etica per il nostro tempo: l’“algor-etica”». Questa affermazione è arrivata in un momento storico del tutto particolare: le grandi aziende operanti nel settore informatico sentono sempre di più la necessità di essere accompagnate in uno sviluppo etico degli algoritmi informatici e si rivolgono alla teologia per avere dei criteri etici che possano guidarli in questa nuova fase del loro lavoro. Anche la Chiesa, dal canto suo, ha iniziato a riflettere su queste tematiche: basti pensare alla recente Rome Call for AI ethics promossa e firmata nel 2020 dalla Pontificia Accademia per la vita insieme a Microsoft, IBM, FAO e il Ministero per l’innovazione italiano, nella quale si introducono tre aree di intervento (Etica, Educazione e Diritto) e sei principi fondamentali (Trasparenza, Inclusione, Responsabilità, Imparzialità, Affidabilità e Sicurezza).

Queste prime e veloci considerazioni dovrebbero subito suscitare una domanda: può esistere un’etica per gli algoritmi informatici? Facciamo alcune considerazioni. Da sempre l’uomo si è dovuto confrontare con il mondo nel quale vive e con i suoi limiti. Questo lo ha portato a sviluppare strumenti che gli permettessero di far fronte ai suoi bisogni e ai suoi desideri. Tali strumenti, i cosiddetti artefatti tecnologici,sono il frutto dell’ingegno umano e accompagnano l’uomo fin dalla sua comparsa sulla terra. In questi ultimi anni la tecnologia ha fatto passi molto grandi: la tecnica ha portato alla scoperta di nuovi modi di interagire con il nostro corpo per curarlo o per miglioralo, si sono innescati nuovi meccanismi di controllo economico, politico, finanziario e sta cambiando il contesto sociale e culturale nel quale l’uomo vive. Inoltre lo sviluppo dell’informatica ha cambiato il nostro modo di rapportarci al mondo e agli altri e questo è stato possibile grazie alla produzione di quegli artefatti tecnologici che prendono il nome di algoritmi informatici. 

Per comprendere l’impatto che gli algoritmi hanno nella vita umana di ogni giorno dobbiamo tener presente che la tecnologia non può essere vista solo come una serie di elementi del mondo dell’uomo che interrogano il nostro agire, ma come dei luoghi antropologici nei quali ci è svelata la nostra stessa costituzione: gli artefatti tecnologici sono prodotti culturali di un procedimento ermeneutico di comprensione del mondo, della propria natura e del modo in cui l’uomo si adatta al contesto in cui vive plasmandolo e lasciandosi plasmare da esso (Interessanti, da questo punto di vista, le riflessioni di Paolo Benanti o di Cosimo Accoto). Parlare dell’etica dell’algoritmo significa perciò rendersi innanzitutto conto che gli algoritmi informatici stanno sempre più prendendo decisioni per l’uomo, sull’uomo e con l’uomo e questo dovrebbe aiutarci a superare una concezione meramente strumentale ed estrinseca della tecnica. In questo senso, essi suscitano bisogni e valori, determinano una gerarchia di valori, modificano la comprensione di se stessi e del mondo circostante.

Nel mio lavoro di dottorato, di cui è disponibile una scheda bibliografica in questo sito, evidenzio che oramai da un paio di decenni si avverte la necessità di ripensare l’umano e l’esperienza umana abbandonando la separazione netta tra ciò che è umano e ciò che non lo è e rileggendo queste due realtà come soggettività sempre più in cooperazione. Questo può essere fatto attraverso un modello che si può descrivere come “uomo + algoritmo”: esso dovrebbe aiutare sia l’uomo a comprendere i criteri algoritmici che esso utilizza e sia l’algoritmo a rileggere l’umano per tradurlo in principi interpretabili in linguaggio macchina. Questo nuovo soggetto, che nasce dalla stretta collaborazione tra l’umano e l’algoritmo informatico, può essere definito homo algorithmus. Come si può comprendere facilmente, sull’etica della persona non ci sono problemi, ma cosa si può dire dell’etica dell’algoritmo informatico? 

In questi ultimi tre decenni si sono sviluppate due linee di pensiero principali. La prima considera la possibilità che gli artefatti tecnologici, come gli algoritmi informatici, possano comportarsi come agenti morali. Essi, infatti, non sono entità moralmente neutre ma orientano il comportamento umano influenzando le conseguenze e gli effetti che un’azione può determinare. In questo senso essi mostrano un’intenzionalità che è strettamente legata alla loro funzione e all’intenzionalità di coloro che lo hanno sviluppato e che lo utilizzano. Per questo motivo, un artefatto non può mai generare un effetto morale da solo, ma sempre in riferimento agli esseri umani. Nasce così una collaborazione stretta tra l’uomo e l’artefatto che insieme generano un’azione morale. Tra i più importanti sostenitori di questa linea di pensiero vanno sicuramente citati Verbeek, Johnson e Latour. La seconda linea di pensiero, invece, sostiene che gli artefatti tecnologici, data la loro autonomia nel comportamento e i loro processi informativi intelligenti, sono agenti morali. La classe degli agenti morali viene così ampliata per includere anche entità non umane. Tra i principali sostenitori di questa posizione vanno citati Floridi, Sanders e Allen.

I due approcci introdotti tentano, quindi, di conciliare l’agentività morale classica con la realtà degli agenti algoritmici. Lo sviluppo tecnologico attuale però non permette di giungere alla conclusione che si possa parlare di agenti morali umani e di agenti morali artificiali in maniera equivalente. All’agente artificiale, infatti, non si possono applicare immediatamente le categorie di libertà, responsabilità e consapevolezza che riguardano la persona umana: è necessario ripensare queste categorie o introdurne altre che aiutino ad individuare le proprietà che un algoritmo informatico deve possedere per rispondere alle sfide etiche che esso porta con sé. È utile fare un’osservazione. Nell’homo algorithmusla relazione di cooperazione tra la parte umana e quella algoritmica, come ogni relazione, tende a strutturarsi in relazioni complesse. Perciò è possibile fare una riflessione sugli algoritmi informatici tenendo conto della categoria di struttura di peccato o di conversione.Un algoritmo informatico, infatti, facendo sorgere nuovi valori e producendo cultura, influenza le relazioni che l’uomo instaura e questo determina, in positivo o in negativo, il modo in cui l’uomo vive il suo essere in relazione e genera una strutturazione dei comportamenti attraverso i quali l’homo algorithmus risponde agli stimoli e alle sfide che si trova a dover affrontare. Questa affermazione trova sostegno nelle considerazioni sulla cultura organizzativa dello psicologo statunitense Edgar Henry Schein. Egli afferma che la cultura può essere analizzata a tre livelli: quello degli artefatti visibili, quello delle credenze e dei valori dichiarati e quello degli assunti condivisi. In questa descrizione della cultura possono essere compresi anche gli algoritmi informatici ma non è immediato comprendere a quale livello essi appartengano. Infatti essi, pur manifestando la comprensione del mondo di coloro che li hanno sviluppati o che li utilizzano e pur plasmando la visione del mondo degli stessi sviluppatori e dei loro utilizzatori, non sono artefatti immediatamente visibili e decifrabili data la loro pervasità e la loro natura immateriale. Inoltre, come si è già sottolineato, essi determinano, mediano e producono in modo strutturato valori e credenze e influenzano la comprensione di ciò che è il bene comune. Ciò significa che gli algoritmi informatici di per sé non appartengono in maniera precisa a nessuno dei tre livelli di analisi di Schein, ma costituiscono un livello intermedio tra gli artefatti e le credenze e i valori dichiarati. Gli algoritmi informatici, in questo senso, sono strutture perché ponendosi tra gli artefatti visibili e le credenze e i valori dichiarati sono parte integrante del processo di validazione sociale e determinano la strutturazione di valori in assunti. Gli algoritmi influenzano, perciò, la gerarchia di valori che l’uomo assume nella sua vita e producono conoscenza e cultura che vanno a loro volta ad influenzare la comprensione stessa della realtà in una sorta di circolarità che può rafforzare il bene prodotto ma anche il male che viene generato. Infine gli algoritmi informatici, oltre a toccare l’individualità personale, agiscono anche a livello sociale in quanto generano meccanismi di controllo economico, politico e finanziario che regolano il vivere sociale dell’uomo e che determinano la comprensione che la comunità ha del bene comune. Anche a questo livello il bene o il male generato si rafforzano, si consolidano e si strutturano diventando sempre più trasparenti nel processo di valutazione morale che l’uomo è chiamato a compiere per scegliere in maniera coerente alla sua dignità e alla sua scelta di vita.

Tornando, allora, alla domanda iniziale appare evidente che si possa affermare che è urgente riflettere sull’etica degli algoritmi informatici in quanto una solida riflessione teologica ancora non esiste. Tale riflessione dovrebbe aiutare da un lato a definire un linguaggio e delle categorie che tengano conto della realtà nella quale viviamo e che includano anche gli artefatti tecnologici e dall’altro ad introdurre una governance etica per gli algoritmi informatici che permetta di garantire uno sviluppo etico di tali artefatti in modo da non ledere la dignità umana e da promuovere uno sviluppo umano sempre più integrale.