Una decisione o un’azione deve essere valutata come moralmente buona o cattiva tenendo conto soltanto di quelle che sono le sue conseguenze. Il libro di Guglielmo Tamburrini apre le sue riflessioni introducendo il concetto dell’etica delle conseguenze. Di cosa parliamo? Ponendo esclusivamente l’attenzione sulle conseguenze delle decisioni e delle azioni, l’etica delle conseguenze si distingue da altre impostazioni alla formazione dei giudizi morali su ciò che è bene o giusto fare. Essa considera come fattori irrilevanti per la valutazione morale delle scelte il rispetto o la violazione di un presunto dovere incondizionato, ma anche le intenzioni e le ambizioni, gli atteggiamenti mentali virtuosi, magnanimi o meschini che ci spingono ad agire.

I veicoli a guida autonoma possono contribuire a ridurre il numero di vittime della strada, ma sono già stati coinvolti in gravi incidenti stradali. Le armi autonome possono attaccare obiettivi militari legittimi senza richiedere l’approvazione di un operatore umano, ma potrebbero colpire civili estranei al conflitto. Quali decisioni e azioni che incidono sul benessere fisico e sui diritti delle persone possono essere affidate all’autonomia operativa di una macchina? Quali responsabilità devono rimanere in capo agli esseri umani? Che peso dare alle limitazioni che affliggono la nostra capacità di spiegare e prevedere il comportamento di robot che apprendono dall’esperienza e interagiscono con altri sistemi informatici e robotici?

Il libro riflette sull’ambito di azione di robot chirurgici ad autonomia crescente, sulle armi autonome e sui veicoli a guida autonoma: emergono somiglianze di famiglia che permettono di gettare uno sguardo d’insieme sulla questione etica del controllo delle macchine autonome. La responsabilità di ciò che fa una macchina autonoma non può essere attribuita alla macchina stessa. L’assenza della coscienza di sé e l’incapacità di agire in base a motivazioni morali sentite come proprie non consentono di considerare come autore di una scelta morale nessuna macchina che possiamo scorgere all’orizzonte delle attuali conoscenze scientifiche e tecnologiche.

L’esercizio di un CUS – Controllo Umano Significativo – sulle macchine autonome dell’IA e della robotica che compiono azioni moralmente impegnative consente di attribuire in modo opportuno le eventuali responsabilità del caso. Merita di essere citata la riflessione dell’autore che riguarda le macchine dotate di capacità morali dialogiche e di come queste potrebbero essere utilizzate come sistemi di supporto nell’analisi di problemi complessi, come il riscaldamento globale del nostro pianeta. La percentuale di emissioni di gas serra attribuibili al settore dell’informazione e della comunicazione è in costante crescita e le scelte morali relative allo sviluppo sostenibile delle macchine autonome non sono differibili oltre.

Guglielmo Tamburrini, Etica delle macchine. Dilemmi morali per robotica e intelligenza artificiale. Carocci Editore, Roma 2020

Chiara Lupi

Articolo a cura di

Chiara Lupi ha collaborato per un decennio con quotidiani e testate focalizzati sull’innovazione tecnologica e il governo digitale. Nel 2006 ha partecipato all’acquisizione della ESTE, casa editrice storica specializzata in edizioni dedicate all’organizzazione aziendale, che pubblica le riviste Sistemi&Impresa, Sviluppo&Organizzazione e Persone&Conoscenze. Dirige la rivista Sistemi&Impresa e governa i contenuti del progetto multicanale FabbricaFuturo sin dalla sua nascita nel 2012. Si occupa anche di lavoro femminile e la sua rubrica “Dirigenti disperate” pubblicata su Persone&Conoscenze ha ispirato diverse pubblicazioni sul tema e un blog, dirigentidisperate.it.
Nel 2013 insieme con Gianfranco Rebora e Renato Boniardi ha pubblicato il libro Leadership e organizzazione. Riflessioni tratte dalle esperienze di ‘altri’ manager. Nel 2019 ha curato i contenuti del Manuale di Sistemi&Impresa Il futuro della fabbrica.

Chiara Lupi