30 novembre 2018

Quale morale per i robot?

Un treno corre senza freni su un binario e sta per investire cinque persone, ma voi potreste azionare una leva per deviarlo su un altro binario e far morire un solo uomo: che fareste? Un treno corre all’impazzata e sta per investire cinque persone, ma voi avete la possibilità di fermarlo spingendo sui binari un uomo grasso: che fareste? Benché l’effetto sia il medesimo, la maggior parte delle persone interverrebbe nel primo caso (formulato nel 1967 da Philippa Ruth Foot), ma non nel secondo (proposto nel 1976 da Judith Jarvis Thomson), per ragioni che si è cercato di indagare anche da un punto di vista neurologico: si attivano aree del cervello maggiormente associate al ragionamento nella prima situazione, all’emozione nella seconda.

Tale famoso esperimento mentale, detto “il problema del carrello ferroviario”, ha avuto numerose formulazioni ed è ora tornato di attualità nella progettazione delle auto a guida autonoma (per regolare le quali, per intendersi, non sono sufficienti le tre leggi di Asimov sulla robotica): nel 2014 il Massachusetts Institute of Technology (MIT) ha proposto un test, consultabile on-line (Moral Machine), con 13 possibili varianti focalizzate su 9 fattori – deviare il veicolo o no; basarsi sul numero delle vittime; risparmiare: pedoni/passeggeri, chi attraversa col verde/rosso, uomini/donne, giovani/vecchi, poveri/ricchi, umani/animali, persone sportive/grasse –, ulteriormente combinati con dati riguardanti chi esegue il test (orientamento politico e religioso, livello di istruzione e reddito, sesso ed età). Il test ha avuto un inatteso riscontro, ricevendo quasi 40 milioni di risposte da 233 Paesi, e i suoi risultati sono stati analizzati in uno studio pubblicato su Nature: ne è emerso che più che le differenze individuali rilevano quelle culturali.

In generale, si delineano tre indicazioni prevalenti: risparmiare vite umane piuttosto che animali, salvare il maggior numero possibile di vite e sacrificare i vecchi. Dal punto di vista individuale i fattori che contano di più sono le propensioni religiose (i credenti risparmierebbero nello 0,09% in più dei casi vite umane rispetto a quelle di altri animali) e il genere (gli uomini risparmierebbero nello 0,06% in meno dei casi vite femminili rispetto agli uomini), ma si tratta di differenze molto sottili che non spostano la prevalenza delle risposte da un campo dicotomico all’altro.

Molto più profonde sembrerebbero invece le differenze geografiche. I ricercatori hanno individuato tre grandi aree culturali: il primo gruppo viene definito occidentale (Paesi europei e Stati Uniti), a maggioranza cristiana; il secondo orientale (Paesi asiatici e mediorientali), a maggioranza islamica o confuciana; il terzo meridionale, e sono i Paesi latinoamericani. Secondo gli autori, si notano differenze soprattutto in base a due caratteristiche: tra Paesi di cultura collettivista o individualista, e tra Paesi poveri o ricchi. Nei Paesi “individualisti” si mira a salvare il numero maggiore di vite e soprattutto quelle giovani, mentre nei Paesi “collettivisti” (come Cina e Giappone) gli anziani vengono protetti di più. Nei Paesi poveri (come quelli dell’area meridionale) lo status sociale è una variabile importante (si salvano di preferenza i ricchi), così come la salute (si salvano di più le persone allenate che le grasse), mentre meno valore è attribuito alla legge (l’attraversamento con rosso o verde). 

Sorgono alcuni dubbi sulla validità dei risultati per il fatto che il campione non è stato scientificamente selezionato in precedenza: solo per fare un esempio, il classismo dei Paesi poveri potrebbe con alta probabilità dipendere dal fatto che in essi solo la minoranza ad alto reddito ha accesso a Internet. Sorgono altresì dubbi sulla accettabilità razionale di alcune risposte: per esempio, per quale motivo razionale la vita di una donna dovrebbe valere – come emerge dalle risposte maggioritarie – più di quella di un uomo? Ma forse la difficoltà è ancora più fondamentale: è accettabile attribuire a un automa (tanto evoluto da guidare un’automobile ma non abbastanza da controllarne il funzionamento dei freni) una facoltà morale senza che la sua scelta sia nel contempo punibile?

 

Galleria immagini


0