Incidenti: la convivenza con la macchina -------------------------------------
Le macchine guidano peggio degli esseri umani? La limitata esperienza di cui disponiamo non consente di decidere con certezza. Tuttavia, nessuno degli incidenti accertati che hanno coinvolto veicoli autonomi permette di chiamare in causa l’automazione. Così, il primo incidente di una Google Car, nel febbraio 2016, fu imputabile al conducente. L’auto, ferma dietro alcuni sacchi di sabbia, doveva cambiare corsia. Dopo aver visto un autobus nello specchietto retrovisore, il conducente scommise che avrebbe rallentato o si sarebbe fermato, poi si fece strada a forza.
Nel marzo 2018, un taxi Uber investì e uccise una donna. Il rapporto provvisorio dell’autorità statunitense dei trasporti privilegia il fattore umano e invita alla prudenza nell’analisi. La vittima attraversava la strada di notte, in un tratto non illuminato, vestita di nero e spingendo una bicicletta priva di catarifrangenti. Inoltre, i suoi esami tossicologici risultarono positivi. Soprattutto, il sistema di frenata d’emergenza dell’auto non era attivato. La conducente, che avrebbe dovuto riprendere il controllo in caso di problema, guardava il proprio smartphone…

Günter Radtke’s World of Tomorrow (1960).

-
Il dilemma del tram -------------------
La filosofa anglo-americana Philippa Ruth Foot divenne celebre nel 1967 con il suo dilemma del tram. Fuori controllo, un tram si dirige verso un gruppo di cinque persone. Potete fermarlo con qualcosa di pesante. Per «fortuna», in quel momento passa una persona enorme. Potete scegliere: sacrificare questa persona e salvare le altre cinque, oppure non fare nulla e lasciare morire le cinque persone.
Studiosi del MIT, dell’Università dell’Oregon e della Scuola di economia di Tolosa hanno cercato una risposta a questa questione applicata alle auto a guida autonoma. Il gruppo ha messo a punto un simulatore, Moral Machine. Diverse decine di milioni di scenari sono già stati giudicati da utenti di Internet provenienti da circa cento paesi. I lettori possono contribuire ai test tramite il seguente collegamento Web: moralmachine.mit.edu/hl/fr.
-
Determinare matematicamente la responsabilità ----------------------------------------------
Logicamente, un privato non prenderebbe in considerazione l’acquisto di un’auto che potrebbe decidere di sacrificarlo. Il fornitore israeliano di componenti Mobileye, ormai filiale di Intel, ha proposto ai costruttori una soluzione: modellare matematicamente la responsabilità negli incidenti. L’obiettivo sarebbe separare la programmazione dagli aspetti normativi.
La guida improntata al comfort, basata su tecniche di apprendimento, sarebbe separata dalle decisioni legate alla sicurezza, fondate su un modello predefinito. Una volta convalidato questo modello dalle autorità governative competenti, ai costruttori basterebbe far certificare i propri veicoli. Mobileye ha pubblicato un documento scientifico, che la statunitense National Highway Traffic Safety Administration (NHTSA) ha esaminato a fondo: dopo aver testato trentasette scenari precedenti all’incidente, non ha rilevato alcun errore.
-
Algoritmi etici ---------------
L’articolo 121-1 del Codice penale è chiaro: il responsabile delle infrazioni da lui commesse nella guida di un veicolo è il conducente, non il costruttore, il suo fornitore di componenti, il programmatore del software o l’autore del suo algoritmo. In futuro, saranno la pluralità dei soggetti che detengono poteri sul veicolo autonomo e la loro capacità di interazione o di correzione a determinare le responsabilità in cui si incorre.
È sempre possibile aggiornare il software di bordo, per insegnargli, per esempio, a «diffidare» degli autobus. Si tratta di un processo di miglioramento continuo che colma ogni nuova lacuna individuata.
Costruttori e ricercatori dell’Università di Bologna immaginano persino un «pulsante etico» che modificherebbe il percorso seguito nell’algoritmo del software di bordo quando l’incidente e la morte sono inevitabili. L’idea è permettere al conducente di assumersi le proprie responsabilità: o decide di «salvare la propria vita» (dando prova di egoismo), oppure decide di «salvare gli altri» (dando prova di altruismo). Lasciare al conducente la scelta offre un altro vantaggio: gli consente di modificare il proprio approccio al problema in base alla propria situazione personale. Per esempio, possiamo immaginare un padre di famiglia che imposta il pulsante sulla modalità «altruista» quando va al lavoro, ma sulla modalità «egoista» quando ha i figli sul sedile posteriore.
Esiste un precedente: poiché l’airbag del passeggero anteriore di un’auto è molto pericoloso per i bambini piccoli, spetta al conducente disattivarlo, se necessario.