Accidentes: la convivencia con la máquina -------------------------------------------
¿Conducen las máquinas peor que los humanos? La escasa perspectiva de que disponemos sobre esta cuestión no permite decidirlo con certeza. Sin embargo, ninguno de los accidentes confirmados de vehículos autónomos permite atribuir la culpa a la automatización. Así, el primer accidente de un Google Car, en febrero de 2016, fue imputable al conductor. El coche, detenido detrás de unos sacos de arena, debía cambiar de carril. Tras ver un autobús por el retrovisor, el conductor apostó a que reduciría la velocidad o se detendría, y después se abrió paso a la fuerza.
En marzo de 2018, un taxi de Uber atropelló y mató a una mujer. El informe provisional del organismo regulador estadounidense del transporte apunta al factor humano e invita a la prudencia en el análisis. La víctima cruzaba la carretera de noche por un tramo sin iluminación, vestía de negro y empujaba una bicicleta sin reflectantes. Además, sus pruebas toxicológicas dieron positivo. Sobre todo, el sistema de frenado de emergencia del vehículo no estaba activado. La conductora, que debía retomar el control en caso de problema, miraba su smartphone…

World of Tomorrow, de Günter Radtke (1960).

-
El dilema del tranvía ---------------------
La filósofa británico-estadounidense Philippa Ruth Foot se hizo célebre en 1967 con su dilema del tranvía. Fuera de control, un tranvía se dirige hacia un grupo de cinco personas. Puede detenerlo con algo pesado. Por «suerte», pasa por allí en ese momento una persona enorme. Tiene dos opciones: sacrificar a esa persona y salvar a las otras cinco, o no hacer nada y dejar morir a las cinco personas.
Investigadores del MIT, de la Universidad de Oregón y de la Escuela de Economía de Toulouse buscaron una respuesta a este problema, adaptado a los vehículos autónomos. El equipo desarrolló un simulador, Moral Machine. Varias decenas de millones de escenarios ya han sido valorados por internautas de cerca de un centenar de países. Los lectores pueden contribuir a las pruebas a través de este enlace web: moralmachine.mit.edu/hl/fr.
-
Determinar matemáticamente la responsabilidad ---------------------------------------------
Lógicamente, un particular no se plantea comprar un coche que pudiera decidir sacrificarlo. El fabricante israelí de componentes Mobileye, hoy filial de Intel, ha propuesto una solución a los constructores: modelizar matemáticamente la responsabilidad en caso de accidente. El objetivo sería separar la programación de los aspectos normativos.
La conducción orientada al confort, basada en técnicas de aprendizaje, se separaría de las decisiones relacionadas con la seguridad, basadas en un modelo predefinido. Una vez validado este modelo por las autoridades gubernamentales competentes, los constructores solo tendrían que certificar sus vehículos. Mobileye publicó un documento científico que la National Highway Traffic Safety Administration (NHTSA) estadounidense analizó minuciosamente: tras probar treinta y siete escenarios previos a un accidente, no detectó ningún error.
-
Algoritmos éticos --------------------
El artículo 121-1 del Código Penal es claro: el responsable de las infracciones que cometa al conducir un vehículo es el conductor de dicho vehículo, y no el constructor, su fabricante de componentes, el programador del software o el autor de su algoritmo. En el futuro, serán la pluralidad de quienes ostentan poderes sobre el vehículo autónomo y su capacidad de interacción o corrección las que determinarán las responsabilidades en que se incurra.
Siempre es posible modificar el software integrado, para enseñarle, por ejemplo, a «desconfiar» de los autobuses. Se trata de un proceso de mejora continua que subsana cada nueva deficiencia detectada.
Constructores e investigadores de la Universidad de Bolonia (Italia) imaginan incluso un «botón ético» que modificaría el proceso de decisión del algoritmo del software integrado cuando el accidente y la muerte son inevitables. La idea es permitir al conductor asumir sus responsabilidades: o decide «salvar su vida» —dando muestra de egoísmo—, o decide «salvar a los demás» —dando muestra de altruismo—. Dejarle elegir presenta otra ventaja: puede modificar su enfoque del problema según su situación personal. Por ejemplo, cabe imaginar a un padre de familia que pondría el botón en modo «altruista» al ir al trabajo, pero en modo «egoísta» cuando lleva a sus hijos en el asiento trasero.
Existe un precedente: dado que el airbag del pasajero delantero de un coche es muy peligroso para los niños pequeños, corresponde al conductor desactivarlo cuando proceda.