Discriminaciones algorítmicas ------------------------------
Joy Buolamwini, del MIT, y Timnit Gebru, del laboratorio de investigación de Microsoft en Nueva York, estudiaron la precisión de programas de reconocimiento facial de tres grandes empresas del sector (IBM, Microsoft y Face++). Los tres programas ofrecen resultados comparables, para bien y para mal (Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, Proceedings of Machine Learning Research 81, 2018). Mientras que la tasa de acierto de los tres programas ronda el 97 % en personas de piel clara, cae al 83 % en quienes tienen la piel más oscura. Se produce una diferencia similar al distinguir entre mujeres y hombres. El cruce de ambas características es elocuente: cerca del 100 % de aciertos para un hombre blanco, ¡apenas el 70 % para una mujer negra!
No basta para acusar a los diseñadores de racismo o sexismo, pero sí para recordar que una inteligencia artificial es precisamente… artificial y que, por tanto, puede reproducir a su manera ciertos sesgos, especialmente en la forma en que elegimos los datos que proporcionamos a una inteligencia artificial para que aprenda.
-
Datos inteligentes -------------------------
El desarrollo de los Big Data ha devuelto a primer plano los algoritmos de inteligencia artificial. Constituyen incluso su caldo de cultivo, pues las nuevas IA, basadas en el principio del machine learning, se alimentan de datos masivos.
Pero la IA también es una herramienta para explotar los Big Data. Estos no se componen únicamente de datos de comportamiento que se cruzan con fines comerciales. La secuenciación del genoma, los aceleradores de partículas y la astronomía son ámbitos en los que el volumen de datos supera con creces al generado por la observación de las actividades humanas. Un dossier del número 181 de Tangente y otro, más técnico, en Tangente SUP 77–78 están dedicados, además, a las matemáticas de los Big Data.
La IA permite optimizar los algoritmos que almacenarán, clasificarán y analizarán estos grandes volúmenes de datos. Incluso permite detectar en ellos fenómenos que ni siquiera habíamos imaginado buscar. En los métodos basados en la estadística, los algoritmos de IA destinados a interpolar o extrapolar conducen a la elaboración de modelos predictivos adaptativos que se afinan al confrontarse con datos reales.
-
Prevenir las bajas -------------------------
El marketing tiene por objeto atraer a nuevos compradores, pero también evitar que se marchen. Para no perder parte de su clientela, SFR implantó hace cuatro años una estrategia de seguimiento de sus clientes basada en las páginas visitadas y las palabras clave introducidas. Con ayuda de estos datos, el operador de telefonía móvil ha sido capaz, según Les Échos, de anticipar más del 80 % de las posibles cancelaciones de abonos. Al ponerse en contacto con estos clientes antes de que tomen su decisión para hacerles una oferta específica, SFR conseguiría retener a tres cuartas partes de esos clientes.
Este es un ejemplo de aplicación del marketing predictivo, que debe permitir anticipar, mediante algoritmos de análisis de datos masivos, no el comportamiento estadístico de una masa de clientes, sino el comportamiento individual de algunos de ellos. Un campo prometedor, que debe ir acompañado, por supuesto, de una reflexión ética sobre qué es legítimo conocer o no de los clientes.