Discriminazioni algoritmiche ------------------------------
Joy Buolamwini, del MIT, e Timnit Gebru, del laboratorio di ricerca Microsoft di New York, hanno studiato l’accuratezza di software di riconoscimento facciale di tre grandi aziende del settore (IBM, Microsoft e Face++). I risultati sono comparabili, nel bene come nel male (Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, Proceedings of Machine Learning Research 81, 2018). Mentre il tasso di successo dei tre software si aggira attorno al 97% per una persona dalla pelle chiara, scende all’83% per una persona dalla pelle più scura. Uno scarto analogo si osserva nel distinguere le donne dagli uomini. L’incrocio delle due caratteristiche è eloquente: quasi il 100% di successi per un uomo bianco, appena il 70% per una donna nera!
Un po’ poco per accusare i progettisti di razzismo o sessismo, ma sufficiente per ricordare che un’intelligenza artificiale è proprio… artificiale e può quindi riprodurre a modo suo alcuni pregiudizi, in particolare nel modo in cui scegliamo i dati forniti a un’intelligenza artificiale perché impari.
-
Dati intelligenti -------------------------
Lo sviluppo dei Big Data ha riportato al centro della scena gli algoritmi di intelligenza artificiale. Ne costituiscono addirittura il terreno fertile, poiché le nuove IA, basate sul principio del machine learning, si nutrono di grandi quantità di dati.
Ma l’IA è anche uno strumento per sfruttare i Big Data. Questi ultimi non sono costituiti soltanto da dati comportamentali da incrociare per finalità commerciali. Il sequenziamento del genoma, gli acceleratori di particelle e l’astronomia sono ambiti nei quali il flusso di dati è senza paragoni con l’osservazione delle attività umane. Un dossier del numero 181 di Tangente e un altro, più tecnico, in Tangente SUP 77–78, sono peraltro dedicati alla matematica dei Big Data.
L’IA permette di ottimizzare gli algoritmi che memorizzano, classificano e analizzano questi grandi volumi di dati. Può persino rilevarvi fenomeni che non si era nemmeno immaginato di cercare. Nei metodi basati sulla statistica, gli algoritmi di IA usati per interpolare o estrapolare conducono all’elaborazione di modelli previsionali adattivi, che si affinano nel confronto con i dati reali.
-
Prevenire le disdette -------------------------
Il marketing mira ad attirare nuovi acquirenti, ma anche a evitare che se ne vadano. Per non perdere una parte della propria clientela, quattro anni fa SFR ha adottato una strategia di monitoraggio dei clienti basata sulle pagine visitate e sulle parole chiave inserite. Grazie a questi dati, secondo Les Échos, l’operatore di telefonia mobile sarebbe in grado di anticipare oltre l’80% delle potenziali disdette di abbonamento. Contattando questi clienti prima che prendano una decisione per proporre loro un’offerta mirata, SFR riuscirebbe a trattenere tre quarti di chi intende andarsene.
È un esempio di applicazione del marketing predittivo, che dovrebbe consentire di prevedere, mediante algoritmi di analisi di grandi quantità di dati, non il comportamento statistico di una massa di clienti, ma il comportamento individuale di alcuni di essi. Un ambito promettente, che richiede naturalmente una riflessione etica su ciò che sia legittimo conoscere o meno dei propri clienti.