L’Intelligenza Artificiale non distingue il colore della pelle

L’Intelligenza Artificiale è il “cervello” elettronico delle self-driving cars, le autovetture autonome di ultima generazione.

La sua programmazione è estremamente delicata. L’Intelligenza Artificiale  deve tener conto di un numero pressoché infinito di variabili. Lavori stradali, cambiamenti nella morfologia geografica causati da eventi atmosferici (depressioni, frane, smottamenti), ostacoli imprevisti e, naturalmente, la presenza di pedoni.

Garantire la sicurezza pedonale oltreché quella del passeggero è insomma una priorità imprescindibile.

Tuttavia, proprio la sicurezza ha rappresentato un problema non indifferente. Perché l’Intelligenza Artificiale, per quanto evoluta, ha i suoi limiti. E uno di questi potrebbe rappresentare un serio rischio per l’incolumità delle persone.

Se l’Intelligenza Artificiale non riconosce i pedoni di pelle scura

L’Intelligenza Artificiale che regola il sistema di riconoscimento delle auto autonome è infatti incapace di individuare pedoni di carnagione scura.

Tanto più scuro è il colorito di una persona, maggiori sono le difficoltà dell’IA a distinguerla dallo sfondo. Ma non solo. Anche il riconoscimento di persone basse è più faticoso e impegnativo che per soggetti di altezza media.

Sono i risultati sconcertanti (e giustamente allarmanti) di uno studio condotto in Georgia. Dove si punta a ottimizzare sempre più le auto autonome. Al fine di renderli veicoli dalle performance elevate ma anche, e soprattutto, sicuri.

L’Intelligenza Artificiale avrebbe perfino difficoltà a capire se una persona di carnagione scura è uomo o donna.

I limiti dell’Intelligenza Artificiale e i tratti somatici

Non è del resto una novità che i tratti somatici rappresentino una sfida per la programmazione delle Intelligenze Artificiali. Casi analoghi si erano già verificati in precedenza.

Il più eclatante era probabilmente stato quello delle IA di Google, che di fronte a persone dalla pelle scura avevano  erroneamente attribuito l’ID a gorilla e scimpanzé.

Un problema simile affliggerebbe anche il sistema di face recognition degli iPhone X.

Numerosi utenti cinesi del Melafonino sostengono, infatti, che le fotocamere dei loro cellulari non siano in grado di identificare correttamente i loro volti. E nemmeno di distinguere fra loro due persone diverse.

Lo studio condotto dalla Georgia Tech

Per identificare le cause del problema riscontrato con le Intelligenze Artificiali, la Georgia Tech ha condotto uno studio approfondito.

La ricerca ha preso in esame otto diverse Intelligenze Artificiali. A ognuna delle quali sono state mostrate foto di persone con coloriti diversi.

Per scegliere il colore di pelle dei soggetti raffigurati si è utilizzata la Scala di Fitzpatrick, la stessa usata per valutare, ad esempio, la fotosensibilità ai raggi UV delle diverse carnagioni. I ricercatori hanno pertanto selezionato un soggetto per ognuna delle sei categorie di colore della pelle.

Ai sei soggetti è stato chiesto di attraversare casualmente delle strade ad Atlanta, in cui circolavano delle auto automatiche.

L’obiettivo del test era verificare se il riconoscimento automatico dell’Intelligenza Artificiale avrebbe funzionato correttamente. Tutte le persone prese in esame avrebbero dovuto poter attraversare con tranquillità e in tutta sicurezza.

I risultati sconcertanti del test condotto ad Atlanta

E il test ha ottenuto dei risultati quantomeno sconcertanti. Che hanno fatto subito messo in allarme i ricercatori.

Il riconoscimento facciale era fino al 5% meno effettivo quando ad attraversare erano persone dalla pelle più scura.

Viceversa, l’Intelligenza Artificiale incontrava problemi pochi (o nulli) con persone di pelle bianca. O comunque molto chiara.

Secondo i ricercatori Benjamin Wilson, Judy Hoffman e Jamie Morgenstern, il problema potrebbe derivare dal “training” delle IA. Nonostante queste ultime siano esposte a una varietà di tratti somatici e carnagioni diverse, i più riconoscibili sarebbero i maschi Caucasici.

Al contrario delle donne, le persone basse e chiunque appartenga a una diversa etnia. Un problema allarmante nell’ottica di una tecnologia che dovrebbe prendere piede sempre più globalmente.

E’ quindi importantissimo capire come arginare la situazione, perfezionando ulteriormente il funzionamento delle Intelligenze Artificiali. Che, una volta immesse sulla strada, non dovranno più avere alcun dubbio nel riconoscere i pedoni. Di qualunque genere e qualunque colore di pelle.

This post is also available in: English