Condividi:

Condividi su facebook
Condividi su twitter
Condividi su linkedin
Condividi su whatsapp
Condividi su telegram

E’ capitato non molto tempo fa. Era il 2016 quando è accaduto che l’AI di Google ha scambiato una persona di colore con un gorilla. Perché è successo? Cosa lo ha fatto capitare?

La non recente notizia che ha fatto scalpore, cosa accadde?

Nel 2016 Google introdusse una funzione nella sua app Google Foto che permetteva di organizzare le immagini in base a delle etichette che le contraddistinguevano grazie a quello che c’era all’interno della foto stessa.

Poteva essa trattarsi di un paesaggio, di oggetti, persone, animali e tant’altro.

Ed è proprio qui che Big G commise un errore razziale. Infatti, un utente che utilizzava Google Foto, ha ritrovato le sue foto raggruppate con delle etichette, in base a quello che era presente all’interno di esse.

Le accuse emerse contro l’azienda di Mountain View, sono sorte proprio per il nome di un etichetta al posto sbagliato. Infatti, L’applicazione, o per meglio dire l’algoritmo, ha etichettato dei selfie di persone di colore come “Gorillas”.

L’utente in questione ha subito dichiarato l’accaduto tramite Twitter costringendo così Google a mettersi ai ripari.

Per risolvere il tutto e non fare altri danni all’immagine dell’azienda e delle persone, la società è stata indotta ad attuare una soluzione abbastanza veloce ovvero, eliminare l’etichetta “Gorillas” dall’applicazione.

AI di google scambia afroamericano per gorilla

L’AI di Google come ha fatto a sbagliare?

Anche un’azienda come Google può sbagliare certe volte e questo lo si denota proprio in questo errore grossolano che ha commesso.

Non è un semplice errore, bensì l’algoritmo si è dimostrato avere dei bias.


Nel caso non sapessi di cosa sto parlando ecco a te una definizione di bias statistico:

La tendenza a deviare dal valore medio.

In psicologia il bias viene definito come un pre-giudizio.


Ma tornando a noi come ha fatto l’AI di Google a sbagliare?

Quello che è successo è stato causato da un errore di calcolo e di addestramento dell’algoritmo. Se non lo sai, l’intelligenza artificiale usata è in grado di riconoscere le immagini.

Questo tipo di intelligenza artificiale utilizza tecniche di Machine Learning e Deep Learning che permettono allo stesso algoritmo di migliorarsi, man mano che analizza più immagini.

Gli algoritmi, anche nel riconoscimento delle immagini, utilizzano le funzioni matematiche per analizzare quello che è presente all’interno delle stesse, cercando di misurare anche la profondità (ad esempio se si tratta di volti di persone).

In questo caso, l’AI non è stata addestrata e testata a dovere con le immagini che potevano risultare fuorvianti.

Questo a Google è costato caro perché oltre ad aver pagato la multa per quello che è successo, ha anche dovuto riorganizzare l’algoritmo.

Tutt’oggi il problema non sembra risolversi e a quanto pare c’è ancora molto lavoro da fare. Infatti, il bias razziale non viene solo causato da persone afroamericane a causa del colore della loro pelle, ma anche da altre persone confuse con altri tipi di animali.

Per cercare di sistemare questo problema, Google deve (sta cercando di) allenare la sua AI, il più possibile, e testarla in continuazione con infiniti casi del genere.


Condividi su facebook
Condividi su twitter
Condividi su linkedin
Condividi su whatsapp
Condividi su telegram
Antonio Furioso

Antonio Furioso

Fondatore di Neuragate. Credo molto in quello che le immagini possono comunicare, per questo sono fortemente attratto dalla Computer Vision. Mi piace tutto quello che è nuovo. La curiosità è quella che mi spinge oltre le aspettative e a fare sempre di più.

Iscriviti
Notificami
guest
0 Commenti
Inline Feedback
Vedi tutti i commenti