Tecnologia

L’intelligenza artificiale può avere i pregiudizi proprio come gli uomini

I recenti studi su 840 miliardi di parole dimostrano che nell’apprendimento del linguaggio le macchine assumono comportamenti pregiudiziali per quanto riguarda razza e genere

L’intelligenza artificiale si perfeziona con il tempo. L’esempio più evidente di questo miglioramento è Google Translate che dopo diversi anni di carriera è sempre più affidabile nelle traduzioni, proprio come se fossero fatte da persone in carne ed ossa. L’altra faccia della medaglia è, però, che i processi automatizzati di comprensione del linguaggio finiscono per ereditare dagli uomini che li hanno programmati anche i pregiudizi. Le ultime ricerche dimostrano che la vicinanza tra gli uomini e le macchine ha trasferito anche convinzioni e atteggiamenti nascosti che i sistemi di intelligenza artificiale non possono fare a meno di imitare.

Come le macchine capiscono il linguaggio

«Molti dicono che l’intelligenza artificiale abbia dei pregiudizi. No. Siamo noi ad averne e l’intelligenza artificiale li sta solo imparando», dice la ricercatrice dell’università di Bath Joanna Bryson. E se una macchina impara un comportamento sbagliato, non è dotata degli antidoti sociali o culturali per contrastarlo o mitigarlo, anche quando questo è palesemente sbagliato. Lo studio, pubblicato dalla rivista Science, si concentra sui meccanismi di comprensione delle parole. «Il principale motivo per il quale abbiamo deciso di studiare questi meccanismi è che negli ultimi anni sono stati fondamentali per permettere ai computer di capire il senso di un discorso», dice Arvind Narayanan, informatico della Princeton University e autore dello studio. I ricercatori hanno preso in esame il modello in grado di rappresentare matematicamente il linguaggio e aiutare le macchine a capire una parola nel suo contesto, molto di più di quello che può fare un dizionario.

I pregiudizi dell’intelligenza artificiale

L’analisi di questo sistema di apprendimento ha, però, rivelato che le associazioni di genere che le macchine imparano sono in qualche modo discriminatorie: se ai fiori viene associata la bellezza e agli insetti il concetto di fastidio, quando si parla di donne si finisce per nominare l’arte, la casa e la letteratura. Ingegneria e matematica sembrano essere solo cose da uomini. Stesso discorso con le razze: le associazioni immediate fatte agli uomini afro-americani sono tutte a parole non proprio piacevoli. Questi risultati sono stati osservati dopo l’analisi di 840 miliardi di parole attinte da testi online.

Gli algoritmi non mentono

Secondo Sandra Wachter, ricercatrice in etica dei dati e algoritmi all’università di Oxford, potrebbe esserci un aspetto positivo della faccenda: «Almeno con gli algoritmi possiamo sapere dove risiede il pregiudizio. Gli uomoni possono mentire sulle ragioni di un loro comportamento. Al contrario, non ci aspettiamo che gli algoritmi ci mentano o ci ingannino», spiega. La vera sfida ora è realizzare un sistema che controlli l’intelligenza artificiale, individui eventuali pregiudizi e riesca in qualche modo a combatterli. In maniera automatica.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Dai banchi di scuola al pitch. I finalisti del progetto “A Scuola di Startup” a DigithON 2017

Il progetto realizzato da AuLab ha coinvolto per il terzo anno consecutivo studenti delle scuole secondarie superiori. Il team vincitore sarà premiato dal Gruppo Giovani Imprenditori di Confindustria Bari e Bat. Abbiamo intervistato Davide Neve, CEO di AuLab

Il food italiano parte alla conquista della Cina con la startup Ventuno

Le sorelle Di Franco hanno inventato un modo per presentare l’italian food all’estero: eleganti box a tema regionale con prodotti locali. E ora la piattaforma sarà una delle dieci finaliste dell’Italian Scaleup Initiative in China

Hephaestus Venture, il fondo che porta le startup italiane in Brasile

Il fondo ha la missione di supportare le startup nei processi di internazionalizzazione verso il Brasile, un mercato emergente e in forte crescita, se si pensa che il 57.4% dei finanziamenti in America Latina si concentra in questo Paese.

Cyber-Diplomacy | Che cos’è e qual è il ruolo dell’Italia (nel G7)

Le relazioni internazionali sono chiamate ad avere un ruolo specializzato al Cyber Spazio e devono agire al suo interno per supportare il complesso di accordi e regole di carattere internazionale oggi ancora incompleto in proposito