Intelligenza Artificiale

Intelligenza artificiale e razzismo. Le macchine non pensano, però imparano | Analisi

La macchina non ha la capacità di essere razzista, ma possiamo dire lo stesso di chi l’ha programmata?

Una macchina può essere razzista? Da quando si parla di Intelligenza artificiale e di machine learning, questo interrogativo, a volte in modo più sottile, altre volte in modo più evidente, sembra essere una costante. Ebbene probabilmente la macchina non ha la capacità di essere razzista, ma possiamo dire lo stesso di chi l’ha programmata? L’intelligenza artificiale, dietro il nome che in qualche modo ne sottende la capacità di autodeterminarsi, in realtà non è altro che un insieme di risposte a degli stimoli e in questo senso, anche se la macchina non pensa, certamente impara, in primo luogo da chi l’ha programmata, che, a differenza della macchina, essendo un essere umano, è soggetto a tutta una serie di pregiudizi e abiti mentali. Detto in altre parole, le macchine non sono razziste, ma gli algoritmi che nutrono la sua intelligenza, sono scritti da esseri umani, che possono, consapevolmente o meno, deviare l’obiettività della macchina stessa.

 

I pregiudizi delle macchine

I neri tendono al crimine più dei bianchi. Falso. Ma invece è vero che, come riportato dal Guardian, i casi di arresti di neri sono maggiormente pubblicizzati rispetto a quelli dei bianchi. Allo stesso modo sembra che gli annunci per le posizioni di management più elevate, abbiano una maggiore possibilità di venir visualizzate da utenti uomini. Facendo riferimento ai dati puri, le macchine di per sé sono neutrali, nel momento in cui entra una interpretazione del dataset, entrano anche le distorsioni.

Un chatbot per dominarli tutti

Oltre al pregiudizio, talvolta ci si mette anche l’hacking. Caso esemplare in questo senso è stata Tay, l’esperimento social made in Redmond, che in meno di 24 ore  si è trasformato in un bot razzista, misogino e con simpatie per Adolf Hitler. Merito della community degli utenti Twitter, che si è divertita, non senza un pizzico di goliardia, a insegnare e a far ripetere alla ignara intelligenza artificiale una serie di concetti e frasi, decisamente discutibili.

I nostri pregiudizi, i nostri privilegi

C’è di buono, nel caso di Tay, che ci fosse la consapevolezza di quanto si stesse facendo, ma a ben guardare, il problema, quando si parla cognitive computing, è fare proprio i conti con questi bias, che, per la maggior parte, non sono neppure percepiti dal programmatore e che invece hanno una stretta correlazione con quelli che sono i nostri privilegi e quelli della nostra società di riferimento. Quanto siamo abituati a pagare in Euro, a considerare il maschile come neutro, ad avere una carta d’identità, un documento che sia universalmente riconoscibile?

Il villaggio globale richiede uno sguardo globale

Entrare in contatto con il villaggio globale, programmare per il villaggio globale che è internet, ma, mi verrebbe da aggiungere, pianificare user interfaces che possano tener conto di una esperienza utente ampia, implica avere la responsabilità di dover ragionare in termini globali, diversi e inclusivi. Rendersi conto dei propri pregiudizi cognitivi è il primo passo per abbatterli e costruire design e prodotti che possano essere apprezzati da tutti, in ogni angolo del mondo.

Galaxy Note 8, tutte le notizie prima del lancio

Dopo la sfortunata storia del Note 7, quest’anno Samsung spera di bissare il successo del Galaxy S8. Con un terminale munito di pennino e accessori omaggio per chi prenota subito

Il motore di ricerca della moda cresce e aggiunge altre città | Papèm

La startup, guidata da Alberto Lo Bue e Carlo Alberto Lipari, dopo aver ricevuto il premio Endeavor ai MYllennium awards, ha annunciato che l’espansione non si fermerà fino a quando Papèm non sarà presente in ogni angolo di tutte le città

Zooppa lancia il primo contest per video VR a 360°. Ecco come partecipare

C’è tempo fino al 16 ottobre, saranno selezionati i migliori video promozionali o di storytelling girati con tecnologia 360° e della durata massima di 120 secondi
Garmin è partner tecnologico dell’iniziativa e mette in palio 5 Camere VIRB 360

DevSecOps: lo sviluppo software agile attento alla sicurezza

Sviluppatori, esperti di sicurezza, reparto IT: tutti devono collaborare per creare software davvero sicuro. Un concetto che si concretizza nel DevSecOps, un modo moderno e veloce per arrivare dall’idea alla produzione senza correre rischi