Che ruolo hanno i programmi informatici nella nostra vita? E gli algoritmi che li compongono? Davvero oggi gli algoritmi qualificano certi nostri comportamenti?
Chi non ama l’informatica penserà che gli algoritmi nella propria vita servano solo per far quadrare i conti; ma è davvero così?
Dal momento che gli algoritmi sono il nostro pane quotidiano, abbiamo letto per voi Weapons of Math Destruction (2016) di Cathy O’Neil che, oltre alla carriera da matematica, cura anche il blog Mathbabe dicui vi consigliamo la lettura.
Il libro pone uno sguardo critico sul crescente utilizzo che si fa degli algoritmi nella vita di tutti i giorni e di come attraverso gli stessi, si possa cadere vittime di ingiustizie senza nemmeno accorgersene. Grazie ad alcuni esempi riportati nel libro, in quest’articolo vogliamo spiegarvi perché riteniamo che sia necessaria una responsabilità morale nella creazione e applicazione degli algoritmi. Inoltre, vogliamo spiegarvi come proteggere voi stessi e i vostri dati.
Che vantaggio abbiamo dallo studio e applicazione della matematica?
Dopo la lettura di quest’articolo o dell’intero libro inizierete a considerare la matematica sotto una nuova luce. L’enorme mole di dati che tutti i giorni è elaborata dai nostri dispositivi e proveniente da internet e, i social, ma anche da tutti quei dispositivi interconnessi tra loro e a internet, è poi elaborata in algoritmi che restituiscono dei veri e propri modelli di consumo, di gusti politici ecc.
Se ci pensate bene, gli algoritmi sono davvero ovunque. Guidano le nostre scelte nei supermercati, i nostri acquisti online, ma anche le nostre tendenze politiche e influenzano la nostra vita in generale.
Chi crea gli algoritmi
Gli algoritmi sono creati da matematici, ingegneri e ricercatori al solo scopo di migliorare la nostra vita, ma le applicazioni reali spesso non coincidono con i propositi iniziali dello sviluppo tecnologico.
Quali applicazioni hanno gli algoritmi matematici
Nel suo libro, la dottoressa O’Neil, spiega come gli algoritmi abbiano il potenziale per influenzare il pubblico dei votanti e vengano applicati nella selezione del personale, come nella creazione delle classifiche universitarie. Come vedremo, in tutti questi casi gli algoritmi invece di migliorare la vita delle persone, hanno contribuito a perturbare la democrazia e creare disuguaglianze sociali.
La O’Neil trova una definizione calzante ma allo stesso tempo allarmante per questa relazione tra big data e algoritmi: armi di distruzione (matematica) di massa (in seguito solo AMD).
Nei prossimi esempi vedremo come le AMD contribuiscano ad aumentare le disuguaglianze e la segregazione sociale o razziale, nascondendosi dietro la presunta “neutralità” della matematica. Le AMD hanno potere su larga scala e sono molto insidiose perché i soggetti (ma possiamo proprio parlare di vittime) che entrano in contatto con l’algoritmo, non riescono a capirne nè logica nè struttura. Ecco quindi che la O’Neil inizia a studiare fino a che punto le AMD stiano compromettendo la società americana.
Gli algoritmi matematici e la politica
Che siate o meno amanti della affari pubblici, prestate attenzione agli algoritmi utilizzati per manipolare la conversazione politica, soprattutto in vista delle elezioni. È certo che internet dia un contributo alla vita democratica e alle voci indipendenti. Tuttavia la rete è aperta anche a potenti macchine di propaganda, delle quali, se non si è preparati, si rischia di restarne vittima.
I ricercatori Robert Epstein e Ronald Robertson hanno dimostrato che la rete e i social media possono influenzare le decisioni degli utenti ignari. Se gli utenti sono, per la maggior parte, impreparati a proteggersi da questi algoritmi, i politici sono invece ben consapevoli del loro potere e li utilizzano per raccogliere voti. È il caso delle elezioni americane del 2012, durante le quali Obama, utilizzò un team di analisti che dopo aver intervistato migliaia di elettori, si servì delle loro risposte per creare profili matematici. Questi profili sono stati poi utilizzati per trovare persone simili nei database nazionali.
Una volta raggruppate le persone con dati simili, gli analisti potevano creare algoritmi che mostrassero a determinati gruppi, annunci e notizie che avrebbero attirato i loro gusti e modificato la loro percezione politica e la loro intenzione di voto.
Gli algoritmi matematici e la selezione del personale
Non c’è scelta più soggettiva che la selezione del personale. Quante volte lo avete pensato? Proprio per questo motivo si è deciso di servirsi degli algoritmi per creare più equità in un settore soggetto a molta disuguaglianza.
Sebbene da un lato gli algoritmi matematici facilitino il processo di selezione tra centinaia di profili, anche il mercato del lavoro ne è ingiustamente influenzato. Nel suo libro, la dottoressa O’Neil, ci spiega come in alcuni casi gli algoritmi siano troppo restrittivi, soprattutto per chi ha affrontato malattie o fatto scelte nella vita, ritenute non in linea con i valori aziendali.
È questo il caso di Kyle Behm. Kyle abbandonò l’università per curare il suo disturbo bipolare, ma una volta guarito, quando iniziò a cercare un lavoro part-time, gli algoritmi gli lo resero impossibile. A causa dei suoi precedenti problemi di salute, in ogni richiesta di lavoro fatta, l’algoritmo lo segnalava sempre come “probabile a sottoperformare”, impedendogli, di fatto, di lavorare e condurre una vita normale.
Uno studio recente ha rilevato che i risultati del test sono scarsamente correlati con le prestazioni lavorativ . Allora perchè vengono usati per semplificare in modo drastico i tempi di valutazioni di un grande numero di curriculum, a che prezzo?
Ricordiamoci allora di qualche persona bipolare della storia: Michelangelo Buonarroti, Winston Churchill, Ludwig Van Beethoven.
Gli algoritmi matematici e le classifiche universitarie
Le università Statunitensi non sono sempre state così costose. Oggi, chi si iscrive all’università, deve far fronte a spese davvero ingenti e spesso richiede prestiti e apre dei mutui che ripagherà una volta trovato un lavoro.
Tuttavia, le tasse delle università americane non sono sempre state così alte. Il vertiginoso aumento della quota per l’istruzione è dovuto all’US News e World Report. Il giornale, negli anni ’80 iniziò a utilizzare un algoritmo che classificava la qualità delle università americane utilizzando i dati che ritenevano, avrebbero determinato il loro successo, come i punteggi SAT e i tassi di accettazione.
La classifica ovviamente aveva l’unico scopo di segnalare le università migliori e spronare le peggiori a raggiungere gli standard delle prime in classifica.
Per quanto l’intento del giornale fosse nobile, fu questo a dare il via all’aumento delle tasse universitarie del 500% dall’1985 al 2013. Ogni università, infatti, per migliorare la sua posizione in classifica aveva necessità di fare investimenti e quindi aveva bisogno di denaro, che fu chiesto anche agli studenti aumentando di anno in anno i contributi per gli studi.
Il danno più grande creato dall’algoritmo di US News, però, non fu la classifica in sé, ma soprattutto le voci indicate nella classifica e nello specifico il “tasso di accettazione”. Un numero chiuso, infatti, è più attraente di un’università aperta a tutti e una scuola che accetta solo pochi studenti l’anno diventa addirittura prestigiosa.
Il tasso di accettazione scardinò completamente il concetto di “scuola di ripiego”, cioè un’università indicata dagli studenti come seconda scelta, specialmente in quei casi in cui si stesse provando ad accedere ad Harvard, Yale ecc.
L’ US News assegnò, infatti, alle scuole con un tasso di accettazione inferiore una posizione migliore nelle classifiche. Le “scuole di ripiego”, quindi, iniziarono a non fare più attività di marketing sugli studenti meritevoli di fascia A, perchè probabilmente li avrebbero scelti, creando principalmente due danni:
- gli studenti che stanno tentando di entrare nelle università più prestigiose vedono sfumare il loro piano B. Se il piano A fallisce non avranno accesso a nessuna istruzione;
- le università con posizioni peggiori in classifica restano tali perché non portano talenti ai loro atenei. Di fatto non fanno più promozione sugli studenti di fascia A perchè non fanno più parte del loro mercato target.
Cosa impariamo da questi esempi e dalla lettura del libro?
Gli algoritmi inizialmente sono stati creati per essere neutrali e giusti, evitando i pregiudizi e la logica spesso personale del pensiero umano. In un mondo perfetto gli algoritmi potevano evitare scelte dettate dai sentimenti o dalle affinità personali e aumentare la meritocrazia, in tutti i campi.
Tuttavia, molti degli algoritmi utilizzati oggi, dalle classifiche universitarie alla selezione del personale, hanno incorporato i pregiudizi e le idee sbagliate dei loro progettisti.
E poiché questi algoritmi operano su vasta scala, questi pregiudizi portano a milioni di decisioni ingiuste. Noi tutti diventiamo quindi potenzialmente vittime di queste scelte ingiuste.
Come proteggersi allora dagli algoritmi?
Non è facile sfuggire alla logica degli algoritmi matematici, ci vuole una maggior responsabilità verso chi scrive gli algoritmi e vanno fissati dei limiti alle decisioni che questi algoritmi possono prendere, in maniera ancora maggiore quando si tratta di dare giudizi sulla moralità delle persone o sulla loro estrazione socio-culturale.
È, a nostro avviso, necessario sviluppare un nuovo senso critico su questo aspetto e forse è il caso di passare al vaglio gli algoritmi più critici, verificando diligentemente i risultati che portano.
Servirebbe, forse, una certificazione della qualità degli algoritmi prodotti, vista l’importanza che queste tematiche rivestono ormai nella vita delle persone tutti i giorni.
Il libro di Cathy O’Neill, ci invita a conoscere e considerare in modo critico gli algoritmi e le loro applicazioni, per poterli usare in modo onesto e legittimo. Infatti circa gli algoritmi che hanno preso derive pericolose il monito del libro è il seguente:
“…Con la falsa promessa di efficienza ed equità le AMD distorcono il sistema universitario, favoriscono la crescita del debito, stimolano le carcerazioni, blandiscono i poveri con false promesse, mettono a repentaglio la democrazia…la risposta più logica dovrebbe essere quella di smontare le AMD una ad una…” (O’Neil, 2016 p.199).
