L’algoritmo è innocente, Facebook e Google no
Lelio Simi
Gli algoritmi stanno diventando
sempre più complessi e complicati, il loro utilizzo si sta espandendo in
settori che fino a poco tempo fa non avremmo mai immaginato potessero essere
“governati” da sistemi di calcolo. La grande paura di algoritmi tanto evoluti
da diventare entità autonome capaci di sopraffare la volontà stessa degli
individui che li hanno generati alimenta studi, analisi, previsioni spesso
apocalittiche.
Nulla di nuovo, si dirà. L’incubo di
macchine così intelligenti da poter sottomettere l’uomo ha radici lontane – la
letteratura di fantascienza lo racconta, spesso mirabilmente, da oltre un
secolo – ma oggi le narrazioni distopiche si sono moltiplicate con il crescente
utilizzo di sistemi sempre più evoluti di intelligenza artificiale. Vi ricordate
la bufala dei due robot progettati nei laboratori di Facebook che avevano
iniziato a parlare tra di loro in una lingua sconosciuta gettando nel panico i
loro stessi programmatori?
In realtà si è trattato di un
esperimento, già noto da tempo, di AI applicata a una chat (non erano robot)
nel quale tutto è sempre stato sotto il più totale controllo dei ricercatori.
Eppure la narrazione terrorizzante
ha prevalso. Con quale risultato? Uno, sicuramente, è poco visibile: questo
genere di storytelling offre una comoda via d’uscita alle aziende tecnologiche
per non farsi carico concretamente delle proprie responsabilità. Quando, ad
esempio, subito dopo la strage di Las Vegas tra i primi risultati delle “top
stories” di Google sono apparsi contenuti dal sito “4chan” – la cui scarsissima
affidabilità è nota – contribuendo in modo determinante a far dilagare notizie
false sulla reale identità dell’attentatore, la giustificazione data da
Mountain View è stata: un semplice difetto dell’algoritmo non prevedibile. Una
spiegazione a cui sempre più spesso ricorrono anche aziende come Facebook o
Uber.
Ma è davvero plausibile che questi
colossi tecnologici, così bravi nello sviluppare algoritmi sempre più
efficienti per perseguire i propri modelli di business, possano sollevarsi
dalle loro responsabilità quando le ricadute sociali di certi avanzamenti sono
negative, dando la colpa alla difficoltà nel gestire i loro stessi sistemi?
È vero che, per l’enorme e
rapidissimo sviluppo delle loro piattaforme, queste stesse aziende si trovano
sovente ad affrontare criticità di carattere sociale o politico per loro del
tutto nuove. Ma dal punto di vista della gestione delle tecnologie, ogni qual
volta hanno presentato dei problemi o dei “bug” che mettevano a serio rischio
la redditività dei loro servizi, le stesse aziende hanno sempre dimostrato di
essere perfettamente in grado di risolverli e correggerli.
Nello storytelling di successo, ogni
“pietra miliare” raggiunta a ogni nuovo bilancio economico è il frutto del
lavoro dei manager e delle loro squadre di ingegneri, mentre gli effetti
negativi causati dalle manipolazioni possibili delle loro piattaforme sono
semplicemente gli inevitabili danni collaterali di una generica complessità
tecnologica.
«È colpa dell’algoritmo», è la nuova
formula magica per giustificare iniquità e disservizi. Nella gestione delle
risorse umane, per esempio, se emergono errori nel valutare il profilo di un
neo laureato o il rendimento di un impiegato di McDonald’s, è colpa della
difficoltà nell’aggiornare con frequenza i codici, ma se si tratta di atleti
delle leghe professionistiche americane o europee costati decine di milioni di
euro, gli algoritmi per valutarne il rendimento non presentano alcun problema
nell’essere continuamente perfezionati. Una deresponsabilizzazione di comodo
che ha contagiato anche società pubbliche e istituzioni: per Trenitalia è
«colpa dell’algoritmo» l’ingiustificato aumento dei prezzi degli abbonamenti
per pendolari; è «colpa dell’algoritmo» per il Miur se nella mobilità dei docenti
scoppia il caos.
The algorithm is innocent ha scritto su “The Outline” William Turton, l’enfant
prodige del giornalismo tecnologico americano. Le scelte e le strategie
aziendali sono un po’ meno innocenti, invece. Dovremmo cominciare seriamente a
pretendere un’altra narrazione sull’evoluzione degli algoritmi più incentrata
sulle reali responsabilità di chi li sviluppa, si arricchisce e li utilizza a
propri fini e meno sulla loro ineluttabile e ingestibile complessità.
Pagina 99, 3 novembre 2017
Nessun commento:
Posta un commento