Gli algoritmi stanno
diventando sempre più complessi e complicati, il loro utilizzo si
sta espandendo in settori che fino a poco tempo fa non avremmo mai
immaginato potessero essere “governati” da sistemi di calcolo. La
grande paura di algoritmi tanto evoluti da diventare entità autonome
capaci di sopraffare la volontà stessa degli individui che li hanno
generati alimenta studi, analisi, previsioni spesso apocalittiche.
Nulla di nuovo, si dirà.
L’incubo di macchine così intelligenti da poter sottomettere
l’uomo ha radici lontane – la letteratura di fantascienza lo
racconta, spesso mirabilmente, da oltre un secolo – ma oggi le
narrazioni distopiche si sono moltiplicate con il crescente utilizzo
di sistemi sempre più evoluti di intelligenza artificiale. Vi
ricordate la bufala dei due robot progettati nei laboratori di
Facebook che avevano iniziato a parlare tra di loro in una lingua
sconosciuta gettando nel panico i loro stessi programmatori?
In realtà si è trattato
di un esperimento, già noto da tempo, di AI applicata a una chat
(non erano robot) nel quale tutto è sempre stato sotto il più
totale controllo dei ricercatori.
Eppure la narrazione
terrorizzante ha prevalso. Con quale risultato? Uno, sicuramente, è
poco visibile: questo genere di storytelling offre una comoda via
d’uscita alle aziende tecnologiche per non farsi carico
concretamente delle proprie responsabilità. Quando, ad esempio,
subito dopo la strage di Las Vegas tra i primi risultati delle “top
stories” di Google sono apparsi contenuti dal sito “4chan” –
la cui scarsissima affidabilità è nota – contribuendo in modo
determinante a far dilagare notizie false sulla reale identità
dell’attentatore, la giustificazione data da Mountain View è
stata: un semplice difetto dell’algoritmo non prevedibile. Una
spiegazione a cui sempre più spesso ricorrono anche aziende come
Facebook o Uber.
Ma è davvero plausibile
che questi colossi tecnologici, così bravi nello sviluppare
algoritmi sempre più efficienti per perseguire i propri modelli di
business, possano sollevarsi dalle loro responsabilità quando le
ricadute sociali di certi avanzamenti sono negative, dando la colpa
alla difficoltà nel gestire i loro stessi sistemi?
È vero che, per l’enorme
e rapidissimo sviluppo delle loro piattaforme, queste stesse aziende
si trovano sovente ad affrontare criticità di carattere sociale o
politico per loro del tutto nuove. Ma dal punto di vista della
gestione delle tecnologie, ogni qual volta hanno presentato dei
problemi o dei “bug” che mettevano a serio rischio la redditività
dei loro servizi, le stesse aziende hanno sempre dimostrato di essere
perfettamente in grado di risolverli e correggerli.
Nello storytelling di
successo, ogni “pietra miliare” raggiunta a ogni nuovo bilancio
economico è il frutto del lavoro dei manager e delle loro squadre di
ingegneri, mentre gli effetti negativi causati dalle manipolazioni
possibili delle loro piattaforme sono semplicemente gli inevitabili
danni collaterali di una generica complessità tecnologica.
«È colpa
dell’algoritmo», è la nuova formula magica per giustificare
iniquità e disservizi. Nella gestione delle risorse umane, per
esempio, se emergono errori nel valutare il profilo di un neo
laureato o il rendimento di un impiegato di McDonald’s, è colpa
della difficoltà nell’aggiornare con frequenza i codici, ma se si
tratta di atleti delle leghe professionistiche americane o europee
costati decine di milioni di euro, gli algoritmi per valutarne il
rendimento non presentano alcun problema nell’essere continuamente
perfezionati. Una deresponsabilizzazione di comodo che ha contagiato
anche società pubbliche e istituzioni: per Trenitalia è «colpa
dell’algoritmo» l’ingiustificato aumento dei prezzi degli
abbonamenti per pendolari; è «colpa dell’algoritmo» per il Miur
se nella mobilità dei docenti scoppia il caos.
The algorithm is
innocent ha scritto su “The Outline” William Turton, l’enfant
prodige del giornalismo tecnologico americano. Le scelte e le
strategie aziendali sono un po’ meno innocenti, invece. Dovremmo
cominciare seriamente a pretendere un’altra narrazione
sull’evoluzione degli algoritmi più incentrata sulle reali
responsabilità di chi li sviluppa, si arricchisce e li utilizza a
propri fini e meno sulla loro ineluttabile e ingestibile complessità.
Pagina 99, 3 novembre
2017
Nessun commento:
Posta un commento