L’era del determinismo incantato

Gli algoritmi sembrano la causa e la soluzione di tutti i nostri problemi. Da un lato spiegano il mondo e dall'altro lo rendono più misterioso

ott 25, 2022

Ciao, mi chiamo Andrea e ho scritto Scrolling Infinito, come creare contenuti per vincere la guerra dell’attenzione. Ogni tanto invio questa newsletter con aggiornamenti sul progetto, sul mondo dei contenuti e della strategia digitale. Se te l’hanno inoltrata e vuoi iscriverti schiaccia il pulsante qui sotto

Il determinismo incantato

Da principio

È il 2015 e Lee Sedol, campione sudcoreano di Go, sta sfidando il suo avversario. Contro di lui gioca AlphaGo, un software basato sulla tecnologia delle reti neurali istruite dal confronto con avversari umani. Sviluppato da Google, AplhaGo batterà lo sfidante in carne ed ossa in un match passato alla storia.

A lasciare il segno non è soltanto l’esito della sfida quanto le modalità dello scontro. Come raccontato dal reporter di Wired che seguì il confronto: “Da oggi le macchine sono capaci di momenti di genio”. Il software vinse infatti eseguendo una serie di mosse del tutto inusuali per qualunque giocatore umano dimostrando una volta per tutte “Gli enormi e misteriosi talenti della moderna intelligenza artificiale”. Forse proprio quel giorno è nato il sentimento che meglio definisce la nostra attuale esistenza digitale: il determinismo incantato.

Di che cosa si tratta

Siamo vittima del determinismo incantato ogni volta che descriviamo il funzionamento di un sistema tecnologico nei termini del sublime, cosa che succede più spesso di quanto vorremmo ammettere. Quando l’algoritmo di TikTok ci mostra esattamente il video che vorremmo vedere. Quando la pubblicità di Meta sembra aver ascoltato la conversazione che abbiamo avuto con un nostro amico. Quando Spotify ci consiglia una canzone di un genere sconosciuto che si sposa perfettamente con la situazione che stiamo vivendo.

A parlare di determinismo incantato sono gli studiosi Alexander Campolo e Kate Krawford autori nel 2020 del paper “Enchanted Determinism: Power without Responsibility in Artificial Intelligence” in cui illustrano il paradosso in cui ci muoviamo. Anche se siamo abituati ad associare il calcolo tecnologico e predittivo a un sentimento di “disincanto”, quando si parla di Deep Learning e Intelligenza Artificiale, le categorie si ribaltano. Incapaci di spiegare il funzionamento di queste tecnologie facciamo ricorso a un discorso di tipo magico dai contorni nebulosi se non addirittura esoterici.

Il problema

Quando il determinismo incantato esce dall’ambito dei consumi culturali (i già citati TikTok, Netflix e Spotify) e si applica a mondi come quello della sanità o della giustizia diventa difficile accettare il rischio di perdere il controllo e non comprenderne le decisioni e il meccanismo dell’algoritmo. Le macchine partono da un addestramento umano che ne stabilisce i parametri iniziali con tutti i pregiudizi del caso. All’intelligenza artificiale non rimane che applicare le conseguenze del ragionamento iniziale in maniera precisa, implacabile ma spesso inesplicabile.

Ad esempio in ambito medico l’intelligenza artificiale ha già dimostrato la sua efficacia nelle analisi delle immagini di radiologia. Cosa accade però se i dati su cui si basa un algoritmo di questo tipo non tengono conto delle differenze etniche o sociali dei malati? In un report del 2021 l’Organizzazione Mondiale della Sanità ha già messo in guardia dagli errori che potrebbero emergere se l’algoritmo fosse basato esclusivamente su dati provenienti da pazienti da un ceto medio-alto. Chi sarebbe responsabile per una negligenza del genere?

Le possibili aberrazioni in cui incappare sono infinite e c’è già chi si è premurato di elencarle. La storia è quella dell’Apprendista stregone che per risolvere i propri guai decide di utilizzare un incantesimo che sfugge al suo controllo. Il genio è uscito dalla lampada e nessuno riesce a farlo tornare al suo posto.

Un concetto fondamentale

Il determinismo incantato descrive esattamente il difetto dell’uomo che cerca di risolvere il mistero della conoscenza per poi abbandonarsi ad esso. L’intelligenza artificiale con la sua enorme capacità di calcolo promette di illuminare qualunque angolo dello scibile. D’altra parte il tono ottimistico ed esaltatorio che accompagna la conversazione attorno questo tipo di tecnologie le caratterizza come capaci di trascendere le abilità umane, ponendosi al di sopra anche in termini di responsabilità.

Ricordate la celebre battuta dei Simpson in cui Homer esclama “Alcol: la causa e la soluzione a tutti i problemi della vita!”. La stessa cosa succede quando si parla di algoritmi, intelligenza artificiale e Deep Learning. Se per qualcuno queste tecnologie promettono la soluzione a qualunque tipo di problema, per altri le stesse sono alla base del logoramento di ogni categoria esistente, dall’economia alla politica, indipendentemente dalle azioni dell’uomo. Ad accomunare le due posizioni c’è la tentazione di trovare nell’intelligenza artificiale l’unica forza rilevante della nostra esistenza, un mondo in cui la volontà umana risulta impotente.

Perché se ne parla ora

Non è un caso che si discuta di determinismo incantato in un momento in cui i cosiddetti Recommendation Media (TikTok in primis, ma tutti stanno seguendo il suo esempio) ci circondano da ogni lato. In questo genere di piattaforme i contenuti non sono distribuiti attraverso Social Graph disegnati da una rete di amicizie e contatti ma soltanto da una logica algoritmica opaca, una vera e propria scatola nera pensata per massimizzare l'engagement.

Concetti come la reputazione o la popolarità perdono di importanza e le piattaforme diventano slot machine in cui ad ogni tiro di leva si riparte da zero. Ogni contenuto postato gareggia ad armi pari con quello degli altri iscritti, intanto al banco, imperscrutabile nella sua tunica da stregone, siede proprio lui: sua maestà l’algoritmo.

Vediamoci per parlare di contenuti

Se ti interessa approfondire i temi di Scrolling Infinito e organizzare una presentazione per parlare di Content e strategia nella tua agenzia, azienda o scuola scrivimi a andrea.girolami@tiscali.it (mail vintage, lo so) e ne parliamo.

Ho già avuto il piacere di presentare Scrolling Infinito tra gli altri in agenzie come Sketchin, Gummy Industries, Imille, Undesign o scuole come IULM, INCOM Università di Bologna, ALMED Università Cattolica e Master Publitalia.

Segnalibri

Che cos’è l’ansia algoritmica e perché la tecnologia è diventata un parafulmine per tutti i nostri problemi.

L’articolo a firma Priscilla de Pace che mi ha fatto scoprire il concetto di determinismo incantato.

I CEO delle aziende tecnologiche sono la versione moderna degli antichi sciamani. Una bella indagine di Wired US.

Per la Gen Z cercare le cose su TikTok è più divertente che farlo su Google. E hanno ragione.

E se le piattaforme ci aiutassero a incontrare chi la pensa diversamente da noi invece che il contrario? Quello degli stereotipi sui danni della tecnologia è un tema che vorrei approfondire in futuro.

P.S. l’immagine d’anteprima del post è stata realizzata utilizzando Dall-E