“L’AI non funziona, ma nessuno vuole dirlo”
Andrej Karpathy non è un critico dell’intelligenza artificiale. È uno dei suoi protagonisti. Proprio per questo vale la pena ascoltarlo.
“In generale i modelli non sono ancora pronti”, a dirlo è Andrej Karpathy, intervistato dal podcaster Dwarkesh Patel, che continua: “Ho la sensazione che l’industria stia facendo un salto troppo grande facendo finta che questa cosa sia straordinaria. Ma non lo è. È slop”.
Ma chi diavolo è Andrej Karpathy?
Quando qualcuno cambia lavoro gli unici a interessarsene sono i familiari o gli amici più stretti. Se qualcuno ha un ruolo importante la notizia è pubblicata da qualche magazine B2B ma nulla di più.
Quando Andrej Karpathy è entrato nella squadra di Anthropic il tweet del suo annuncio ha avuto 29 milioni di visualizzazioni e più di ottomila risposte.
Karpathy non ha ancora 40 anni, ma per raccontare la sua storia servirebbe un libro. È stato tra i fondatori di OpenAI, è passato poi a Tesla contribuendo in modo decisivo al lancio del suo sistema di guida automatica. Ha coniato la definizione di Vibe Coding, la pratica di programmare utilizzando tool di intelligenza artificiale. Da anni è uno dei principali divulgatori attorno ai temi dell’AI, anche attraverso un canale YouTube da milioni di visualizzazioni.
Proprio perché ha costruito alcuni dei sistemi che oggi critica, il suo scetticismo non nasce da un rifiuto ideologico, ma dall’esperienza diretta dei limiti tecnici. Le sue opinioni riguardo all’intelligenza artificiale sono spesso controintuitive e aprono squarci su quello che sarà il futuro di questa tecnologia dando informazioni fondamentali per chiunque investa il proprio tempo e denaro con la tecnologia.
In questo post, attraverso le parole di Andrej Karpathy e alcuni dei pensatori più autorevoli al mondo dell’intelligenza artificiale, cercheremo di capire se siamo in una bolla e se davvero questa tecnologia che promette di cambiare ogni cosa è in grado di mantenere le sue promesse.
📣 Raggiungi più di 25.000 decision maker nel marketing e media. Guarda dati, audience e formati disponibili, rispondi a questa mail e parliamone.
Non siamo così vicini come sembra
“L’industria non sta facendo i conti con la realtà, forse stanno cercando di raccogliere fondi o qualcosa del genere. Non so cosa stia succedendo, ma siamo in una fase intermedia. I modelli non sono ancora arrivati dove dovrebbero essere”.
In molti dicono che il 2027 sarà l’anno degli agenti AI ma secondo Karpathy la finestra di tempo perché questa tecnologia diventi davvero utile è molto più lunga: “sarà il decennio degli agenti, questo è il tempo che ci vorrà per risolvere tutti i problemi di questa tecnologia”.
Spesso pensiamo che l’evoluzione tecnologica proceda in modo lineare quando invece si tratta di un’alternanza tra accelerazioni e frenate. Pensate alla guida autonoma, sono quasi due decenni che se ne parla, eppure ancora non è entrata nella nostra vita di tutti i giorni. Le vetture di Waymo, controllata da Alphabet, continuano ad aumentare ma sono libere di circolare in tracciati circoscritti. Quella di Tesla, a cui lo stesso Karpathy ha collaborato, non si può neanche definire del tutto autonoma perché è sempre necessaria la presenza di un umano a controllare l’operato dell’AI, sia nelle vetture private che nei suoi robotaxi.
Arrivare al 90% dello sviluppo di un’idea è relativamente facile, ma è l’ultimo 10% lo scoglio che rischia di richiedere molto più tempo, senza neppure garantire un esito certo.
“Ho fatto delle consulenze sull’intelligenza artificiale nel campo della computer vision” racconta Karpathy “Molte volte, il valore che portavo all’azienda consisteva nel dire loro di non usare l’AI. Ero io l’esperto, loro mi descrivevano il problema e io rispondevo: ‘Non usate l’AI’. Questo è il mio valore aggiunto“.
👉 In pratica: Questo ci mette in guardia da una tentazione molto comune per chi lavora con contenuti, brand e community: rimandare una decisione aspettando che l’AI diventi finalmente pronta. C’è un workflow, uno strumento o un processo che stai tenendo sospeso perché “l’AI lo risolverà presto”? Decidi oggi con quello che esiste adesso. I comunicati stampa delle aziende tech non sono un piano editoriale.
Intelligenza frastagliata
Secondo Karpathy gli LLM a nostra disposizione somigliano al “Rain Man” interpretato da Dustin Hoffman: hanno una memoria incredibile ma una scarsa capacità di ragionamento.
“Fate questa prova, chiedete al chatbot: voglio andare all’autolavaggio per lavare la macchina, ed è a 50 metri di distanza. Dovrei andarci in auto o a piedi? I modelli più all’avanguardia ti diranno di andarci a piedi perché è molto vicino”.
Per Karpathy quella degli LLM è una “intelligenza frastagliata”, molto discontinua. Le sue capacità dipendono dalla qualità dei dati usati per l’addestramento. Se interrogate il chatbot in domini in cui è stato addestrato avrete una risposta efficiente e veloce, ma se uscite da determinati argomenti tutto diventa molto farraginoso.
Anche se ci rivolgiamo ai chatbot come a dei collaboratori umani questi rimangono delle macchine. Per spiegare questa differenza Karpathy ha coniato un’altra delle metafore per cui è diventato celebre.
Secondo il ricercatore quando sviluppiamo progetti con l’AI “non stiamo allevando animali, stiamo piuttosto evocando degli spettri”. “L’AI non lavora meglio se le urliamo contro, come potrebbe fare un animale addestrato”, alla base dello sviluppo degli LLM non c’è un processo evolutivo, ma un meccanismo di imitazione. “Sono entità interamente digitali e imitano gli umani ma hanno un’intelligenza diversa da quella degli esseri viventi, la loro è fatta con reinforcement learning”.
Per questo l’AI somiglia ad un fantasma condannato a imitare i pensieri dell’uomo per l’eternità, rischiando però di non comprenderli mai per davvero.
👉 In pratica: Pensa a tre task in cui usi l’AI ogni settimana. Su quanti sei davvero soddisfatto del risultato? Se la risposta è “uno” o “nessuno”, il problema non è l’AI: è che la stai usando sui task sbagliati.
Chi perderà il lavoro
“Quando chiediamo a ChatGPT di dirci una cosa buffa spesso finisce per ripetere sempre le solite tre battute”, dice Karpathy. Per questo “Se addestrassimo i modelli LLM solo con altri dati sintetici questi, piano piano, finirebbero per collassare”. Il motivo è nella mancanza di varietà degli input. I dati generati dagli umani sono più rumorosi, ma anche più vari e originali, mentre quelli dell’AI tendono ad omologarsi molto velocemente, impedendo all’LLM di progredire.
Quando facciamo una domanda ad un bambino spesso la risposta non è quella che ci aspettiamo, ma è più originale e sorprendente della media. Crescendo, in un certo senso, collassiamo anche noi: diventiamo più prevedibili, più educati, più medi. Per questo l’evoluzione è così efficiente: perché ci permette di partire da un livello di caos più alto a cui l’AI non ha accesso.
Se l’AI tende a produrre risposte ottimizzate per la media e per ciò che può essere verificato, il valore si sposta su chi sa scegliere direzione, tono e criteri quando non esiste una risposta oggettivamente giusta. Per questo tutte le qualità che l’intelligenza artificiale fa più fatica a sviluppare, proprio perché dipendono dalla capacità di sorprendere, diventeranno più preziose: il senso estetico, il gusto, la capacità di lavorare con il design. Gli umani rimarranno importanti in quanto “responsabili del progetto”: le persone che garantiscono gli obiettivi, la condotta e la riuscita del lavoro. Una parte crescente dell’esecuzione potrà essere delegata alle macchine.
Secondo Karpathy “tutto ciò che è verificabile sarà automatizzato”. L’AI è essenzialmente una tecnologia probabilistica, tira ad indovinare un risultato dopo l’altro, e in alcuni ambiti è più facile capire se il tentativo è andato a segno o meno.
Alcuni task più semplici, o in ambienti controllati, saranno i primi ad essere automatizzati. Subito dopo seguiranno quelli legati all’ambito della matematica e del coding. Ma la verità è che, secondo Karpathy, “tutto sarà verificabile in qualche modo”.
👉 In pratica: Scegli tre momenti del tuo lavoro in cui non esiste una risposta oggettivamente giusta. Per esempio: scegliere il taglio di un contenuto, approvare una campagna, scartare un’idea. In questi casi l’AI può aiutarti a produrre alternative, ma non può scegliere al posto tuo. È qui che entrano in gioco gusto, giudizio e responsabilità.
La verità sull’intelligenza artificiale
Per le conclusioni finali ci facciamo aiutare da un altro dei più brillanti analisti tecnologici del mondo: Benedict Evans che ogni sei mesi pubblica una lunga e approfondita presentazione proprio sul tema dell’intelligenza artificiale.
Secondo i dati presentati da Evans l’AI è ancora una cosa per pochi: negli Stati Uniti poco più del 10% degli adulti la utilizza quotidianamente, per quasi tutti gli altri è una tecnologia a cui si accede in maniera settimanale o episodica.
L’altro grande mito da sfatare riguardo l’AI è il tormentone per cui “non è mai successo niente di simile nella storia dell’umanità”, che ricorre ogni volta che assistiamo ad un cambio di paradigma. È successo con l’arrivo di internet, della tecnologia mobile e degli smartphone, ma anche molto prima.
Oggi si parla dell’AI come di una schiera di stagisti infiniti ma anche quando IBM presentò il suo primo mainframe, erano gli anni ‘50, lo pubblicizzava garantendo la forza di “150 ingegneri”.
Il nostro vantaggio strategico sta nel pensare all’intelligenza artificiale togliendole di dosso la retorica. Quando spariscono le promesse, le demo spettacolari e le slide sul futuro del lavoro, resta una cosa più semplice: uno strumento ancora incompleto, molto utile per alcuni compiti, ma lontano dal poterci sostituire davvero.
È il solito Andrej Karpathy a trovare la frase giusta per chiudere la discussione, quella che possiamo scrivere su un post-it da lasciare accanto al laptop: “You can outsource thinking but not understanding“.
Se hai trovato questo post interessante, leggi anche:
📺 Guarda la Creator Masterclass di Marcello Ascani
Con Marcello abbiamo parlato di:
Cosa resta davvero di 1M€ di fatturato da creator
Perché YouTube pesa meno di quanto immaginiamo
La checklist per monetizzare partendo da zero
I suoi consigli per Chiara Ferragni
Come diventare ricchi senza farsi divorare dal lavoro
Guarda tutte le Creator Masterclass.
📚 Segnalibri
Quanti creator guadagnano davvero?
Settimana scorsa ho messo assieme i numeri della creator economy che nessuno mostra.Thomas Bangalter: io, ex robot
Il bilancio di uno dei musicisti più influenti degli ultimi decenni.Quattro minori di 16 anni su cinque in Australia utilizzano i social media nonostante il divieto
Sorpresa: vietare l’uso di smartphone non funziona. Io ne ho scritto qui.Raffaele Giuliani e la trappola della purezza
Il doppio standard che si usa per creator e influencer.L’uomo che ha reso Padre Pio un’icona
Una storia di santi e fotografi di provincia.La barriera della lingua sta per cadere su YouTube
Sta per succedere qualcosa di grosso nella creator economy.
Aiutami a migliorare Scrolling Infinito
Ho creato un breve sondaggio anonimo per capire come migliorare la newsletter. Se ti va rispondi a poche domande cliccando il tasto qui sotto, il tuo feedback è molto prezioso.
Pezzo molto interessante, che permette di capire in quale maniera e' maggiormente opportuno avvicinarsi alla tematica AI.
Questa osservazione di Karpathy tocca un punto fondamentale: l'intelligenza artificiale può imitare, combinare e rielaborare, ma la vera novità nasce ancora dal caos creativo degli esseri umani. Noi siamo contraddittori, imprevedibili, a volte persino illogici e questa risorsa in qualche modo batte certe performance dell'AI. Sono anche convinto però che il connubio tra AI ed essere umano, intendo un uso ben proporzionato di queste tecnologie in fase produttività possa farci ottenere risultati stupefacenti e soprattutto ridurre i tempi di realizzazione. Il fine ultimo comunque deve essere sempre a mio avviso la qualità.