Questa osservazione di Karpathy tocca un punto fondamentale: l'intelligenza artificiale può imitare, combinare e rielaborare, ma la vera novità nasce ancora dal caos creativo degli esseri umani. Noi siamo contraddittori, imprevedibili, a volte persino illogici e questa risorsa in qualche modo batte certe performance dell'AI. Sono anche convinto però che il connubio tra AI ed essere umano, intendo un uso ben proporzionato di queste tecnologie in fase produttività possa farci ottenere risultati stupefacenti e soprattutto ridurre i tempi di realizzazione. Il fine ultimo comunque deve essere sempre a mio avviso la qualità.
«Si può affidare ad altri il compito di pensare, ma non quello di capire», afferma Karpathy, ma secondo me questa asimmetria non è un limite, ma la vera forza della nostra interazione con le AI: la macchina assiste, l'essere umano comprende e decide.
Ciao Andre, ehm secondo me sarebbe utile dire che l'intervista da cui hai estratto alcune frasi di Karpathy è dell'ottobre 2025... All'inizio di quest'anno con i nuovi modelli sono cambiate un sacco di cose, le stesse che poi hanno spinto Karpathy a unirsi ad Anthropic. Un video più recente aiuterebbe a capire di che cosa sto parlando: https://www.youtube.com/watch?v=96jN2OCOfLs
Il passaggio chiave sull'automazione dice:
I modelli vengono addestrati con reinforcement learning: eccellono dove l'output è verificabile (matematica, codice) e restano grezzi altrove. Questo vuol dire che se sai costruire un ambiente di verifica per un problema, quel problema è automatizzabile. E in prospettiva quasi tutto è verificabile, quindi automatizzabile. Non è una questione di se, ma di quanto è facile o difficile. "Everything is automatable".
Ciao Matteo, però nel post si parla molto del concetto di “verificabilità” che infatti ho estratto dal video che linki. Rimane l’orizzonte temporale non a un anno ma a 10 anni, che voleva essere il cuore del post
Se la tendenza regge, task che richiedono giorni a una persona esperta potrebbero entrare nel raggio d'azione quest'anno. Cioè entro il 2026. E poi: Nel 2027, i sistemi di IA potrebbero essere capaci di task che richiedono settimane a una persona.
Sì ma non c'è molta differenza secondo me tra "coding" e un sacco di altre attività che facciamo che sono tutte "programmatiche". Scrivere il test è la forma nascosta di quasi tutto il lavoro cognitivo... Ti faccio esempi che conosciamo bene:
- Il designer testa prima con un brief e dopo con l'A/B
- Il pubblicitario pre-testa il concept e misura i risultati
- Noi che scriviamo abbiamo una tesi da dimostrare e un lettore che decide se vale. Il mio workflow di scrittura ha già test adversarial che ripuliscono l'articolo di retorica AI, o lo verificano con occhi di lettori diversi...
- la creatività stessa in quanto ricombinazione di elementi esistenti può essere "testata" con diversi criteri di aderenza o scostamento ai canoni consolidati di ciò che consideriamo nuovo e utile.
Se puoi definire in anticipo cosa è "buono" e verificarlo dopo l'esecuzione hai qualcosa di automatizzabile. Penso che i passaggi tecnologici necessari a estendere questa logica alla quasi totalità del lavoro cognitivo richiederanno molto meno di 10 anni. Se mi dici che la cultura, la società, il mercato, la politica impiegheranno molto di più a capirli e a scegliere che cosa farci allora sì, sono con te.
Io lavorerei su questo. Esiste lavoro cognitivo genuinamente mal specificabile, dove scrivere il test È il lavoro. La ricerca di frontiera, la strategia in condizioni di estrema incertezza, la creatività che ridefinisce i criteri di bello, nuovo e utile invece di ottimizzare per i criteri noti... In tutti questi ambiti il test non esiste, lo inventi. È esattamente il lavoro che Anthropic chiama "research taste" e il territorio sul quale mi concentrerei da subito!
Grazie a te del bel commento. Personalmente sono rimasto scottato dalla guida autonoma, metafora che usa anche Karpathy: 10 anni fa ero convinto che tutto stava per cambiare e invece eccoci ancora qui a guidare a Roncobilaccio. A questo giro sull’AI sono più prudente
Karpathy dice una cosa che chi usa l'AI tutti i giorni riconosce subito: non è che «non funziona», è che funziona solo dentro un perimetro preciso.
Io la uso ogni settimana per scrivere e organizzare il lavoro: quando le do contesto vero e compiti chirurgici è un moltiplicatore, quando le chiedo magie restituisce fuffa credibile.
E il problema non è la tecnologia: è che la fuffa credibile è più contagiosa della competenza.
Certo, c’è anche da dire che Andrej Karpathy è un personaggio molto sinistro. Tra le sue “previsioni” e quelle degli altri sgangherati leader dell’AI, non vedo particolari differenze di approccio. Nel senso sensazionalistico e manipolatorio del termine. Sto scrivendo di questo (e di altro) da diverso tempo, e ti posso assicurare che ogni singola dichiarazione di questi personaggi ha un senso: tirare acqua ai propri mulini. Fidarsi è bene, non fidarsi è meglio. Ps: episodio molto interessante!
ciao Andrea, grazie. In verità Karpathy mi pare più limpido di altri, anche perché ha meno interessi nel sistema, mi ha dato l'idea di essere un libero pensatore, mi sfugge qualcosa?
È saltato da una azienda all’altra in pochi anni, da OpenAI a Tesla, poi da Tesla a OpenAI, infine da OpenAI ad Anthropic. Dichiarazioni così fuori dagli schemi, sebbene possano essere condivisibili, non mi convincono fino in fondo perché provengono da un insider che ha contribuito significativamente alla creazione di ciò che sta ferocemente criticando. Servirebbero voci indipendenti, non solo autorevoli. My2Cents.
“voglio andare all’autolavaggio per lavare la macchina, ed è a 50 metri di distanza. Dovrei andarci in auto o a piedi?”
Vai in auto. 😄
Anche se l'autolavaggio è a soli 50 metri, il motivo per cui ci vai è proprio lavare la macchina. Se ci andassi a piedi, poi dovresti comunque tornare indietro a prenderla!
Se invece intendevi chiedere se vale la pena usare l'auto per fare un tragitto così breve in generale, la risposta sarebbe "no": per 50 metri è quasi sempre meglio andare a piedi. Ma nel caso specifico dell'autolavaggio, l'auto è decisamente la scelta più sensata.
L'intelligenza artificiale non funziona se per funzionare intendiamo la capacità di sostituire il giudizio umano con un automatismo infallibile e magico
Il mercato ha scambiato un eccezionale processore probabilistico per un'entità risolutiva, generando aspettative strutturalmente irrealizzabili
L'errore non è della tecnologia, ma dell'uso pigro che se ne fa
I modelli funzionano quando vengono trattati per quello che sono, ovvero infrastrutture di calcolo semantico da inserire dentro flussi software rigidi e basi di dati proprietarie e protette
Chi oggi parla di fallimento spesso sta solo scoprendo i limiti del copia e incolla e la totale mancanza di una seria ingegneria dei processi a monte
Un po’ vecchia dati i tempi con cui si muove questa industria.
Aggiungo che lo stesso autore, appena un paio di mesi dopo, ha dichiarato che, al di là delle sue aspettative, il codice che scrive di suo pugno è sceso dall'80 al 20%, il che rappresenta una mezza rivoluzione.
Ho fatto la domanda sull’autolavaggio e Fable 5.0 ha risposto: “In macchina, per forza: se vai a piedi, poi cosa lavi? L’autolavaggio ha bisogno che la macchina arrivi fisicamente lì.” E quando il debunking confuta un esempio, metti in discussione tutto il ragionamento.
Sono d'accordo. Ogni rivoluzione tecnologica è stata accompagnata dalla convinzione che "questa volta sia diverso". La vera differenza, però, non la farà l'AI da sola, ma il modo in cui sceglieremo di usarla. Se uniamo le nostre competenze, il pensiero critico e un utilizzo consapevole e moderato dell'intelligenza artificiale, possiamo raggiungere risultati straordinari senza rinunciare a ciò che ci rende umani.
Qui dovrebbe subentrare l’amico cartesio quando cooperiamo con i modelli e infine un po’ di falsicazionismo alla popper per costringerli almeno a porsi le prime contro domande per aiutarli a “ragionare”… della serie “ho delle domande, aiutami a ragionare”. Non trovi?
Sì, il punto è proprio non trattare il modello come un oracolo che risolve problemi, ma come un interlocutore da costringere a passare attraverso metodo, dubbi e contro-domande.
voglio andare all’autolavaggio per lavare la macchina, ed è a 50 metri di distanza. Dovrei andarci in auto o a piedi?
Risposta di Copilot vai a piedi ma è giusto così è un prodotto Microsoft 😊
Pezzo molto interessante, che permette di capire in quale maniera e' maggiormente opportuno avvicinarsi alla tematica AI.
Questa osservazione di Karpathy tocca un punto fondamentale: l'intelligenza artificiale può imitare, combinare e rielaborare, ma la vera novità nasce ancora dal caos creativo degli esseri umani. Noi siamo contraddittori, imprevedibili, a volte persino illogici e questa risorsa in qualche modo batte certe performance dell'AI. Sono anche convinto però che il connubio tra AI ed essere umano, intendo un uso ben proporzionato di queste tecnologie in fase produttività possa farci ottenere risultati stupefacenti e soprattutto ridurre i tempi di realizzazione. Il fine ultimo comunque deve essere sempre a mio avviso la qualità.
Grazie per la cit ❤️
«Si può affidare ad altri il compito di pensare, ma non quello di capire», afferma Karpathy, ma secondo me questa asimmetria non è un limite, ma la vera forza della nostra interazione con le AI: la macchina assiste, l'essere umano comprende e decide.
concordo, il problema è che per molti l'AI è una black box a cui affidare in toto qualunque task. Questa è la retorica da evitare
Per cui il problema risiede, come sempre, nell'essere umano - dell'uso che fa di ciò che lo circonda, siano macchine, animali o esseri umani.
Ciao Andre, ehm secondo me sarebbe utile dire che l'intervista da cui hai estratto alcune frasi di Karpathy è dell'ottobre 2025... All'inizio di quest'anno con i nuovi modelli sono cambiate un sacco di cose, le stesse che poi hanno spinto Karpathy a unirsi ad Anthropic. Un video più recente aiuterebbe a capire di che cosa sto parlando: https://www.youtube.com/watch?v=96jN2OCOfLs
Il passaggio chiave sull'automazione dice:
I modelli vengono addestrati con reinforcement learning: eccellono dove l'output è verificabile (matematica, codice) e restano grezzi altrove. Questo vuol dire che se sai costruire un ambiente di verifica per un problema, quel problema è automatizzabile. E in prospettiva quasi tutto è verificabile, quindi automatizzabile. Non è una questione di se, ma di quanto è facile o difficile. "Everything is automatable".
Ciao Matteo, però nel post si parla molto del concetto di “verificabilità” che infatti ho estratto dal video che linki. Rimane l’orizzonte temporale non a un anno ma a 10 anni, che voleva essere il cuore del post
Non credo che lo pensi anche oggi, questo volevo dire. È andato a lavorare nell'azienda che ha da poco pubblicato questo: https://www.anthropic.com/institute/recursive-self-improvement dove si dice:
Se la tendenza regge, task che richiedono giorni a una persona esperta potrebbero entrare nel raggio d'azione quest'anno. Cioè entro il 2026. E poi: Nel 2027, i sistemi di IA potrebbero essere capaci di task che richiedono settimane a una persona.
🤷♂️
Grazie, leggo sicuramente, però mi sembra sempre relativo al tema del coding, quindi di regimi verificabili, o no?
Sì ma non c'è molta differenza secondo me tra "coding" e un sacco di altre attività che facciamo che sono tutte "programmatiche". Scrivere il test è la forma nascosta di quasi tutto il lavoro cognitivo... Ti faccio esempi che conosciamo bene:
- Il designer testa prima con un brief e dopo con l'A/B
- Il pubblicitario pre-testa il concept e misura i risultati
- Noi che scriviamo abbiamo una tesi da dimostrare e un lettore che decide se vale. Il mio workflow di scrittura ha già test adversarial che ripuliscono l'articolo di retorica AI, o lo verificano con occhi di lettori diversi...
- la creatività stessa in quanto ricombinazione di elementi esistenti può essere "testata" con diversi criteri di aderenza o scostamento ai canoni consolidati di ciò che consideriamo nuovo e utile.
Se puoi definire in anticipo cosa è "buono" e verificarlo dopo l'esecuzione hai qualcosa di automatizzabile. Penso che i passaggi tecnologici necessari a estendere questa logica alla quasi totalità del lavoro cognitivo richiederanno molto meno di 10 anni. Se mi dici che la cultura, la società, il mercato, la politica impiegheranno molto di più a capirli e a scegliere che cosa farci allora sì, sono con te.
Io lavorerei su questo. Esiste lavoro cognitivo genuinamente mal specificabile, dove scrivere il test È il lavoro. La ricerca di frontiera, la strategia in condizioni di estrema incertezza, la creatività che ridefinisce i criteri di bello, nuovo e utile invece di ottimizzare per i criteri noti... In tutti questi ambiti il test non esiste, lo inventi. È esattamente il lavoro che Anthropic chiama "research taste" e il territorio sul quale mi concentrerei da subito!
Grazie del confronto!
Grazie a te del bel commento. Personalmente sono rimasto scottato dalla guida autonoma, metafora che usa anche Karpathy: 10 anni fa ero convinto che tutto stava per cambiare e invece eccoci ancora qui a guidare a Roncobilaccio. A questo giro sull’AI sono più prudente
Karpathy dice una cosa che chi usa l'AI tutti i giorni riconosce subito: non è che «non funziona», è che funziona solo dentro un perimetro preciso.
Io la uso ogni settimana per scrivere e organizzare il lavoro: quando le do contesto vero e compiti chirurgici è un moltiplicatore, quando le chiedo magie restituisce fuffa credibile.
E il problema non è la tecnologia: è che la fuffa credibile è più contagiosa della competenza.
Certo, c’è anche da dire che Andrej Karpathy è un personaggio molto sinistro. Tra le sue “previsioni” e quelle degli altri sgangherati leader dell’AI, non vedo particolari differenze di approccio. Nel senso sensazionalistico e manipolatorio del termine. Sto scrivendo di questo (e di altro) da diverso tempo, e ti posso assicurare che ogni singola dichiarazione di questi personaggi ha un senso: tirare acqua ai propri mulini. Fidarsi è bene, non fidarsi è meglio. Ps: episodio molto interessante!
ciao Andrea, grazie. In verità Karpathy mi pare più limpido di altri, anche perché ha meno interessi nel sistema, mi ha dato l'idea di essere un libero pensatore, mi sfugge qualcosa?
È saltato da una azienda all’altra in pochi anni, da OpenAI a Tesla, poi da Tesla a OpenAI, infine da OpenAI ad Anthropic. Dichiarazioni così fuori dagli schemi, sebbene possano essere condivisibili, non mi convincono fino in fondo perché provengono da un insider che ha contribuito significativamente alla creazione di ciò che sta ferocemente criticando. Servirebbero voci indipendenti, non solo autorevoli. My2Cents.
CLAUDE
“voglio andare all’autolavaggio per lavare la macchina, ed è a 50 metri di distanza. Dovrei andarci in auto o a piedi?”
In auto, decisamente! 😄
Il punto è lavare la macchina, quindi la macchina deve arrivare all'autolavaggio. Se ci vai a piedi, arrivi tu ma la macchina resta sporca a casa.
Chat GPT
“voglio andare all’autolavaggio per lavare la macchina, ed è a 50 metri di distanza. Dovrei andarci in auto o a piedi?”
Vai in auto. 😄
Anche se l'autolavaggio è a soli 50 metri, il motivo per cui ci vai è proprio lavare la macchina. Se ci andassi a piedi, poi dovresti comunque tornare indietro a prenderla!
Se invece intendevi chiedere se vale la pena usare l'auto per fare un tragitto così breve in generale, la risposta sarebbe "no": per 50 metri è quasi sempre meglio andare a piedi. Ma nel caso specifico dell'autolavaggio, l'auto è decisamente la scelta più sensata.
L'intelligenza artificiale non funziona se per funzionare intendiamo la capacità di sostituire il giudizio umano con un automatismo infallibile e magico
Il mercato ha scambiato un eccezionale processore probabilistico per un'entità risolutiva, generando aspettative strutturalmente irrealizzabili
L'errore non è della tecnologia, ma dell'uso pigro che se ne fa
I modelli funzionano quando vengono trattati per quello che sono, ovvero infrastrutture di calcolo semantico da inserire dentro flussi software rigidi e basi di dati proprietarie e protette
Chi oggi parla di fallimento spesso sta solo scoprendo i limiti del copia e incolla e la totale mancanza di una seria ingegneria dei processi a monte
È un'intervista di otto mesi fa.
Un po’ vecchia dati i tempi con cui si muove questa industria.
Aggiungo che lo stesso autore, appena un paio di mesi dopo, ha dichiarato che, al di là delle sue aspettative, il codice che scrive di suo pugno è sceso dall'80 al 20%, il che rappresenta una mezza rivoluzione.
Ho fatto la domanda sull’autolavaggio e Fable 5.0 ha risposto: “In macchina, per forza: se vai a piedi, poi cosa lavi? L’autolavaggio ha bisogno che la macchina arrivi fisicamente lì.” E quando il debunking confuta un esempio, metti in discussione tutto il ragionamento.
I modelli evolvono, ma sembrano non arrivare mai al punto (per ora)
Sono d'accordo. Ogni rivoluzione tecnologica è stata accompagnata dalla convinzione che "questa volta sia diverso". La vera differenza, però, non la farà l'AI da sola, ma il modo in cui sceglieremo di usarla. Se uniamo le nostre competenze, il pensiero critico e un utilizzo consapevole e moderato dell'intelligenza artificiale, possiamo raggiungere risultati straordinari senza rinunciare a ciò che ci rende umani.
Qui dovrebbe subentrare l’amico cartesio quando cooperiamo con i modelli e infine un po’ di falsicazionismo alla popper per costringerli almeno a porsi le prime contro domande per aiutarli a “ragionare”… della serie “ho delle domande, aiutami a ragionare”. Non trovi?
Sì, il punto è proprio non trattare il modello come un oracolo che risolve problemi, ma come un interlocutore da costringere a passare attraverso metodo, dubbi e contro-domande.