Peter J. Denning, Ted G. Lewis*
L’intelligenza artificiale è intelligente? Un’analisi semplice quanto efficace classifica le macchine AI in base alla capacità di apprendimento, mostrando che nessuna è intelligente. Tuttavia questo non chiude la questione, come dovrebbe, perché si sta facendo strada l’idea di un “modello di progresso”
L’intelligenza artificiale è intelligente? E dunque le macchine AI a cui sempre più velocemente iniziamo ad affidarci, sono intelligenti? L’analisi che qui pubblichiamo affronta la questione in un modo tanto semplice quanto efficace: imposta una classificazione della tecnologia AI in base alla capacità di apprendimento, dal livello 0 al livello 7. Il risultato “mostra che nessuna delle macchine finora costruite ha alcuna intelligenza, il che porta all’intrigante possibilità che l’intelligenza umana non sia computabile”. Tuttavia, questo non chiude la questione, come dovrebbe. Si sta facendo strada l’idea di un “modello di progresso”: man mano che le macchine acquisiscono capacità di apprendimento, si avvicinano all’Intelligenza Artificiale Generale (AGI). È un modello su quattro livelli, ripreso e fatto proprio da OpenAI e, di fatto, già in atto in alcuni contesti. Stiamo andando alla deriva, concludono i due autori, “verso una nuova singolarità: la sottomissione degli umani a reti di macchine poco intelligenti e indifferenti. Ben prima che la Singolarità di Kurzweil unisca gli umani con le macchine nel 2045”.
L’intelligenza artificiale (AI) ha avuto successo in numerosi ambiti, tra cui il riconoscimento vocale, la classificazione automatica, la traduzione linguistica, gli scacchi, il Go, il riconoscimento facciale, la diagnosi delle malattie, la scoperta di farmaci, le auto senza conducente, i droni autonomi e, più di recente, i chatbot linguisticamente competenti. Tuttavia, nessuna di queste macchine è minimamente intelligente e molte di quelle più recenti non sono affidabili. Aziende e governi stanno utilizzando macchine AI in un numero crescente di applicazioni sensibili e critiche, senza essere in grado di sapere quando ci si può fidare di quelle macchine.
Fin dagli inizi, l’ambito dell’intelligenza artificiale è stato afflitto da clamore. Molti ricercatori e sviluppatori erano così entusiasti delle possibilità, che hanno promesso più del dovuto. Gli investitori disillusi si sono tirati indietro due volte durante due ‘inverni AI”. Con l’arrivo dei grandi modelli linguistici (LLM), il clamore ha raggiunto nuove vette e ha spinto un’enorme ondata di investimenti speculativi nelle aziende di intelligenza artificiale. I consulenti finanziari stanno mettendo in guardia da una bolla legata alla AI. Molti ricercatori di intelligenza artificiale hanno espresso preoccupazioni sul fatto che il clamore stia spingendo le persone a fidarsi delle macchine prima che ne sappiamo abbastanza, e a inserirle in applicazioni critiche nelle quali gli errori possono essere costosi o mortali.
Nel 2019 noi (gli autori) abbiamo proposto una modalità oggettiva di guardare alle macchine AI attraverso la quale è possibile evitare di affidarsi a clamore e antropomorfismo (1). Abbiamo scoperto che le macchine AI possono essere raggruppate in classi in base alla capacità di apprendimento. Questo modo di classificarle fornisce maggiori informazioni sull’aspetto della fiducia rispetto alle classificazioni più comuni per ambiti, tra cui linguaggio, vista, linguaggio naturale, giochi, assistenza sanitaria, trasporti, navigazione e così via.
Un aspetto del clamore che ci ha particolarmente turbato sono le affermazioni secondo cui i recenti progressi nell’informatica sono guidati dall’AI e che tutto il software è una forma di AI. È il contrario: l’informatica ha fatto costanti progressi in termini di potenza e affidabilità negli ultimi cinquant’anni, e la maggior parte del software non è intelligenza artificiale. L’AI moderna non esisterebbe se non fosse per questi progressi.
Un altro aspetto preoccupante è la nostra tendenza ad antropomorfizzare, a proiettare sulle macchine le nostre convinzioni e speranze relative all’intelligenza umana (1r). Questo porta a contraddizioni indesiderate e a una fiducia mal riposta nell’AI. Per esempio, crediamo che le persone intelligenti pensino velocemente, eppure i supercomputer che funzionano un miliardo di volte più velocemente degli umani, non sono intelligenti; crediamo che le comunità interagenti di macchine AI saranno collettivamente intelligenti, eppure i computer e le reti massivamente parallele non sono intelligenti; crediamo che i chatbot faranno nuove scoperte, ma non consideriamo intelligenti i loro output.
Una gerarchia di macchine di apprendimento
Nella Tabella 1 offriamo una gerarchia a otto livelli che classifica le macchine AI in base alla loro capacità di apprendimento: una è più capace nell’apprendimento di un’altra se, in un tempo ragionevole, può imparare a svolgere alcune attività che l’altra non può. La capacità di apprendimento deriva dalla struttura. Questa definizione non si basa su alcuna nozione di intelligenza. Non è necessaria alcuna antropomorfizzazione per spiegare perché una macchina è più capace nell’apprendimento di un’altra.
Questa definizione comprende anche i due modi fondamentali in cui le macchine possono apprendere. Uno è tramite programmazione: un progettista esprime tutte le regole operative in un database e la macchina applica queste regole per dedurre i risultati. L’altro è tramite auto-adattamento: la macchina impara da esempi ed esperienze e adatta la sua struttura interna in base a un algoritmo di addestramento. Questi approcci possono essere combinati, con una parte di una macchina AI programmata e altre parti auto-adattanti.
Questa gerarchia non classifica in base alla potenza di calcolo. Tutte le macchine AI sono Turing Complete. La gerarchia mostra che nessuna delle macchine finora costruite ha alcuna intelligenza, il che porta all’intrigante possibilità che l’intelligenza umana non sia computabile.
Livello 0: automazione di base. Queste macchine sono automi che eseguono o controllano processi con poco o nessun intervento umano. Spesso includono semplici controlli di feedback che mantengono un funzionamento stabile regolando e adattandosi alle letture dei sensori. Per esempio, una radio FM si blocca su una frequenza ma non impara quali frequenze riconosce. Tuttavia, gli automi di base non possono imparare nuove azioni perché il loro feedback non cambia la loro funzione: non imparano nulla oltre a ciò per cui sono stati costruiti. Tutti i livelli superiori sono forme di automazione aumentate dall’apprendimento.
Livello 1: sistemi basati su regole. Queste macchine imitano la logica del ragionamento umano. Sono stati chiamati “programmi basati su regole” perché producono deduzioni logiche applicando regole di logica programmata nei loro input e nei risultati intermedi.
I giochi da tavolo sono stati i primi obiettivi dei programmi basati su regole. Nel 1952, Arthur Samuel dell’IBM ha illustrato un programma di dama competente e auto-migliorante. A partire dal 1957, una lunga serie di ricerche sugli scacchi ha portato al computer IBM Deep Blue, che nel 1997 ha battuto il grande maestro Garry Kasparov. La velocità del computer è essenziale: valuta migliaia di mosse successive nello stesso tempo in cui un essere umano ne valuta solo una.
Un altro obiettivo iniziale erano i sistemi esperti: programmi che utilizzavano regole logiche derivate dalla conoscenza degli esperti. I primi esempi furono sviluppati da Edward Feigenbaum alla Stanford University nel 1965: Dendral identificò molecole organiche sconosciute e Mycin diagnosticò malattie infettive del sangue. Nel 1980, John McDermott della Carnegie Mellon University costruì XCON, che determinò la migliore configurazione di sistemi informatici DEC complessi per un dato cliente. I progettisti di sistemi esperti scoprirono presto che convincere gli esperti a dichiarare la propria competenza sotto forma di regole, è un compito impossibile. Hubert Dreyfus, filosofo e uno dei primi critici dei sistemi esperti, sostenne che gran parte di ciò che chiamiamo ‘competenza’ non è basata su regole: dunque una macchina limitata a operazioni basate su regole, non può essere esperta (2). Nemmeno un enorme database di fatti di buon senso potrebbe rendere questi sistemi intelligenti come gli esperti. Molti sistemi esperti sono utili nonostante questa debolezza.
Livello 2: apprendimento supervisionato. Queste macchine non applicano regole logiche agli input. Invece, ricordano nella loro struttura l’output corretto per ogni input mostrato da un trainer. La Rete Neurale Artificiale (ANN) è l’esempio comune. Il trainer ANN presenta una lunga serie di esempi di input-output; regola i pesi delle connessioni interne per ridurre al minimo l’errore tra gli output effettivi e quelli previsti. Sebbene l’addestramento possa richiedere giorni, una rete addestrata risponde entro millisecondi.
Una proprietà importante delle reti neurali artificiali è che una ANN sufficientemente grande, addestrata con un numero sufficiente di coppie input-output, può approssimare in modo arbitrario qualsiasi funzione matematica continua. Questo ha ispirato molte ricerche sulle reti neurali artificiali per implementare modelli di equazioni differenziali di sistemi fisici, portando a molti miglioramenti nell’informatica scientifica.
In molte applicazioni, i dati non provengono da una funzione continua, per esempio il riconoscimento facciale addestrato da immagini etichettate. Queste ANN hanno due limitazioni principali: fragilità e imperscrutabilità. Fragilità significa che, quando viene presentato un nuovo input (non addestrato) che differisce solo leggermente da un input addestrato, la rete potrebbe rispondere con un output completamente sbagliato. Imperscrutabilità significa che è difficile o impossibile ‘spiegare’ come la rete è giunta alla sua conclusione.
Livello 3: apprendimento non supervisionato. Queste macchine migliorano le loro prestazioni apportando modifiche interne senza l’assistenza di un agente di addestramento esterno. I classificatori sono gli esempi più comuni. Un classificatore divide i dati di input nel set di classi più probabile in base alla similarità; nessuna classe è specificata in anticipo. Un primo esempio è il programma AUTOCLASS di Peter Cheeseman, che ha classificato i profili dei telescopi spaziali delle stelle.
Livello 4: AI generativa. Le macchine di questo livello sono ANN potenziate con processori di linguaggio naturale. Il processo di addestramento presenta un ampio corpus di testo e registra quali parole sono vicine tra loro. Quando viene presentato un testo di input (‘prompt’), l’ANN di base produce una parola di output che è altamente probabile sia la successiva all’input. Tale parola viene aggiunta al prompt e il ciclo si ripete, generando una stringa di output di parole che è altamente probabile dato il prompt originale. Il modello di base è fluente ma è probabile che generi assurdità o invenzioni che non sono nei dati di addestramento (2r). La rete di base viene modificata da un ‘processo di ottimizzazione’ che regola i pesi per ridurre le possibilità di questi output insoddisfacenti.
I sistemi di intelligenza artificiale generativa sono spesso chiamati modelli linguistici di grandi dimensioni (LLM) perché sono addestrati su un set di addestramento testuale molto ampio. Uno dei più importanti di questo genere, ChatGPT-4, è stato addestrato su diverse centinaia di miliardi di parole di testi trovati su Internet; l’addestramento ha richiesto diversi mesi e ha consumato la stessa quantità di elettricità di una piccola città. I risultati sono stati sbalorditivi. Gli LLM possono fornire output sorprendentemente competenti. Ma sono così inclini a generare invenzioni e assurdità che Emily Bender nel 2021 li ha definiti “pappagalli stocastici” (3r). Molte persone non si fidano di loro, soprattutto quando forniscono raccomandazioni per azioni in ambiti critici nei quali gli errori sono costosi.
C’è una controversia sul fatto che le macchine di AI generativa siano creative. Gli scettici sottolineano molte creazioni umane che non sono desumibili da conoscenze pregresse.
Livello 5: apprendimento per rinforzo. Queste macchine evitano la necessità di dati di addestramento massivi. Il rinforzo insegna a una ANN come raggiungere un obiettivo. Due ANN giocano round di una partita tra loro, tenendo traccia di quali mosse sono state alla fine parte di una vittoria e regolando i parametri in modo che le macchine imparino gradualmente a selezionare solo le mosse vincenti. Questo viene fatto con milioni o miliardi di round, simulati su un supercomputer che divora energia. Può produrre risultati sorprendenti. Con l’apprendimento per rinforzo AlphaZero di DeepMind è diventato un grande maestro di scacchi in quattro ore e un grande maestro di Go in 13 giorni. ChatGPT di OpenAI utilizza l’apprendimento per rinforzo per apportare le modifiche finali ai pesi nella sua ANN di base, in modo che le risposte siano più soddisfacenti per gli esseri umani. AlphaFold di Deepmind era così bravo con le previsioni sul ripiegamento delle proteine che il suo ideatore ha ricevuto un premio Nobel nel 2024.
Livello 6: Interazione uomo-macchina. È generalmente accettato che gli esseri umani e le macchine che si fondono insieme siano più potenti di entrambi che lavorano da soli. Gli esseri umani sono particolarmente bravi con i giudizi e le macchine con i calcoli. Ottenere una buona miscelazione è un problema molto difficile per la progettazione.
Un approccio per farlo è stato reso popolare da Marvin Minsky nel suo libro Society of Mind (3). L’idea è che migliaia o milioni di agenti, ciascuno addestrato per essere bravo in una ristretta abilità umana, cooperino insieme e generino collettivamente risultati migliori di qualsiasi essere umano (o macchina individuale). Questa idea permea molte proposte per raggiungere l’Intelligenza Artificiale Generale (AGI).
Un altro approccio, sperimentato negli anni ‘60 da Doug Engelbart, si basava sull’idea di amplificare l’intelligenza umana potenziando gli esseri umani con le macchine. Ai suoi tempi, le macchine erano dispositivi esterni che utilizzavano strumenti come finestre, mouse e collegamenti ipertestuali. Oggi gli strumenti di potenziamento sono molto più sofisticati e includono smartphone, occhiali per realtà virtuale e simulazioni. Dopo essere stato sconfitto nel 1997 da IBM Deep Blue, Garry Kasparov inventò Advanced Chess, nel quale un ‘giocatore’ è una squadra composta da un essere umano potenziato da un computer. Si scoprì presto che le squadre di giocatori competenti e di buoni programmi di scacchi erano in grado di sconfiggere le migliori macchine. Secondo il futurista Ray Kurzweil, nel prossimo decennio o due i potenziamenti potrebbero includere nanobot introdotti nel flusso sanguigno umano che si interfacciano con computer esterni, fornendo riparazione di organi e miglioramenti come la memoria fotografica (4 e 4r).
Questi esempi dimostrano che la collaborazione uomo-macchina è un ambito molto fertile e che spesso può essere realizzata con interfacce semplici che non si basano su strumenti di intelligenza artificiale.
Livello 7: AI ambiziosa. Questo livello include una varietà di macchine speculative che rappresentano i sogni di molti ricercatori di AI. Le macchine più ambiziose sono quelle che pensano, ragionano, capiscono e sono autocoscienti, consapevoli, auto-riflessive, compassionevoli e senzienti. Nessuna macchina del genere è mai stata costruita e nessuno sa se può esserlo (5).
Modelli di progresso dell’intelligenza artificiale
La gerarchia dell’AI può essere vista come un modello di progresso. Man mano che le macchine acquisiscono capacità di apprendimento, si avvicinano all’AGI.
In The Last AI (6) S.M. Sohn espone un modello di progresso raffigurato come una piramide di crescente automazione dall’AI (Tabella 2). Immagina l’automazione che rende le necessità di base abbondanti ed economiche, fino a portare a organizzazioni di zero persone (nessun essere umano coinvolto nella gestione delle cose) e all’utopia dell’AI. Mentre alcuni considerano questo modello assurdo, noi lo prendiamo sul serio, come un percorso molto plausibile verso una società di sottomissione umana da parte di macchine non intelligenti.
Il processo visto da Sohn è già in atto a tutti e quattro i livelli: Copilot e LLM al Livello 1, automazione del flusso di lavoro aziendale al Livello 2, acquisti e assistenza clienti automatizzati al Livello 3 e burocrazie automatizzate e deepfake politici al Livello 4. Questi sistemi sono già diffidati a causa della loro rigidità, fragilità, mancanza di attenzione, mancanza di compassione e intolleranza per gli errori umani. Stiamo andando alla deriva verso una nuova singolarità – la sottomissione degli umani a reti di macchine poco intelligenti e indifferenti – ben prima che la Singolarità di Kurzweil unisca gli umani con le macchine nel 2045.
Ispirata da Sohn, la società OpenAI ha promosso la propria gerarchia di progresso, la sua tabella di marcia verso un’AGI sicura e vantaggiosa (Tabella 3) (7). È un piano aziendale per la nuova singolarità! La nostra collettiva impazienza di spingere verso l’AGI potrebbe accelerare la nostra prospettiva di essere risucchiati nelle sabbie mobili della stupidità orchestrata dalle macchine.
* Articolo pubblicato sotto licenza Creative Commons ‘free access’, traduzione a cura di Paginauno. L’articolo originale in inglese può essere trovato qui: Peter J. Denning and Ted G. Lewis. 2024. An AI Learning Hierarchy. Commun. ACM 67, 12 (December 2024), 24–27. https://doi.org/10.1145/3699525. Peter J. Denning è professore emerito di informatica presso la Naval Postgraduate School di Monterey, CA, USA, è editore di ACM Ubiquity ed è stato presidente di ACM. Il suo libro più recente è Navigating a Restless Sea: Mobilizing Innovation in Your Community (con Todd Lyons, Waterside Productions, 2024). Le opinioni dell’autore qui espresse non sono necessariamente quelle del suo datore di lavoro o del governo federale degli Stati Uniti. Ted G. Lewis è membro della Oregon State Hall of Fame del 2021, autore e informatico con competenze in teoria della complessità applicata, sicurezza nazionale, sistemi infrastrutturali e sicurezza informatica. È stato direttore del Center for Homeland Defense and Security presso la Naval Postgraduate School. Il suo libro più recente è Critical Infrastructure Resilience and Sustainability Reader (2024)
1) Denning, P.J. Lewis, T.G., Intelligence might not be computable, American Scientist 107, (Nov.–Dec. 2019), 346–349
1r) Cfr. AA.VV., ChatGPT. Rischi etici e sociali dei danni causati dai Modelli Linguistici, Paginauno n. 82, aprile/maggio 2023; n.d.r.
2) Dreyfus, H. What machines (still) cannot do, MIT Press, (1972, aggiornato nel 1978 e nel 1992)
2r) Cfr. Giovanna Cracco, Il mondo di ChatGPT. La sparizione della realtà, Paginauno n. 82, aprile/maggio 2023; Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Yarin Gal, Nicolas Papernot, Ross Anderson, ChatGPT e model collapse. AI che si addestrano su dati generati da AI, Paginauno n. 83, luglio/settembre 2023;
n.d.r.
3r) Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, ChatGPT. Sui pericoli dei pappagalli stocastici: i modelli linguistici possono essere troppo grandi?, Paginauno n. 81, febbraio/marzo 2023; n.d.r.
3) Minsky, M. The Society of Mind, Simon and Schuster, 1986
4) Kurzweil, R. The Singularity Is Nearer: When We Merge with AI, Viking, 2024
4r) Cfr. Giovanna Cracco, Dialettica del transumanesimo. La scienza si fa religione, Paginauno n. 88 ottobre/novembre 2024; n.d.r.
5) Koch, C. The Feeling of Life Itself: Why Consciousness Is Widespread But Can’t Be Computed, MIT Press, 2019
6) Sohn, S.M. The Last AI: Of Humans Climbing the AI Pyramid. SM Research Institute, 2024
7) Sohn, S.M. Comments on OpenAI’s Adoption Model, 2024; https://bit.ly/3XWUjWH
