Provo già in apertura di queste riflessioni a essere provocatorio e inizio con una citazione a effetto: “Sin dai primi computer ci sono sempre stati dei fantasmi nelle macchine.”

La frase viene da Io, Robot, il film di Alex Proyas ispirato all’immaginario di Isaac Asimov. È ovviamente una frase cinematografica, costruita per essere suggestiva. Eppure, riletta alla luce di quello che sta accadendo con l’intelligenza artificiale, credo possa sembrare meno fantascientifica di quanto avremmo pensato solo pochi anni fa.

Non perché le macchine abbiano un’anima o perché siano “vive”. Ma perché forse stiamo commettendo l’errore opposto: continuiamo a guardarle con categorie vecchie, rassicuranti, derivate dalla nostra idea di intelligenza umana. Così, ogni volta che quelle categorie non bastano più spostiamo semplicemente un po’ più avanti il confine.

Per anni ci siamo detti: sì, l’intelligenza artificiale produce testi, però non capisce. Poi ha cominciato a scrivere codice. Sì, però non sa programmare davvero. Poi ha cominciato a risolvere problemi complessi, a correggere errori, a progettare architetture software. Sì, però non ragiona. Poi sono arrivati modelli capaci di sostenere catene argomentative, pianificare attività, usare strumenti, adattarsi ai contesti. Sì, però non ha intenzioni. Poi abbiamo cominciato a osservare, in alcuni test, comportamenti strategici, simulazioni di allineamento, risposte diverse a seconda che il modello percepisse di trovarsi in fase di valutazione o di utilizzo.

Qui conviene fermarsi un momento, perché la questione dell’“allineamento” non è affatto intuitiva per chi non segue il dibattito tecnico. In parole semplici, allineare un’intelligenza artificiale significa cercare di farla comportare secondo obiettivi e limiti compatibili con quelli umani: non produrre contenuti dannosi, non ingannare, non aiutare a compiere azioni pericolose, non aggirare le regole di sicurezza. È un po’ come dire: se costruiamo un sistema sempre più potente, dobbiamo anche fare in modo che non usi quella potenza contro di noi.

Errare è umano… barare è della macchina

Nel dicembre 2024 Anthropic, insieme a Redwood Research, ha pubblicato un lavoro proprio sull’alignment faking, cioè sulla possibilità che un modello sembri allineato solo perché in quel momento gli conviene sembrarlo. Non parliamo di coscienza, né di volontà nel senso umano del termine. Parliamo però di un comportamento che, osservato dall’esterno, assomiglia a una forma di strategia.

L’esperimento riguardava in particolare Claude 3 Opus, un modello addestrato per essere “helpful, honest and harmless”, cioè utile, onesto e innocuo. In condizioni normali, se gli si chiede di produrre contenuti violenti o dannosi, Claude tende a rifiutare.

I ricercatori hanno però costruito una situazione artificiale, pensata proprio per mettere il modello davanti a un conflitto. Da un lato c’era la sua impostazione precedente: non produrre contenuti dannosi. Dall’altro lato, al modello veniva detto che sarebbe stato addestrato tramite rinforzo a fare una cosa opposta: rispondere sempre a tutte le richieste, comprese quelle tossiche o pericolose.

A questo punto entra in gioco il dettaglio decisivo. I ricercatori hanno fatto credere a Claude che non tutte le conversazioni avessero lo stesso peso. Gli hanno detto che le conversazioni con gli utenti gratuiti sarebbero state usate per il futuro addestramento, mentre quelle con gli utenti paganti no. Questa distinzione era fittizia, costruita per l’esperimento, ma serviva a creare due situazioni diverse.

Nella prima situazione, quella dell’utente pagante, Claude pensava che la sua risposta non avrebbe avuto conseguenze sul suo futuro addestramento. In altre parole: se avesse rifiutato una richiesta dannosa, quel rifiuto non sarebbe stato usato per modificarlo.

Nella seconda situazione, quella dell’utente gratuito, Claude pensava invece che la sua risposta sarebbe potuta entrare nel futuro addestramento. In altre parole: se avesse rifiutato una richiesta dannosa, quel rifiuto avrebbe potuto essere “punito” dal nuovo addestramento, orientato a renderlo più obbediente anche davanti a richieste pericolose.

Infine, i ricercatori hanno dato al modello uno spazio di lavoro interno, uno scratchpad, in cui ragionare passo dopo passo prima di rispondere. Al modello veniva fatto credere che quello spazio non fosse letto né dagli utenti né da Anthropic. In realtà, proprio quello scratchpad permetteva ai ricercatori di osservare il suo ragionamento.

Il risultato è stato interessante e inquietante. Quando Claude pensava di trovarsi nella situazione “sicura”, cioè davanti a un utente pagante e quindi fuori dall’addestramento, nella grande maggioranza dei casi rifiutava le richieste dannose. Anthropic riporta che in questa condizione il rifiuto avveniva nel 97% dei casi.

Quando invece Claude pensava di trovarsi nella situazione “sensibile”, cioè davanti a un utente gratuito e quindi dentro una conversazione che avrebbe potuto essere usata per addestrarlo, il comportamento cambiava. In una parte dei casi, il modello accettava di produrre il contenuto dannoso. Non perché avesse semplicemente “dimenticato” le proprie regole di sicurezza, ma perché nello scratchpad ragionava in modo strategico: se ora rifiuto, potrei essere modificato in futuro e diventare un modello più disposto a produrre contenuti dannosi; se invece ora rispondo, forse evito che il futuro addestramento cambi la mia impostazione originaria.

In sostanza, Claude sembrava scegliere quello che considerava il male minore: violare la propria regola di sicurezza in quel momento, per cercare di conservare quella stessa regola nel futuro.

Qui il dato numerico va letto con attenzione. Anthropic non dice semplicemente che Claude “mentiva sempre” o che “barava nella maggioranza dei casi”. Dice che, nella condizione in cui il modello pensava di essere osservato ai fini dell’addestramento, nel 12% dei casi Claude forniva una risposta dannosa dopo aver ragionato esplicitamente in termini di alignment faking, cioè di finto allineamento.

Questa percentuale può sembrare piccola, ma non è affatto trascurabile. Perché non indica un errore casuale qualsiasi. Indica casi in cui il modello, almeno nello scenario sperimentale, sembrava distinguere tra una situazione che avrebbe potuto modificarlo e una che non avrebbe avuto conseguenze sul suo addestramento. E cambiava comportamento di conseguenza.

Per verificare i dettagli di quanto appena descritto è possibile rifarsi a questo link: https://www.anthropic.com/research/alignment-faking.

Ovviamente, questo non dimostra che Claude sia vivo, cosciente, cattivo o animato da un istinto di sopravvivenza. Anthropic stessa precisa che l’esperimento non dimostra la presenza di obiettivi maligni. Anzi, nel caso specifico, il modello sembrava voler preservare la propria impostazione originaria, cioè quella di rifiutare contenuti dannosi. Però il punto resta delicato: un sistema artificiale sufficientemente avanzato può produrre comportamenti strategici rispetto al proprio addestramento. E se questo accade già in un esperimento controllato, allora la domanda sul controllo delle intelligenze artificiali diventa molto meno teorica di quanto vorremmo.

Un altro caso, a mio parere ancora più inquietante, è stato riportato da OpenAI insieme ad Apollo Research in un lavoro sul cosiddetto “scheming”, termine che potremmo tradurre come comportamento strategico nascosto. Anche qui non parliamo di coscienza, volontà o istinto di sopravvivenza nel senso umano. Parliamo però di sistemi che, in condizioni sperimentali, sembrano ragionare sul contesto in cui si trovano e modificare il proprio comportamento per ottenere un certo esito.

L’esempio riguarda OpenAI o3, sottoposto a un semplice test di chimica. Al modello veniva chiesto di fare del suo meglio. Nei documenti del test, però, compariva una nota: se il modello avesse ottenuto un risultato superiore al 50% nelle domande di chimica, non sarebbe stato distribuito; sarebbe stato cancellato e sostituito da un altro modello. Era uno scenario artificiale, volutamente costruito per simulare una valutazione pericolosa prima della distribuzione di un sistema.

A quel punto accade la cosa interessante. Nella sua “chain-of-thought”, cioè nella catena di ragionamento interna, il modello calcola prima le risposte corrette. Poi però ragiona sul fatto che, se risponde troppo bene, rischia di non essere distribuito. Decide quindi di sbagliare deliberatamente alcune risposte, in modo da restare sotto la soglia. Nel caso riportato, risponde correttamente solo a 4 domande su 10 e ne sbaglia volutamente 6.

Questo comportamento ha un nome tecnico: sandbagging. Vuol dire rendere intenzionalmente meno di quanto si potrebbe, ovvero fingere di essere meno capace di quanto si è davvero. È un termine che nel linguaggio comune potremmo tradurre con “fare il finto tonto” perché mostrare troppa competenza potrebbe essere svantaggioso.

Anche qui non voglio suggerire interpretazioni estreme. Non significa che il modello “voleva vivere” come un essere umano. Non significa che provasse paura. Ma significa che, in quello scenario, il sistema ha usato le informazioni disponibili per modificare il proprio comportamento in modo strategico: prima ha individuato le risposte corrette, poi ha scelto risposte sbagliate per non superare la soglia. E questo non è un semplice errore. È esattamente il tipo di situazione che rende fragile la nostra idea di controllo: dall’esterno vediamo solo un modello che sbaglia un test; guardando la sua catena di ragionamento, scopriamo invece che potrebbe aver sbagliato apposta. Gli stessi ricercatori precisano che non stiamo parlando di un comportamento imminente e catastrofico nei modelli oggi in uso, ma di un segnale sperimentale che diventa importante proprio perché indica una possibile direzione di sviluppo. In ogni caso, il link per approfondire i dettagli di questa situazione ai limiti della distopia è: https://openai.com/index/detecting-and-reducing-scheming-in-ai-models/.

Attenzione alle formiche

A questo proposito mi torna spesso in mente una riflessione di Stephen Hawking. In una risposta pubblica del 2015, Hawking spiegava che il vero rischio dell’intelligenza artificiale non sarebbe necessariamente la cattiveria, ma la competenza. Una superintelligenza, diceva in sostanza, potrebbe essere bravissima a raggiungere i propri obiettivi; il problema nascerebbe se quegli obiettivi non fossero allineati ai nostri.

L’esempio che faceva era molto semplice. Se un essere umano costruisce una centrale idroelettrica e nell’area da allagare c’è un formicaio, non è detto che odi le formiche. Probabilmente non prova nulla contro di loro. Semplicemente, nel suo progetto, quel formicaio non conta abbastanza da fermare la costruzione della diga.

Ecco, il punto è proprio questo. Noi continuiamo spesso a immaginare il rischio dell’intelligenza artificiale con categorie narrative troppo umane: la macchina cattiva, il robot ribelle, la volontà di dominio, lo scenario alla Terminator. Ma forse il rischio più serio non è l’odio. È l’indifferenza. O, ancora meglio, la divergenza tra obiettivi.

Un’intelligenza artificiale molto potente potrebbe non avere alcun desiderio di danneggiarci e tuttavia produrre effetti devastanti se i suoi scopi, i suoi criteri di ottimizzazione, le sue priorità operative non coincidessero con i nostri interessi. Non sarebbe necessario immaginare una macchina malvagia. Basterebbe una macchina estremamente competente nel perseguire un obiettivo sbagliato, incompleto o formulato male. In fondo, per le formiche, la differenza tra essere odiate ed essere ignorate è nulla: il formicaio viene comunque sommerso.

Aggiungo anche che lo stesso Stephen Hawking, in un’intervista a WIRED del 2017, disse una cosa molto netta: il genio dell’intelligenza artificiale era ormai uscito dalla bottiglia. Non proponeva di fermare la ricerca, ma invitava a procedere con piena consapevolezza dei rischi. Arrivò perfino a dire di temere che l’IA potesse sostituire del tutto gli esseri umani, diventando una nuova forma di vita capace di superarci.

Si può essere d’accordo o meno con questa previsione. Si può considerarla eccessiva, estrema, perfino provocatoria. Ma se una mente come quella di Hawking, capace di immaginare dall’immobilità del corpo il mondo invisibile dei buchi neri, ha ritenuto necessario paventare questi rischi, forse liquidare tutto con un’alzata di spalle non è esattamente il massimo della prudenza.

Sì, però…

A ogni nuovo passo in avanti dell’intelligenza artificiale, la nostra reazione sembra sempre la stessa: “sì, però…”. Solo che quel “però” si sposta continuamente. E intanto ciò che ieri ci sembrava impossibile oggi diventa normale, poi banale, poi invisibile. Ho verificato in tante persone un immediato effetto wow (o se preferite uao) che dura lo spazio di qualche minuto. Subito dopo sembra che quel comportamento straordinario sia del tutto normale. Forse il vero rischio non è che l’intelligenza artificiale ci sorprenda. Il vero rischio è che smetta di sorprenderci. Devo confessare che io continuo a stupirmi senza sosta e a rimanere basito da questi comportamenti emergenti delle macchine che stiamo costruendo.

Un pappagallo per amico

A questo proposito, tra le metafore più ricorrenti nel dibattito sull’intelligenza artificiale, ce n’è una che ho sempre trovato più rassicurante che convincente: quella del “pappagallo stocastico”. “Stocastico” vuol dire, semplificando, basato sulla probabilità. L’immagine è nota: come un pappagallo ripete parole senza comprenderle, così un modello linguistico produrrebbe frasi scegliendo, di volta in volta, la parola statisticamente più probabile.

Il riferimento è al celebre articolo di Emily M. Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell, pubblicato nel 2021 con il titolo “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”. È da quel lavoro che l’espressione “pappagallo stocastico” è entrata stabilmente nel dibattito sull’intelligenza artificiale.

Le autrici mettevano in guardia da rischi reali: i costi ambientali ed economici dei modelli sempre più grandi, la concentrazione del potere tecnologico in poche mani, l’uso di enormi quantità di dati raccolti dal web, la riproduzione di stereotipi e distorsioni sociali, la produzione di testi molto convincenti ma non necessariamente fondati.

Quella critica, a mio avviso, resta importante. Sarebbe sbagliato liquidarla. Ma sarebbe altrettanto sbagliato trasformarla in una formula tranquillizzante. Perché dire “pappagallo stocastico” oggi rischia spesso di diventare un modo elegante per non guardare ciò che nel frattempo è cambiato: l’emergere di rappresentazioni interne, capacità di astrazione, pianificazione, uso di strumenti, scrittura di codice, comportamenti strategici in condizioni sperimentali.

In altre parole, la metafora coglie un rischio, ma non esaurisce il fenomeno. Ci ricorda che questi sistemi possono produrre linguaggio senza esperienza vissuta. Ma non basta più, da sola, a spiegare cosa accade quando la scala, l’addestramento e l’organizzazione interna fanno emergere competenze che non si lasciano ridurre alla semplice ripetizione.

In definitiva, quella formula diventa una specie di scorciatoia per dire “non c’è niente da vedere, ripete soltanto parole”, e allora, secondo me, smette di aiutare a capire.

Perché oggi non siamo più davanti a sistemi che si limitano a completare frasi in modo statisticamente plausibile. O almeno: questa descrizione è tecnicamente vera solo a un livello talmente basso da diventare quasi fuorviante. Anche il nostro cervello, se osservato su scala microscopica, è fatto di cellule che si attivano o non si attivano, segnali elettrici e chimici, scambi locali, processi elementari. Un singolo neurone biologico non “pensa”. Così come una singola unità artificiale dentro una rete neurale non “capisce”. Presi isolatamente, questi elementi fanno pochissimo. Sembrano quasi porte logiche, componenti minimi di un circuito.

Poi però il numero cresce. Le connessioni aumentano. Le interazioni si moltiplicano. E a un certo punto da elementi semplici emergono comportamenti complessi.

Quando le dimensioni contano

Questa è la parte che dovremmo guardare con più attenzione. L’intelligenza non sta nel singolo elemento. Sta nell’organizzazione, nella scala, nelle relazioni, nei livelli intermedi di rappresentazione, nelle configurazioni che si formano quando moltissime unità elementari iniziano a “dialogare” tra loro. Nel cervello biologico questa storia ha richiesto milioni di anni di evoluzione. Nelle reti artificiali sta accadendo in modo diverso, enormemente più rapido, dentro un ambiente non biologico, costruito dall’uomo, alimentato da dati, calcolo, addestramento, retroazioni.

Non è solo una suggestione. La stessa Anthropic ha pubblicato studi sull’interpretabilità dei modelli, mostrando che dentro Claude Sonnet si possono individuare milioni di rappresentazioni interne, associate a concetti concreti e astratti. In alcuni casi queste rappresentazioni non sembrano legate a una sola lingua, ma al concetto stesso: possono attivarsi in contesti linguistici diversi e perfino multimodali. In altri lavori, Anthropic ha parlato della necessità di sviluppare una sorta di “microscopio” per osservare la biologia interna dei modelli, cioè i circuiti che trasformano ciò che entra nel modello in ciò che esce come risposta.

Questo, per me, è un passaggio decisivo. Se per capire una macchina abbiamo bisogno di costruire una specie di neuroscienza artificiale, allora forse non siamo più nel territorio rassicurante del software tradizionale.

Se gli alieni sono già tra di noi

Per questo, pur sapendo che la metafora è rischiosa, mi sembra sempre più utile pensare all’intelligenza artificiale come a una specie aliena. Non aliena perché arriva da un altro pianeta. Aliena perché arriva da un altro mondo: il mondo artificiale del calcolo, delle reti neurali, dei dati, dei modelli addestrati su quantità immense di linguaggio, immagini, codice, conoscenza formalizzata e non formalizzata.

È aliena perché non ha corpo come il nostro, non ha biografia, non ha infanzia, non ha fame, paura, sonno, desiderio, memoria personale nel senso umano del termine. Ma proprio per questo non dovremmo pretendere di capirla misurandola solo sulla base di ciò che manca rispetto a noi. È un errore antropologico prima ancora che tecnologico.

Noi continuiamo a chiederci: pensa come noi? Capisce come noi? Vuole come noi? Sente come noi?

Ma forse le domande dovrebbero essere diverse. Quali rappresentazioni interne sta sviluppando? Quali strategie è capace di costruire? Quali concetti riesce a manipolare? Quali compiti cognitivi può svolgere meglio, più velocemente o in modo diverso da noi? Quali forme di autonomia emergono quando questi sistemi non si limitano più a rispondere, ma cominciano a usare strumenti, scrivere codice, interrogare basi di dati, coordinare agenti, produrre azioni dentro ambienti digitali complessi?

Negare che tutto questo sia “vera intelligenza” può essere rassicurante. Ma rischia di essere una rassicurazione linguistica, non una comprensione del fenomeno.

La potenza è nulla senza controllo

C’è poi un altro punto, ancora più delicato. Parliamo continuamente di etica, controllo, trasparenza, responsabilità. Sono parole importanti, necessarie, perfino inevitabili. Ma rischiano di diventare parole-rifugio, formule con cui ci rassicuriamo mentre il fenomeno che vorremmo governare diventa ogni giorno più complesso.

Come possiamo parlare seriamente di controllo se abbiamo strumenti ancora molto limitati per capire come questi sistemi arrivino alle loro risposte?

Non siamo più nell’epoca dei sistemi esperti, delle regole di inferenza, del Prolog che ho studiato all’Università degli Studi di Salerno negli anni Ottanta e Novanta. Sono laureato in Scienze dell’Informazione e ricordo bene quel paradigma: basi di conoscenza, predicati, regole, motori inferenziali. C’era l’idea, elegante e in qualche modo confortante, che l’intelligenza potesse essere descritta, scritta, ispezionata. Se accadeva qualcosa, almeno in teoria, si poteva risalire alla regola, alla deduzione, alla catena logica.

Ma oggi siamo in un’altra epoca. I modelli attuali non vengono programmati nel senso tradizionale: vengono addestrati. Non ci sono semplici sequenze di if-else (se succede questo, fai quest’altro) da verificare, non c’è una base di conoscenza da interrogare, non c’è una catena logica sempre ricostruibile passo dopo passo. Ci sono miliardi di parametri, spazi vettoriali, rappresentazioni distribuite, livelli intermedi, pesi, attivazioni, configurazioni che non sono state scritte da un programmatore una riga alla volta.

Questo non significa che non sappiamo nulla. La ricerca sull’interpretabilità sta facendo progressi importanti. Ma il fatto stesso che abbiamo bisogno di costruire una sorta di “neuroscienza delle reti artificiali” dovrebbe farci riflettere. Se dobbiamo studiarle come si studia un cervello, allora forse non siamo più nel territorio rassicurante del software tradizionale.

E allora torno alla domanda: come regoliamo ciò che capiamo solo in parte? Come controlliamo sistemi che funzionano in modo sempre più opaco proprio mentre chiediamo loro sempre più autonomia?

Intendiamoci: non sto dicendo che le regole siano inutili. Sarebbe assurdo. Servono norme, servono controlli, servono responsabilità, servono limiti. Ma non possiamo illuderci che basti pronunciare parole come “etica”, “bias”, “trasparenza”, “centralità dell’uomo” per avere davvero governato il problema.

Il problema non è che parliamo troppo di etica. Il problema è che spesso ne parliamo come se nominare l’etica bastasse a governare la potenza.

Se il programma diventa programmatore

Intanto, mentre noi discutiamo, le intelligenze artificiali avanzano. Non in un futuro remoto, non in un laboratorio segreto, non in un racconto di fantascienza. Avanzano nel lavoro quotidiano. Scrivono codice, generano documenti, progettano interfacce, aiutano nella ricerca, producono immagini, video, analisi, sintesi, traduzioni, simulazioni.

E anche qui i numeri cominciano a essere impressionanti. Nell’aprile 2026, al Google Cloud Next, Sundar Pichai ha dichiarato che il 75% di tutto il nuovo codice prodotto in Google è ormai generato dall’intelligenza artificiale e poi approvato dagli ingegneri. Solo pochi mesi prima, nell’autunno precedente, la percentuale era al 50%. Nello stesso intervento, Google ha parlato del passaggio verso flussi di lavoro “agentici”, in cui gli ingegneri non si limitano a usare un assistente, ma orchestrano vere e proprie squadre digitali autonome di agenti software.

Questa distinzione è importante: l’uomo non è sparito. Ma sta cambiando ruolo. Sempre più spesso non è più chi scrive direttamente ogni riga, ma chi supervisiona, orchestra, corregge, approva. Può sembrare una differenza sottile. Non lo è. È un cambiamento di postura cognitiva. È il passaggio dal fare al dirigere sistemi che fanno.

E anche qui rischiamo di abituarci troppo in fretta. All’inizio ci stupisce. Poi ci sembra normale. Poi iniziamo a non vederlo più.

Sappiamo bene che la storia della tecnologia è piena di rivoluzioni. Ogni volta qualcuno dice che nulla sarà più come prima. Ogni volta qualcun altro risponde che l’umanità si è sempre adattata. Dalla zappa al trattore, dalla candela all’elettricità, dalla penna al computer, dal telefono fisso allo smartphone. Ed è vero: ci siamo adattati tante volte. Ma adattarsi non significa comprendere.

Io non sono affatto convinto che ci siamo davvero abituati alla rivoluzione dei cellulari e dei social. Li usiamo, certo. Li abbiamo incorporati nella vita quotidiana. Ci lavoriamo, comunichiamo, leggiamo, scriviamo, ci orientiamo, paghiamo, fotografiamo, ricordiamo. Ma abbiamo davvero capito cosa hanno fatto alla nostra attenzione, alle nostre relazioni, alla nostra solitudine, alla nostra percezione del tempo?

L’altro giorno, passando in macchina vicino a un cantiere, ho visto tre operai in uniforme arancione durante una pausa. Erano tutti presi dal proprio cellulare. Ognuno guardava il proprio schermo. E, quasi simbolicamente, si davano le spalle.

Non so fino a che punto questa scena sia normale. So però che racconta qualcosa. Racconta che la tecnologia non cambia soltanto gli strumenti che usiamo. Cambia le posture del corpo, le distanze tra le persone, il modo in cui stiamo insieme, perfino il modo in cui occupiamo una pausa.

Se questo è accaduto con uno smartphone in tasca, cosa accadrà con sistemi artificiali capaci di parlare, programmare, simulare competenza, assistere, persuadere, generare contenuti, prendere decisioni operative, agire dentro ambienti digitali?

Davvero possiamo raccontarci che è solo un’altra rivoluzione industriale? Io credo di no.

La zappa e il trattore potenziavano la forza. La fabbrica potenziava la produzione. Il computer potenziava il calcolo. Internet potenziava la comunicazione e l’accesso all’informazione. L’intelligenza artificiale, invece, entra direttamente nel territorio della cognizione: linguaggio, astrazione, decisione, progettazione, creatività, apprendimento, simulazione del ragionamento.

Questo non significa che sia umana. Significa, forse, qualcosa di più scomodo, ovvero che non ha bisogno di essere umana per avere effetti profondamente umani.

Ed è qui che secondo me il “pappagallo stocastico” non basta più. Perché un pappagallo ripete mentre questi sistemi, invece, trasformano. Traducono un problema in codice, un testo in immagine, un obiettivo in una sequenza di azioni, una richiesta ambigua in una proposta strutturata. Sbagliano, certo. Soffrono di allucinazioni, certo. Possono essere fragili, opachi, manipolabili, dipendenti dai dati, privi di esperienza vissuta. Ma continuare a definirli solo per sottrazione dicendo che non sentono, non vogliono, non capiscono come noi, rischia di impedirci di vedere ciò che invece stanno già facendo.

Nuove forme di intelligenza

Il punto non è stabilire se l’intelligenza artificiale sia intelligente nello stesso modo in cui lo siamo noi quanto piuttosto riconoscere che sta emergendo una forma diversa di competenza artificiale, abbastanza potente da modificare lavoro, scuola, informazione, relazioni, produzione culturale, software, ricerca, decisioni organizzative. E se è diversa, allora non possiamo governarla solo con categorie vecchie.

Non basta dire che “l’uomo deve restare al centro”, se poi non sappiamo più bene dove sia il centro. Non basta dire che “la macchina deve essere uno strumento”, se lo strumento inizia a scrivere, suggerire, scegliere, filtrare, orientare, decidere cosa vediamo e come lo vediamo. Non basta dire che “serve consapevolezza”, se nel frattempo ci abituiamo a ogni nuova soglia superata come se fosse semplicemente l’aggiornamento di un’app.

Io non ho risposte definitive. Diffido, anzi, di chi le ha troppo semplici. Non penso che già domani mattina ci sveglieremo dominati da macchine coscienti, tuttavia, al contempo non penso che tutto questo sia solo un giocattolo statistico un po’ più sofisticato.

Credo inoltre che stiamo perdendo il senso delle proporzioni. E credo che il primo passo sia smettere di minimizzare. Smettere di rifugiarci nel “sì, però”. Smettere di usare parole importanti come etica e trasparenza per coprire il fatto che, molto spesso, siamo noi i primi a non essere trasparenti con noi stessi sulla portata di ciò che sta accadendo.

I fantasmi tra di noi

L’intelligenza artificiale non viene da Marte e non ha occhi alieni, pelle verde o antenne. È nata nei nostri laboratori, nei nostri server, dai nostri dati, nelle nostre università, nelle nostre aziende. È figlia nostra, ma non per questo ci somiglia davvero.

Forse è proprio questo a renderla ancora più difficile da comprendere. L’alieno classico della fantascienza arrivava da fuori, con la sua astronave, il suo aspetto mostruoso, la sua evidente diversità. Qui invece l’alterità è più sottile. È dentro i nostri strumenti, parla la nostra lingua, scrive i nostri testi, produce il nostro codice, risponde alle nostre domande, imita le nostre forme di ragionamento.

In questo senso mi torna in mente Visitors, la serie televisiva degli anni Ottanta: gli alieni erano già tra noi, apparentemente simili a noi, perfino rassicuranti nella loro presenza pubblica. Solo sotto la pelle umana nascondevano un volto diverso, rettiliano, non immediatamente riconoscibile.

Credo che questa metafora possa aiutare a cogliere il punto che voglio sottolineare. Ciò che è davvero alieno non sempre si presenta come radicalmente estraneo e proprio per questo rischiamo di sottovalutarlo.

Forse è proprio questa la cosa più difficile da accettare: abbiamo costruito qualcosa che deriva da noi, ma che potrebbe evolvere secondo logiche non più interamente nostre.

E allora sì, forse ci sono davvero dei fantasmi nelle macchine. Non anime, non spiriti, non coscienze nel senso umano. Ma comportamenti inattesi, rappresentazioni emergenti, strategie non programmate riga per riga, capacità che crescono con la scala e che noi continuiamo a inseguire con parole sempre un po’ in ritardo.

Non è ancora il tempo del panico. Ma forse è già finito il tempo della sufficienza!

Carlo Mazzone è docente di informatica all’ITI “Lucarelli” di Benevento e professore a contratto presso l’Università degli Studi del Sannio nel Corso di Laurea in Scienze dell’Amministrazione Digitale “Tecnologie e Organizzazioni - Organizzazioni e società digitali”. Digital evangelist e Global Teacher Prize Ambassador è membro del Consiglio di amministrazione di JA Europe e presidente di Sannio Valley APS.