Intelligenza e incoscienza

Non voglio fare un discorso ampio su questo tema, non ne sarei in grado. Però ripensavo al mio piccolo programmino di gioventù che faceva giocare il computer a Master Mind (ne ho parlato in questo post).

Le cose che mi colpivano e divertivano erano due. Anzitutto il suo comportamento ai miei occhi risultava intelligente. D'altra parte lo stesso effetto (ben più amplificato) lo si ha per i programmi che giocano a scacchi. Ma la cosa che mi divertiva era che potevo farlo giocare "da solo", cioè formulare una sequenza che poi lui stesso avrebbe dovuto indovinare come se non la sapesse, stabilendo però sempre lui stesso i punteggi delle varie chiamate come se la sapesse.

Ecco, questo alternare il sapere e non sapere un'informazione secondo me è del tutto impossibile ad un essere umano, e in un certo modo mi fa pensare alla questione della coscienza. Cioè, mi viene da pensare che il computer può tranquillamente sapere e non sapere un'informazione perché è del tutto incosciente rispetto a quello che fa e a quello che sa.

Quella modalità del giochino in un certo senso metteva la macchina in una condizione in cui si capiva bene che lei non poteva in alcun modo distinguere tra l'esterno (altro da sé) e sé stessa. Era chiaro che non si poteva individuare come entità che si relaziona con un mondo esterno, una condizione imprescindibile per parlare di coscienza di sé. Credo quindi che in quel vecchio programmino coesistessero in modo abbastanza visibile intelligenza e incoscienza, e che forse questo è estendibile a tutt'oggi anche alle moderne AI.

Temperatura e Creatività

Alcune questioni che girano attorno all'intelligenza artificiale sono spesso molto più interessanti e stimolanti di quelle che tipicamente si discutono diffusamente (tipo: dove andremo a finire? Saremo superati? Continueremo a lavorare? Ecc.).

Una di queste, tutto sommato molto semplice (almeno a livello descrittivo) è il concetto di temperatura. Una IA può lavorare a diversi stati di temperatura e dare prestazioni anche significativamente differenti.

La temperatura è un parametro macroscopico che caratterizza un sistema termodinamico, e si traduce nella quantità di energia cinetica dei suoi componenti interni microscopici. Ad un aumento di temperatura corrisponde un aumento dell'energia cinetica media delle particelle di un gas e quindi un aumento della loro mobilità. Poiché non possiamo seguire le singole particelle nelle loro evoluzioni esatte la nostra descrizione del loro comportamento sarà di tipo statistico, il sistema all'aumentare della temperatura visita uno spazio delle configurazioni più ampio, possiamo dire che aumenta il movimento casuale (parliamo in linea di principio di un sistema completamente deterministico, di cui però perdiamo la capacità di descriverlo con esattezza), aumenta il rumore.

Il concetto di temperatura introdotto nell'IA procede un po' per analogia al corrispondete concetto termodinamico, direi anche in modo significativo. Un modello di IA (ad esempio una rete neurale addestrata) è di fatto un sistema perfettamente deterministico, cioè alle stesse premesse in input corrispondono le stesse conseguenze in output. Questo molto spesso non soddisfa la definizione di un comportamento intelligente (si pensi ad un chatbot che allo stesso identico prompt risponde sempre esattamente allo stesso modo). Avere delle risposte leggermente variate fornisce al sistema una maggiore "credibilità". A questo serve la regolazione della temperatura come parametro che caratterizza lo stato di funzionamento dell'IA. Se la temperatura è nulla il sistema rimane perfettamente congelato nel suo comportamento deterministico, man mano che la temperatura cresce il sistema acquista una componente rumorosa casuale nel suo output che la porta a diversificare leggermente ogni volta le sue risposte. Più esattamente (per un LLM) l'aumento della temperatura consente al sistema di scegliere in output non solo la parola più probabile ma anche parole che hanno ottenuto un "punteggio" più basso e che in linea di principio andrebbero scartate. Il sistema esplora su un insieme di possibilità caratterizzate da uno stesso livello minimo di probabilità e che le rende equivalenti ai fini della scelta che, limitatamente all'insieme ottenuto, risulterà casuale. Questo rumore nella scelta rende il comportamento della chatbot molto più "realistico".

Torniamo all'analogia con la termodinamica. Se il sistema è più rumoroso la sua descrizione sarà necessariamente meno precisa, il sistema nel suo complesso risulterà più "sfocato" (è aumentata la sua entropia). Un sistema "congelato" in un unico stato è descrivibile in modo più preciso (ordinato). Questa precisione però nega altre possibilità al sistema, non consente al sistema di diversificare il suo comportamento o di riaggiustarsi in funzione di eventuali cambiamenti esterni. Il sistema appare meno flessibile.

Nel caso dei sistemi di IA si introduce, in maniera magari un po' discutibile ma secondo me molto pertinente, il concetto di creatività. Si dice cioè che l'aumento della temperatura del sistema toglie precisione ma aggiunge creatività, e pone sempre in tal modo un problema di regolazione per ottenere il raggiungimento di uno stato ideale di equilibrio che ovviamente dipende dall'obiettivo che voglio raggiungere (temperatura più bassa per un sistema di traduzione, in cui devo privilegiare la precisione, temperatura più alta per la produzione di contenuti, sia linguistici che visivi o sonori).

Il fatto di calibrare in un sistema di IA il suo contenuto di creatività, peraltro legandolo semplicemente all'aggiunta di componenti casuali, risulta sicuramente un po' bizzarro, e ovviamente suscita comprensibilmente un certo scetticismo. Il termine "creatività" potrebbe essere percepito come improprio. Ma invece la cosa stimolante viene proprio da questo. Come non sappiamo caratterizzare ancora in maniera soddisfacente il concetto di intelligenza, non sappiamo farlo neanche con il concetto di creatività. Sono concetti che tendono a rimanere aree protette del nostro essere umani, zone delicate in cui riponiamo la nostra essenza, insomma roba che ci dà fastidio toccare con troppa leggerezza e semplicità.

Invece un'altra analogia secondo me feconda viene dalle teorie di evoluzione biologica. E' indubbio che il processo di evoluzione naturale è risultato in tutta la sua storia un processo estremamente creativo, basta guardarsi intorno e osservare quotidianamente le "infinite forme bellissime" (Sean. B. Carroll) che ha creato. Ma come è ben noto il meccanismo utilizzato dall'evoluzione è in sintesi un trial and error, dove il trial è generato da meccanismi puramente casuali e l'error è semplicemente il riscontro pratico con l'ambiente (premiante o meno). Cioè anche in questo caso il concetto così misterioso di creatività è semplicemente legato alla capacità del sistema di poter esplorare soluzioni leggermente diverse in modo del tutto casuale.

Il concetto di temperatura, intesa in generale come possibilità di muoversi casualmente nelle vicinanze di un comportamento collaudato, mi sembra una buona approssimazione dell'idea di creatività, che altrimenti rimane sempre troppo vaga e misteriosa.

Uscire fuori dalla gara che misura "il merito"

Nell'ultimo esame di stato (il vecchio esame di maturità) ci sono stati 3 o 4 studenti che hanno rifiutato di sostenere la prova orale, sapendo che sarebbero stati promossi lo stesso visti i crediti complessivi accumulati. Ovviamente con un punteggio basso perché privato dei punti che avrebbero acquisito sostenendo l'orale.

Di questo episodio che, ripeto, ha coinvolto 3 o 4 studenti su circa mezzo milione, mi ha colpito prima la notizia giornalistica che, secondo me piuttosto arbitrariamente, ha messo in risalto l'aspetto di "contestazione pubblica" verso l'esame di stato che questi studenti con la loro scelta avrebbero voluto esprimere, e poi la reazione immediata del Ministro dell'istruzione e del merito, Guseppe Valditara, di stampo punitivo: bocciatura per eventuali episodi analoghi a partire dal prossimo anno scolastico.

Entrambi questi atteggiamenti, veri o presunti, restituiscono un'immagine di uno Stato il cui compito dovrebbe essere quello di controllare i suoi giovani cittadini ribelli e correre subito ai ripari per rimetterli in riga. Peraltro, visto il sospetto che ho che la scuola sia sempre più pensata come un distributore di crediti, validi per la "corsa" al voto finale, a cui partecipano con entusiasmo genitori iperansiosi e iperprotettivi, questo tipo di provvedimenti, così severi e tempestivi mi suonano come una cosa del tipo "ragazzo, stai al gioco che ti ho preparato, raccogli tutti i crediti che puoi, pensa al tuo curriculum".

Si intuisce un certo fastidio solo nel sospettare che qualcuno voglia, e addirittura possa, uscire fuori dalla gara che misura "il merito".

La differenza tra arte e scienza

E' una strana domanda quella che discende dal titolo di questo post, ma ad un certo punto, riflettendo sul processo di conoscenza scientifica, me la sono fatta.

In realtà la vera domanda è: che differenza c'è tra la creatività scientifica e la creatività artistica?

Cercando di commentare una slide di una presentazione divulgativa che aveva come obiettivo quello di definire il metodo scientifico, ed essendo la slide a mio giudizio troppo complicata, ho cercato un po' a modo mio di farne una sintesi. L'idea era quella di individuare gli elementi che giocano un ruolo importante nel processo di costruzione della conoscenza scientifica. Dimenticando la slide mi è venuto in mente che questo processo poteva essere caratterizzato da tre momenti.

Il primo di questi è l'osservazione dei fenomeni. Mi premeva sottolineare però che nel caso della scienza l'osservazione non è quella che si può pensare comunemente: vedo un sasso che cade, vedo un pendolo che oscilla, vedo la luna nel cielo. Dette semplicemente così queste osservazioni si possono definire di tipo "turistico", nel migliore dei casi di tipo "poetico" ("Che fai tu, luna, in ciel? Dimmi, che fai, silenziosa luna? [Leopardi]). Se per osservare la luna in cielo mi dovessi servire di un telescopio, cioè di un oggetto normalmente utilizzato per osservazioni scientifiche, la cosa non cambierebbe affatto. L'osservazione è scientifica quando è quantitativa, ovvero quando misura gli aspetti del fenomeno. Per capirci, se vedo un sasso cadere questa diventa un'osservazione scientifica quando mi domando a che velocità cade, se questa è costante oppure no, se dipende dall'oggetto che cade e da qualche sua caratteristica, se dipende dal luogo in cui mi trovo, ecc. E a fronte di queste domande faccio misure per provare a dare delle risposte. Stesso dicasi per il pendolo e per la luna.

Il secondo momento che costruisce la conoscenza scientifica è l'uso dell'immaginazione. Devo formulare un modello, una legge, che descrivano in modo coerente un'intera classe di fenomeni, che cioè la riducano a pochi principi generali comuni. E' ovvio che questo è il cuore del processo, ma mi pare altrettanto ovvio che sia il risultato di un'attività di immaginazione, di un esercizio di invenzione. Forse questo è un punto non scontato in chi ha un'opinione pregiudiziale della scienza. Tipicamente si tende a classificare la scienza come una pratica deduttiva, un'attività di scoperta di cose che stanno lì ad aspettare lo scienziato, i più cattivi tendono a classificarla come un processo mentale meccanico, addirittura freddo. Soprattutto non creativo. La creatività caratterizza l'attività artistica, non quella scientifica.

Einstein diceva che nella scienza l'immaginazione è più importante della conoscenza, perché quest'ultima è necessariamente limitata, mentre la prima non lo è. La conoscenza è quello che sai già, l'immaginazione serve per ipotizzare quello che non sai. Gli scienziati sono ben consapevoli del ruolo fondamentale dell'immaginazione nella scienza. Se accettiamo questo però, la scienza diventa automaticamente un'attività creativa. Le leggi sono più inventate che scoperte, infatti la loro validità non è mai universale ma sempre circoscritta in un limitato insieme fenomenico. Per fare un esempio la famosa legge di gravitazione universale di Newton è in realtà "sbagliata" se allargo lo spettro dei fenomeni che dovrebbe spiegare e per cui è stata pensata, è per questo che viene superata (ma non contraddetta) dalla Relatività Generale.

Quindi la scienza è un'attività creativa, come l'arte. Come l'arte? Ecco il punto. E' indubbio che l'arte sia un'attività creativa, così come è altrettanto indubbio che l'arte non ha molto a che fare con la scienza. Quindi queste due creatività in che cosa differiscono?

Si capisce tutto molto facilmente passando al terzo momento (i momenti citati all'inizio erano tre, ne ho commentati solo due). Il terzo momento è la verifica. Una qualunque ipotesi prodotta dalla capacità immaginativa dello scienziato, cioè dalla sua creatività, deve passare il vaglio degli esperimenti, deve trovare la verifica quantitativa nei fenomeni che intende descrivere e prevedere. Altrimenti l'ipotesi non vale niente, e viene scartata. Per l'arte questo passaggio è inesistente, l'immaginazione artistica deve fare i conti solo con sé stessa. Per fare un esempio che colleghi queste due creatività, se un'ipotesi scientifica, anche molto affascinante, non passa la verifica sperimentale, non può far parte della scienza ma può sempre essere utilizzata per scrivere un romanzo di fantascienza. Come diceva Feynman "la scienza è immaginazione dentro una camicia di forza. La scienza è fatta non per immaginare cose che in realtà non esistono, come succede nell'arte, bensì proprio per comprendere quelle cose che esistono".

Non solo questo aspetto è l'elemento distintivo fondamentale tra arte e scienza, ma è anche ovviamente l'elemento che definisce in modo chiaro il cosiddetto metodo scientifico. Sempre citando Feynman: "Se non è in accordo con gli esperimenti, l’ipotesi è sbagliata. In questa semplice affermazione c’è la chiave della scienza. Non importa quanto sia bella la tua ipotesi, non importa quanto intelligente sia la persona che l’ha formulata o quale sia il suo nome. Se non è in accordo con gli esperimenti è sbagliata".