Intelligenza e incoscienza

Non voglio fare un discorso ampio su questo tema, non ne sarei in grado. Però ripensavo al mio piccolo programmino di gioventù che faceva giocare il computer a Master Mind (ne ho parlato in questo post).

Le cose che mi colpivano e divertivano erano due. Anzitutto il suo comportamento ai miei occhi risultava intelligente. D'altra parte lo stesso effetto (ben più amplificato) lo si ha per i programmi che giocano a scacchi. Ma la cosa che mi divertiva era che potevo farlo giocare "da solo", cioè formulare una sequenza che poi lui stesso avrebbe dovuto indovinare come se non la sapesse, stabilendo però sempre lui stesso i punteggi delle varie chiamate come se la sapesse.

Ecco, questo alternare il sapere e non sapere un'informazione secondo me è del tutto impossibile ad un essere umano, e in un certo modo mi fa pensare alla questione della coscienza. Cioè, mi viene da pensare che il computer può tranquillamente sapere e non sapere un'informazione perché è del tutto incosciente rispetto a quello che fa e a quello che sa.

Quella modalità del giochino in un certo senso metteva la macchina in una condizione in cui si capiva bene che lei non poteva in alcun modo distinguere tra l'esterno (altro da sé) e sé stessa. Era chiaro che non si poteva individuare come entità che si relaziona con un mondo esterno, una condizione imprescindibile per parlare di coscienza di sé. Credo quindi che in quel vecchio programmino coesistessero in modo abbastanza visibile intelligenza e incoscienza, e che forse questo è estendibile a tutt'oggi anche alle moderne AI.

Temperatura e Creatività

Alcune questioni che girano attorno all'intelligenza artificiale sono spesso molto più interessanti e stimolanti di quelle che tipicamente si discutono diffusamente (tipo: dove andremo a finire? Saremo superati? Continueremo a lavorare? Ecc.).

Una di queste, tutto sommato molto semplice (almeno a livello descrittivo) è il concetto di temperatura. Una IA può lavorare a diversi stati di temperatura e dare prestazioni anche significativamente differenti.

La temperatura è un parametro macroscopico che caratterizza un sistema termodinamico, e si traduce nella quantità di energia cinetica dei suoi componenti interni microscopici. Ad un aumento di temperatura corrisponde un aumento dell'energia cinetica media delle particelle di un gas e quindi un aumento della loro mobilità. Poiché non possiamo seguire le singole particelle nelle loro evoluzioni esatte la nostra descrizione del loro comportamento sarà di tipo statistico, il sistema all'aumentare della temperatura visita uno spazio delle configurazioni più ampio, possiamo dire che aumenta il movimento casuale (parliamo in linea di principio di un sistema completamente deterministico, di cui però perdiamo la capacità di descriverlo con esattezza), aumenta il rumore.

Il concetto di temperatura introdotto nell'IA procede un po' per analogia al corrispondete concetto termodinamico, direi anche in modo significativo. Un modello di IA (ad esempio una rete neurale addestrata) è di fatto un sistema perfettamente deterministico, cioè alle stesse premesse in input corrispondono le stesse conseguenze in output. Questo molto spesso non soddisfa la definizione di un comportamento intelligente (si pensi ad un chatbot che allo stesso identico prompt risponde sempre esattamente allo stesso modo). Avere delle risposte leggermente variate fornisce al sistema una maggiore "credibilità". A questo serve la regolazione della temperatura come parametro che caratterizza lo stato di funzionamento dell'IA. Se la temperatura è nulla il sistema rimane perfettamente congelato nel suo comportamento deterministico, man mano che la temperatura cresce il sistema acquista una componente rumorosa casuale nel suo output che la porta a diversificare leggermente ogni volta le sue risposte. Più esattamente (per un LLM) l'aumento della temperatura consente al sistema di scegliere in output non solo la parola più probabile ma anche parole che hanno ottenuto un "punteggio" più basso e che in linea di principio andrebbero scartate. Il sistema esplora su un insieme di possibilità caratterizzate da uno stesso livello minimo di probabilità e che le rende equivalenti ai fini della scelta che, limitatamente all'insieme ottenuto, risulterà casuale. Questo rumore nella scelta rende il comportamento della chatbot molto più "realistico".

Torniamo all'analogia con la termodinamica. Se il sistema è più rumoroso la sua descrizione sarà necessariamente meno precisa, il sistema nel suo complesso risulterà più "sfocato" (è aumentata la sua entropia). Un sistema "congelato" in un unico stato è descrivibile in modo più preciso (ordinato). Questa precisione però nega altre possibilità al sistema, non consente al sistema di diversificare il suo comportamento o di riaggiustarsi in funzione di eventuali cambiamenti esterni. Il sistema appare meno flessibile.

Nel caso dei sistemi di IA si introduce, in maniera magari un po' discutibile ma secondo me molto pertinente, il concetto di creatività. Si dice cioè che l'aumento della temperatura del sistema toglie precisione ma aggiunge creatività, e pone sempre in tal modo un problema di regolazione per ottenere il raggiungimento di uno stato ideale di equilibrio che ovviamente dipende dall'obiettivo che voglio raggiungere (temperatura più bassa per un sistema di traduzione, in cui devo privilegiare la precisione, temperatura più alta per la produzione di contenuti, sia linguistici che visivi o sonori).

Il fatto di calibrare in un sistema di IA il suo contenuto di creatività, peraltro legandolo semplicemente all'aggiunta di componenti casuali, risulta sicuramente un po' bizzarro, e ovviamente suscita comprensibilmente un certo scetticismo. Il termine "creatività" potrebbe essere percepito come improprio. Ma invece la cosa stimolante viene proprio da questo. Come non sappiamo caratterizzare ancora in maniera soddisfacente il concetto di intelligenza, non sappiamo farlo neanche con il concetto di creatività. Sono concetti che tendono a rimanere aree protette del nostro essere umani, zone delicate in cui riponiamo la nostra essenza, insomma roba che ci dà fastidio toccare con troppa leggerezza e semplicità.

Invece un'altra analogia secondo me feconda viene dalle teorie di evoluzione biologica. E' indubbio che il processo di evoluzione naturale è risultato in tutta la sua storia un processo estremamente creativo, basta guardarsi intorno e osservare quotidianamente le "infinite forme bellissime" (Sean. B. Carroll) che ha creato. Ma come è ben noto il meccanismo utilizzato dall'evoluzione è in sintesi un trial and error, dove il trial è generato da meccanismi puramente casuali e l'error è semplicemente il riscontro pratico con l'ambiente (premiante o meno). Cioè anche in questo caso il concetto così misterioso di creatività è semplicemente legato alla capacità del sistema di poter esplorare soluzioni leggermente diverse in modo del tutto casuale.

Il concetto di temperatura, intesa in generale come possibilità di muoversi casualmente nelle vicinanze di un comportamento collaudato, mi sembra una buona approssimazione dell'idea di creatività, che altrimenti rimane sempre troppo vaga e misteriosa.

Uscire fuori dalla gara che misura "il merito"

Nell'ultimo esame di stato (il vecchio esame di maturità) ci sono stati 3 o 4 studenti che hanno rifiutato di sostenere la prova orale, sapendo che sarebbero stati promossi lo stesso visti i crediti complessivi accumulati. Ovviamente con un punteggio basso perché privato dei punti che avrebbero acquisito sostenendo l'orale.

Di questo episodio che, ripeto, ha coinvolto 3 o 4 studenti su circa mezzo milione, mi ha colpito prima la notizia giornalistica che, secondo me piuttosto arbitrariamente, ha messo in risalto l'aspetto di "contestazione pubblica" verso l'esame di stato che questi studenti con la loro scelta avrebbero voluto esprimere, e poi la reazione immediata del Ministro dell'istruzione e del merito, Guseppe Valditara, di stampo punitivo: bocciatura per eventuali episodi analoghi a partire dal prossimo anno scolastico.

Entrambi questi atteggiamenti, veri o presunti, restituiscono un'immagine di uno Stato il cui compito dovrebbe essere quello di controllare i suoi giovani cittadini ribelli e correre subito ai ripari per rimetterli in riga. Peraltro, visto il sospetto che ho che la scuola sia sempre più pensata come un distributore di crediti, validi per la "corsa" al voto finale, a cui partecipano con entusiasmo genitori iperansiosi e iperprotettivi, questo tipo di provvedimenti, così severi e tempestivi mi suonano come una cosa del tipo "ragazzo, stai al gioco che ti ho preparato, raccogli tutti i crediti che puoi, pensa al tuo curriculum".

Si intuisce un certo fastidio solo nel sospettare che qualcuno voglia, e addirittura possa, uscire fuori dalla gara che misura "il merito".

La differenza tra arte e scienza

E' una strana domanda quella che discende dal titolo di questo post, ma ad un certo punto, riflettendo sul processo di conoscenza scientifica, me la sono fatta.

In realtà la vera domanda è: che differenza c'è tra la creatività scientifica e la creatività artistica?

Cercando di commentare una slide di una presentazione divulgativa che aveva come obiettivo quello di definire il metodo scientifico, ed essendo la slide a mio giudizio troppo complicata, ho cercato un po' a modo mio di farne una sintesi. L'idea era quella di individuare gli elementi che giocano un ruolo importante nel processo di costruzione della conoscenza scientifica. Dimenticando la slide mi è venuto in mente che questo processo poteva essere caratterizzato da tre momenti.

Il primo di questi è l'osservazione dei fenomeni. Mi premeva sottolineare però che nel caso della scienza l'osservazione non è quella che si può pensare comunemente: vedo un sasso che cade, vedo un pendolo che oscilla, vedo la luna nel cielo. Dette semplicemente così queste osservazioni si possono definire di tipo "turistico", nel migliore dei casi di tipo "poetico" ("Che fai tu, luna, in ciel? Dimmi, che fai, silenziosa luna? [Leopardi]). Se per osservare la luna in cielo mi dovessi servire di un telescopio, cioè di un oggetto normalmente utilizzato per osservazioni scientifiche, la cosa non cambierebbe affatto. L'osservazione è scientifica quando è quantitativa, ovvero quando misura gli aspetti del fenomeno. Per capirci, se vedo un sasso cadere questa diventa un'osservazione scientifica quando mi domando a che velocità cade, se questa è costante oppure no, se dipende dall'oggetto che cade e da qualche sua caratteristica, se dipende dal luogo in cui mi trovo, ecc. E a fronte di queste domande faccio misure per provare a dare delle risposte. Stesso dicasi per il pendolo e per la luna.

Il secondo momento che costruisce la conoscenza scientifica è l'uso dell'immaginazione. Devo formulare un modello, una legge, che descrivano in modo coerente un'intera classe di fenomeni, che cioè la riducano a pochi principi generali comuni. E' ovvio che questo è il cuore del processo, ma mi pare altrettanto ovvio che sia il risultato di un'attività di immaginazione, di un esercizio di invenzione. Forse questo è un punto non scontato in chi ha un'opinione pregiudiziale della scienza. Tipicamente si tende a classificare la scienza come una pratica deduttiva, un'attività di scoperta di cose che stanno lì ad aspettare lo scienziato, i più cattivi tendono a classificarla come un processo mentale meccanico, addirittura freddo. Soprattutto non creativo. La creatività caratterizza l'attività artistica, non quella scientifica.

Einstein diceva che nella scienza l'immaginazione è più importante della conoscenza, perché quest'ultima è necessariamente limitata, mentre la prima non lo è. La conoscenza è quello che sai già, l'immaginazione serve per ipotizzare quello che non sai. Gli scienziati sono ben consapevoli del ruolo fondamentale dell'immaginazione nella scienza. Se accettiamo questo però, la scienza diventa automaticamente un'attività creativa. Le leggi sono più inventate che scoperte, infatti la loro validità non è mai universale ma sempre circoscritta in un limitato insieme fenomenico. Per fare un esempio la famosa legge di gravitazione universale di Newton è in realtà "sbagliata" se allargo lo spettro dei fenomeni che dovrebbe spiegare e per cui è stata pensata, è per questo che viene superata (ma non contraddetta) dalla Relatività Generale.

Quindi la scienza è un'attività creativa, come l'arte. Come l'arte? Ecco il punto. E' indubbio che l'arte sia un'attività creativa, così come è altrettanto indubbio che l'arte non ha molto a che fare con la scienza. Quindi queste due creatività in che cosa differiscono?

Si capisce tutto molto facilmente passando al terzo momento (i momenti citati all'inizio erano tre, ne ho commentati solo due). Il terzo momento è la verifica. Una qualunque ipotesi prodotta dalla capacità immaginativa dello scienziato, cioè dalla sua creatività, deve passare il vaglio degli esperimenti, deve trovare la verifica quantitativa nei fenomeni che intende descrivere e prevedere. Altrimenti l'ipotesi non vale niente, e viene scartata. Per l'arte questo passaggio è inesistente, l'immaginazione artistica deve fare i conti solo con sé stessa. Per fare un esempio che colleghi queste due creatività, se un'ipotesi scientifica, anche molto affascinante, non passa la verifica sperimentale, non può far parte della scienza ma può sempre essere utilizzata per scrivere un romanzo di fantascienza. Come diceva Feynman "la scienza è immaginazione dentro una camicia di forza. La scienza è fatta non per immaginare cose che in realtà non esistono, come succede nell'arte, bensì proprio per comprendere quelle cose che esistono".

Non solo questo aspetto è l'elemento distintivo fondamentale tra arte e scienza, ma è anche ovviamente l'elemento che definisce in modo chiaro il cosiddetto metodo scientifico. Sempre citando Feynman: "Se non è in accordo con gli esperimenti, l’ipotesi è sbagliata. In questa semplice affermazione c’è la chiave della scienza. Non importa quanto sia bella la tua ipotesi, non importa quanto intelligente sia la persona che l’ha formulata o quale sia il suo nome. Se non è in accordo con gli esperimenti è sbagliata".

Conoscenza razionale e intuizione poetica

In una presentazione di un libro che avrebbe come argomento un tema che si potrebbe sintetizzare in "come funziona la musica" (cioè, come è fatta, qual è la logica con cui viene costruita, ecc.), ho trovato questa frase: "Sometimes I hear people saying that knowing how music works destroys the magic in music", a volte sento dire che sapere come funziona la musica distrugge la magia della musica.

Credo che mi sia capitato in passato di incontrare atteggiamenti simili, in cui si distingue un modo "magico" ovvero poetico di sentire le cose del mondo contrapposto alla loro conoscenza razionale vista come qualcosa che "toglie" loro questa poesia.

Io questa cosa non la capisco, e per quel poco che la capisco non la condivido. Io credo che, parafrasando Faynman, "la conoscenza può solo aggiungere; davvero non vedo come e che cosa possa togliere".

P.S.: oggi, 5 agosto, leggo una frase che mi fa ripensare a questo post, che mi ricorda la differenza tra contemplare una cosa bella e conoscerla. "Tutto il creato non è che pura calligrafia e non c'è un solo segno che non abbia senso. E quelli che si estasiano nel contemplare questi segni senza decifrarli sono come la ragazza di campagna che si diverte a contemplare la bella scrittura di un manoscritto che è giunto nelle sue mani, ma senza saper leggere e senza sapere che questi segni sono una lettera d'amore che l'imperatore scrisse per lei". [Ernesto Cardenal]

Da genitori a padroni di cani

Sono in una periodo della mia vita in cui ho passato ormai da qualche anno la fase di svezzamento dei figli. Questa fase ovviamente l'ho vissuta insieme a tutta una serie di amicizie e conoscenze che più o meno hanno fatto la mia stessa strada e che ho avuto modo di osservare. C'è stato nel tempo un comportamento che ho messo a fattor comune in un buon numero di persone mie coetanee che mi ha colpito e che vorrei appuntarmi in questo post.

Nella fase "genitoriale iniziale", decisamente la più intensa per la capacità che questo tipo di esperienza ha di cambiarti la vita, ho notato dei comportamenti che ho sempre giudicato esagerati nei confronti dei figli, nella direzione della loro "pucciosità" (termine mutuato da un giornalista che seguo molto nel suo lavoro e che lui utilizza in tutt'altro contesto). Nei confronti del bimbo si sviluppa una sensibilità molto "estetizzante" (comprensibilmente), si esalta non solo la sua indubitabile bellezza ma l'osservazione sistematica di tutte le sue espressioni, le sue "mossettine", i suoi atteggiamenti infantili carichi di tenerezza. Questo nel tempo delle foto facili e dei social è diventato materiale per documentazioni fotografiche infinite, e i bimbi sono spesso diventati "pupazzetti" da vestire e fotografare-filmare in infiniti modi. L'affetto irrazionale porta ad esibire anche cose assolutamente insignificanti, ad esempio i loro disegnini (di cui si riempiono le scrivanie dei genitori-lavoratori, ora molto meno, vista la diffusione dello smart-working), e i genitori si "sbrodolano" in racconti non necessari di episodi "unici" e sentiti infinite volte. Questi atteggiamenti genitoriali secondo me "educano" il genitore, in questa sua prima fase, ad un atteggiamento come ho detto prima estremamente "puccioso" nei confronti dei propri figli che rischia di essere prolungato in maniera impropria anche nelle fasi successive, completamente diverse.

Arriva infatti il momento sacrosanto e affascinante in cui i figli ti mandano a quel paese. Ne sentono la necessità e lo fanno. Questo può creare frizioni in famiglia ma soprattutto sancisce la scomparsa del bimbo puccioso che aveva regalato ai genitori tanto affetto totale e incondizionato. Cosa ho visto succedere in questa fase di transizione in molti miei coetanei? Il sorgere dell'esigenza di farsi un cane, che si rivela ai miei occhi un surrogato estremamente potente di quella pucciosità che è rimasta viva nella memoria dei genitori e di cui rischiano di rimanere orfani. Il cane cristallizza definitivamente la soddisfazione di questa esigenza vita natural durante (almeno la sua, quella del cane). Il cane non ha una fase di indipendenza dal padrone, non ne ha bisogno, e passa la sua esistenza (mi riferisco ovviamente ai nostri attuali cani casalinghi) a fare e ricevere coccole. Questa transizione bimbo puccioso - cane puccioso mi appare come un probabile e piuttosto diffuso step evolutivo del mestiere del genitore. I figli cambiano e lasciano in eredità ai genitori il cane per continuare a soddifare la loro infinita voglia di coccole.

Ancora un orso cattivo

Giorni fa leggo di un ennesimo episodio di aggressione di un orso verso un essere umano. Ce ne sono stati altri nel passato che mi hanno suggerito dei post (qui e qui). Scopro però, leggendo l'articolo, che l'uomo si era avvicinato ad un'orsa con i cuccioli e avevo provato a darle da mangiare per filmarla (non sembra un'informazione certa). L'uomo è morto e l'orsa è stata abbattuta (e i cuccioli? Non si sa).

La grande bellezza della natura nasce da un misto di fascino e paura. Quasi tutti gli ambienti naturali selvaggi fanno questo effetto. Ho il sospetto però che l'abitudine ormai consolidata di avere immagini e filmati ci trasmette facilmente il fascino ma ci priva della paura (certo non si può avere paura di un filmato).

Io che mi trovo spesso sui social a vedere reel di gorilla, splendidi animali, in modo del tutto innocuo e senza percepire alcun pericolo, potrei forse avere l'istinto di avvicinarmi nel momento in cui me ne trovassi di fronte uno reale. Ammetto che, razionalmente parlando, sarebbe una cosa da pazzi ma forse è proprio questo il meccanismo che porta le persone a fare una cosa simile (cioè una cosa da pazzi).

Spero di non incontrare mai da solo un gorilla vero nel suo habitat (paura), anche se mi piacerebbe (fascino).