Una definizione degli LLM

In un suo articolo su un almanacco di Micromega il filosofo dell'infosfera Luciano Floridi caratterizza con poche ed efficaci considerazioni gli LLM (Large Language Model), cioè quei software di intelligenza artificiale che elaborano il linguaggio naturale con sorprendente efficacia. In particolare mi ha colpito un'analogia, probabilmente buona solo in parte, ma interessante perché demistifica l'intelligenza artificiale e la riporta per analogia a qualcosa a cui siamo abituati da molto tempo. Questa analogia viene evidenziata da un tentativo di definire in sintesi questi nuovi strumenti, di cui al momento ChatGPT costituisce l'esempio più popolare. Secondo Floridi ChatGPT può essere definito come "calcolatrice tascabile testuale inaffidabile". In effetti una vecchia calcolatrice (dico vecchia perché sto parlando di dispositivi con cui la mia generazione è cresciuta ma che da un po' di tempo non si usano più) ha un'abilità di calcolo sensazionale, paragonata all'uomo, ma nonostante ciò non induce nessun pensiero "preoccupato" per il nostro futuro (o forse a suo tempo lo ha fatto?). Floridi giustifica la sua definizione con la seguente affermazione: "Un LLM fa con il linguaggio quello che una calcolatrice fa con i numeri: il primo crea risposte alle domande senza avere una comprensione del linguaggio che genera, così come la seconda crea risposte matematiche senza avere una comprensione di cosa sia la matematica. E come una calcolatrice, ChatGPT produce le risposte senza una banca dati".

C'è però un'importante differenza tra i due strumenti, e la definizione di Floridi cerca di tenerne conto. La calcolatrice è un oggetto che esegue calcoli matematici e per questo utilizza algoritmi deterministici, dato un certo input l'output prodotto è sempre lo stesso, e sarebbe strano se non fosse così, visto che stiamo parlando di conti. Dunque la calcolatrice è uno strumento estremamente affidabile. Un LLM invece elabora il linguaggio naturale, sarebbe strano se a fronte di uno stesso input producesse esattamente lo stesso output. L'algoritmo di un LLM (come quelli dell'ultima generazione delle IA) è infatti di tipo probabilistico. Ciò non consente ad un LLM di essere sempre "perfetto" (come lo è una calcolatrice), spesso risulta inaffidabile, ma proprio per questo ha una capacità di imparare, ed è in fondo la caratteristica che avvicina il suo comportamento a quello di un essere umano, fino al punto di creare "preoccupazioni". Floridi sottolinea questa differenza con la frase seguente: "Un LLM è soggetto ad 'artefatti probabilistici' (allucinazioni). Questo aspetto è ineliminabile per la natura statistica dello strumento, che a volte funziona male. La calcolatrice, che è deterministica, o funziona o non funziona. L'unico modo per ridurre al minimo gli errori intrinseci di un LLM è migliorare lo strumento nelle sue versioni successive, con ancora più soldi, ancora più parametri, ancora più dati con cui allenarlo, perché l'errore è più probabile là dove c'è meno addestramento".

Modelli e realtà

Classica e ormai frequente è la discussione sul gender-fluid, stimolata dall'esperienza dei nostri figli, molto diversa da quella che è stata la nostra alla loro età. Loro convivono molto di più di quanto abbiamo fatto noi con l'omosessualità e con la condizione transgender, sono molto più abituati di noi ad accettarla, e questo è piuttosto evidente. Noi abbiamo le nostre brave difficoltà, essendo vissuti in una società in cui tutto ciò era molto poco visibile e faceva ancora parte spesso di discussioni goliardiche, oggi quasi totalmente scomparse (sembrerebbe).

Dal momento che la natura ci mostra, per gran parte degli aspetti biologici che possiamo quotidianamente osservare, uno spettro di soluzioni pressoché infinito, è un po' strano che questa ampiezza di spettro non si presenti anche nella sfera sessuale, dove invece pretendiamo di avere una classificazione ben marcata tra sesso maschile e sesso femminile, con orientamento totalmente eterosessuale. Si tratta evidentemente di un modello culturale più che di una situazione reale. I modelli del mondo sono il fondamento della costruzione della conoscenza ma occorre sempre confrontarli con la realtà, il rischio è che altrimenti questa realtà non riusciamo più a coglierla, perché il nostro modello la ricopre (e la nasconde).

Le dottrine religiose in questo sono state un fattore determinante anche se certamente non unico. Una dottrina è sempre l'imposizione di un modello del mondo sulla realtà, da cui si fa discendere anche tutta una serie di comportamenti coerenti con questo modello. Il modello può essere così efficacemente introiettato che non se ne percepisce più il suo eventuale distacco dalla realtà, anzi, da un certo punto in poi si tende a forzare l'appiattimento della realtà sul modello.

La società sempre più secolarizzata è sempre più indipendente da modelli dottrinali, li sta smontando e probabilmente ci sta dando una maggiore capacità di vedere la complessità del reale. Dico probabilmente perché la dipendenza da eventuali "altri" modelli che siamo costantemente portati a farci e l'attaccamento ad essi che tendiamo a sviluppare per motivi di sicurezza e conforto ci minacciano costantemente.

La storia del signor X (ma non è la mia storia)

Io sono il signor X, appartengo alla classe media e vivo in questo tempo.

I miei genitori mi vogliono bene e mi hanno sempre fatto tanti regali, tantissimi. Proprio perché mi vogliono bene non mi hanno mai fatto mancare niente, qualunque gioco volessi me lo hanno sempre comprato. D'altra parte potevano farlo, non avevano ragioni per non farlo. Per essere precisi ottenevo anche più di quello che desideravo. Non dovevo sforzarmi troppo, neanche per immaginare nuovi desideri. Insomma, chiedevo e ottenevo un gran numero di cose che potevo utilizzare o no, il loro utilizzo non era sempre scontato. Potevo anche semplicemente averli. Spesso le idee dei regali non erano neanche mie, erano dei miei genitori.

A scuola ero bravo. I miei genitori ci tenevano a che risultassi un bambino intelligente. Studioso non tanto, non necessariamente, ma intelligente ... quello si, senz'altro. Da un certo punto in poi ho cominciato ad avere un po' di timori, temevo che le cose a scuola diventassero troppo difficili. Mi accorgevo che anche i miei genitori la pensavano un po' così. Era comprensibile, volevano preservarmi dalle difficoltà, e volevano che rimanessi sempre bravo, senza problemi nello studio, senza traumi da superare. Volevano giustamente assicurarsi anche che potessi rimanere bravo a scuola, senza che le difficoltà mi travolgessero, mi facessero venire dei complessi e mi provocassero atteggiamenti di rifiuto. Era perché mi volevano bene, pensavano sempre al mio benessere.

Per lo stesso motivo mi tenevano sempre d'occhio, si preoccupavano delle mie amicizie e dei miei spostamenti, mappavano costantemente la mia posizione con una app dello smartphone. Non si sa mai, può sempre succedere qualcosa, potevano sempre capire se mi trovavo in un posto che conoscevano oppure no, se stavo in un posto che quadrava con quello che loro sapevano oppure no, in caso di sospetti mi chiamavano e si assicuravano che potessi rispondergli ("che fai? ma dove stai? com'è che ti trovi lì?"). Ero protetto. A tutt'oggi è ancora così.

Ad un certo punto non avevo più molto chiaro perché avrei dovuto studiare, e soprattutto che cosa. Non mi era chiaro per quale motivo andando avanti avrei dovuto passare tanto tempo sopra a dei libri, a leggere e ripetere tutte le materie, ad esercitarmi. I miei genitori cominciarono a dirmi che lo studio mi avrebbe permesso di fare un buon lavoro, cioè un lavoro che mi avrebbe dato i soldi sufficienti per comprare le cose che mi servivano. Crescendo le cose che volevo non avrei potuto continuare a chiederle ai miei genitori come avevo sempre fatto. Per comprare le cose dovevo guadagnare. Questo avrebbe cambiato la mia vita.

Anche la scuola mi parlava di questo, a suo modo. La mia vita a scuola era misurata da una serie di numeri, i voti, che davano a me e a tutti in modo chiaro e inequivocabile la rappresentazione della mia posizione nella piccola società scolastica. I miei genitori accedevano regolarmente ad un punto del sito web della scuola dove leggevano la mia situazione scolastica rappresentata da una matrice di numeri. C'erano anche altri numeri da tenere d'occhio, si chiamavano crediti scolastici. I crediti al contrario dei voti si sommavano e si potevano guadagnare in vari modi, principalmente con i voti ma anche con attività scolastiche di varia natura. Più ne guadagnavo e più avrei ottenuto alla fine un numero alto con cui sarei uscito dalla scuola. Dovevo guadagnare crediti, questo era un obiettivo importante. I crediti li incontrai successivamente anche all'università, anche quelli si cumulavano, e in una certa misura guidavano le scelte dei miei esami, la mia carriera di studio.

Ma io non sapevo mica che cosa fare all'università, sapevo solo che ci dovevo andare, che sarebbe stato l'ultimo scalino per arrivare a lavorare. E non è che avessi idea di quale sarebbe stato il mio lavoro. Una cosa in più però la sapevo, perché me la dicevano i miei genitori e un po' tutti quanti. Dovevo fare le cose in fretta, fare delle scelte che mi avrebbero portato in poco tempo all'obiettivo. Questo era importante e questo si che lo avevo bene in testa.

Al momento in cui scrivo l'obiettivo è raggiunto .... e adesso?

Il metodo scientifico

«Ora vediamo come si fa a scoprire una nuova legge [scientifica].

In generale, il procedimento per scoprire una nuova legge è questo:

• per prima cosa tiriamo a indovinare... non ridete, è proprio così che facciamo!
• poi calcoliamo le conseguenze della nostra intuizione per vedere quali circostanze si verificherebbero se la legge che abbiamo immaginato fosse giusta;
• infine confrontiamo i risultati dei nostri calcoli con la Natura - con gli esperimenti, con l'esperienza, con i dati dell'osservazione - per vedere se funziona.

Se non è in accordo con gli esperimenti è sbagliata.

In questa piccola affermazione c'è la chiave della Scienza. Non importa quanto bella sia la tua intuizione, non importa quanto intelligente sia la persona che l'ha formulata o quale sia il suo nome: se non è in accordo con gli esperimenti è sbagliata. È tutto qui.

Ora, immaginate di avere avuto una buona intuizione e di avere calcolato che tutte le conseguenze della vostra premessa sono in accordo con gli esperimenti... la teoria allora è giusta? No, semplicemente non si è potuto dimostrare che sia sbagliata, perché in futuro un numero maggiore di esperimenti potrebbe scoprire qualche discrepanza e la teoria si rivelerebbe sbagliata.

È per questo che le leggi di Newton per il moto dei pianeti sono rimaste valide per così tanto tempo: [Newton] ha ipotizzato la legge della gravitazione e con questa ha calcolato i moti dei pianeti e li ha confrontati con gli esperimenti... e ci sono volute diverse centinaia di anni prima che un minuscolo errore nel moto di Mercurio fosse osservato. Durante tutto quel tempo nessuno era stato in grado di dimostrare che la teoria fosse sbagliata e poteva essere considerata temporaneamente giusta. Ma non può mai essere dimostrata giusta, perché le osservazioni di domani possono svelare che quello che credevamo giusto era in realtà sbagliato. Per cui non abbiamo mai la certezza di essere nel giusto, possiamo essere sicuri solo di esserci sbagliati.

Non possiamo definire nulla con assoluta precisione. Se proviamo a farlo ci coglie quella paralisi del pensiero che è tipica dei filosofi... uno dice all'altro: "Non sai di cosa sto parlando" e l'altro risponde "Che cosa intendi per parlare? che cosa intendi per sapere? che cosa intendi per cosa?".»

Richard Feynman (1918-1988), premio Nobel per la fisica 1965.

 

Musicisti moderni a corte

Questa mattina leggo che i Maneskin si sono esibiti alla festa di Natale di Luxottica. E' già una notizia che mi ha lasciato un po' spiazzato. Ma poi capisco dall'articolo che non si tratta di un fenomeno isolato. Mi era sfuggito ma già da qualche anno i gruppi e i cantanti, italiani e stranieri, prendono in considerazione e spesso accettano la partecipazione a feste private e le aziende mettono a disposizione compensi sempre più alti per questi eventi. L'articolo fa anche giustamente notare che non si tratta di musicisti al termine della carriera, tutt'altro.

Sembra che questo sia dovuto alla crisi del mercato discografico (oramai praticamente scomparso) e ai meccanismi attuali di distribuzione delle opere molto poco redditizi per gli autori. Il risultato è che adesso i concerti sono diventati la principale fonte di guadagno per i musicisti. Questo potrebbe anche essere visto come un fatto positivo, perché è bella l'idea di aumentare le possibilità di ascolto della musica dal vivo, ma credo che per rendere redditizi questi concerti non basta salire su un palco e suonare, come sarebbe tutto sommato normale, occorrono invece investimenti ingenti, organizzazioni complesse e difficili. Questo costringe i musicisti ad entrare in una logica di mercato che secondo me può lasciare ben pochi spazi a scelte artistiche libere, personali, magari innovative.

E adesso cominciano ad arrivare gli eventi privati, organizzati e scelti direttamente dalle aziende, disposte ad investire grosse cifre per curare la loro immagine sia al loro interno tra i dipendenti sia all'esterno, diffondendo, come mi pare che succeda, in forma più o meno autorizzata, filmati sui numerosi social seguitissimi. Effettivamente gli eventi privati di questo tipo possono rivelarsi estremamente convenienti per i musicisti, i costi sono ridotti, gran parte dell'organizzazione è in capo all'azienda che li ospita, i concerti sono spesso relativamente brevi e a quanto ho capito ben pagati. Certamente pagati di più in relazione all’impegno. I Maneskin sono arrivati da Roma ad Agordo (Belluno) poco prima di esibirsi (23:15 circa) per poi ripartire subito a fine concerto (poco prima dell'una) portandosi a casa un cachet di 800 mila euro. Tra l'altro il loro rapporto con i grossi brand non finisce qui visto che per mesi la TIM ce li ha fatti ascoltare nelle sue pubblicità. E alla fine anche i format come x-factor, se pure non sono aziende, poco ci manca.

Al momento non è così e anzi, forse questa cosa è ancora percepita come un tabù dal pubblico e dagli stessi musicisti, ma forse in futuro molta musica avrà sempre più bisogno di soldi e di legarsi quindi ai grossi brand, e questi saranno sempre più importanti per veicolarla, e forse per produrla. Vedo delle somiglianze con il cinema, sempre più produttivo, sempre più a riciclo di idee, sempre più povero di registi che oltre a riprendere in modo impeccabile le scene siano anche autori, ideatori delle loro opere, siano protagonisti di un loro personale processo creativo, insomma che siano artisti. Il riciclo delle idee anche in musica certe volte è così evidente che ogni tanto mi viene da pensare che stiamo cercando di fare peggio delle intelligenze artificiali, gli stiamo preparando il terreno.

Sarò un trombone, sarò un parruccone, ma alla fine di questa riflessione mi viene in mente Mozart. Un artista che è praticamente morto di stenti per aver fatto una scelta di libertà che all'epoca aveva qualcosa di rivoluzionario, una scelta da vero illuminista. I musicisti suoi predecessori e suoi contemporanei erano tutti impiegati alle corti dei nobili dell'epoca, stipendiati per fare le cose che gli venivano chieste in funzione delle esigenze della corte e dello svago di principi, duchi, arcivescovi, ecc. Mozart ha avuto il coraggio (col talento che era cosciente di avere) di svincolarsi dalle corti e intraprendere una carriera da artista libero, sperando che il suo lavoro gli consentisse comunque di poter vivere. Troppo avanti sui suoi tempi, purtroppo. Anche più avanti di certi musicisti attuali.

Pot-pourri di Natale

Leggo che il Vaticano ha approvato la benedizione delle coppie di fatto e di quelle formate da persone dello stesso sesso. Questo non implica una equiparazione dell'unione di queste coppie al matrimonio che continua ad essere considerato un sacramento che stabilisce "un'unione esclusiva, stabile e indissolubile tra un uomo e una donna, naturalmente aperta a generare figli". Con la solita inconfondibile inerzia la Chiesa sembra avvicinarsi ad una realtà che precedentemente non prendeva in considerazione e dimostra con ciò una certa capacità di rinnovarsi. Questo suo atteggiamento, messo a confronto con la rigidità che sembrano avere altre religioni come ad esempio l'islam, ci appare come un elemento positivo intrinseco della Chiesa Cattolica sulle altre religioni del nostro tempo. Io però non posso fare a meno di pensare che la storia della Chiesa è da sempre una storia di rinnovi indotti dal progresso della cultura occidentale più che da elementi intrinseci del cattolicesimo, che invece mi appare come una struttura di potere bisognosa di adattarsi ai tempi per mantenersi viva e vegeta. Nella sua capacità di rinnovarsi, peraltro sempre cauta e limitata, non ci trovo niente di particolarmente positivo, piuttosto trovo che sia un elemento di ambiguità.

Leggo che Chiara Ferragni, insieme alla società Balocco, è sotto inchiesta per una campagna promozionale di una linea di pandori presentata come iniziativa di beneficenza per l'ospedale Regina Margherita di Torino. In realtà la beneficenza era già stata stabilita con un ammontare fisso ancora prima delle vendite e indipendentemente da esse. In pratica l'annuncio delle vendite dei pandori con una percentuale da dare in beneficenza era falsa e usata come "phishing pubblicitario" per aumentare le vendite stesse. Questa notizia mi fa venire dei rigurgiti di cristianesimo. Se si vuol far del bene a qualcuno non è certo necessario annunciarlo, lo si fa e basta. Bella la frase del vangelo che dice "la tua sinistra non sappia quello che fa la tua destra". In questo caso invece il senso della frase evangelica è completamente ribaltato: è importante annunciare quello che si fa più che farlo veramente. Evitando di farsi sputtanare. Perché il problema è proprio quello, non importa quello che accade, ma quello che se ne racconta.

Leggo che il Servizio Sanitario Nazionale ha fornito assistenza completa a una donna per il suo suicidio assistito. E' la prima volta che succede in Italia. E' legale non per una legge del parlamento (che non c'è) ma per una sentenza della Corte Costituzionale del 2019. In assenza di una vera e propria legge ogni caso è affidato volta per volta alla gestione delle singole Aziende Sanitarie Locali. Il fatto di non avere una legge che consenta a una persona di scegliere liberamente della propria vita e della propria morte è il retaggio di un modo di pensare la vita, anche la nostra stessa vita, come qualcosa che non ci appartiene e su cui non possiamo esercitare la nostra libertà. Perché la nostra vita è di qualcun altro, di qualcosa o qualcuno che ci trascende e a cui apparteniamo per natura. Anche se poi finisce che c'è sempre qualcuno che assume il ruolo di intermediario e interprete di questa trascendenza, chissà com'è. Leggo anche di una ragazza morta per mano del suo ex-fidanzato, che non accetta la libertà di lei di scegliere il suo destino, e pensa di poter essere intermediario e interprete di questo destino, scegliendo lui per lei. Due notizie che hanno una somiglianza sinistra.

Conforto e Potere (e società ipocrita)

Le religioni, dal punto di vista sociale, sono tipicamente caratterizzate da due aspetti. Il primo è il valore di "conforto" che riescono a dare all'individuo e quindi alla comunità. Il dramma della consapevolezza della propria morte può rendere l'esistenza stessa angosciante, priva di una prospettiva adeguata. Le religioni tamponano più o meno efficacemente questa angoscia e soddisfano questo bisogno di vedersi in una dimensione più ampia rispetto alla limitatezza del proprio destino. Il secondo riguarda la capacità delle religioni di fare promesse, e la "gestione" di queste promesse si trasforma tipicamente in esercizio di un potere, peraltro un potere fortissimo perché legato a destini ultraterreni assoluti. La combinazione di queste caratteristiche ha la capacità di rendere l'esistenza più accettabile, le sofferenze più sopportabili e il destino delle comunità in mano a elementi sovrannaturali normalmente gestite da classi di potere. Tutto ciò può dare un certo grado di stabilità sociale e accettazione delle proprie condizioni.

Il Cattolicesimo nella nostra civiltà occidentale secolarizzata ancora mantiene in buona parte questa sua funzione di generare conforto nella società e potere dove serve poiché il processo di secolarizzazione anziché eliminarlo lo ha trasformato in una grande bolla di ipocrisia. E questo perché in un mondo di comforts che si possono acquistare ovunque a che accompagnano le nostre vite rischia di mancarcene uno che ci possa far digerire meglio la nostra morte, non importa quanto sia vero, siamo ben abituati alle cose finte. Ci vuole qualcuno che ci metta una mano sulla spalla e ci faccia capire che meritiamo il regno dei cieli, senza troppo impegno. Ci serve un messaggio religioso poco impegnativo, interpretabile a nostro gusto, che si adatti alle nostre vite più che il viceversa.

Ma come fa un vero cattolico (ammesso che ce ne siano ancora in giro) ad accettare un processo di edulcorazione così smaccato e a farlo passare (e farselo passare) come un credo religioso sincero? Capisco che l'ipocrisia serva proprio a questo, e la nostra società di comportamenti ipocriti ne ha da vendere, ma certe volte penso che ce ne voglia proprio una dose esagerata. E' imbarazzante.

Basterebbe pensare al famoso episodio del vangelo in cui un giovane vestito bene, accompagnato dal suo asino e dalle sue merci, si presenta a Gesù e chiede cosa deve fare per guadagnare il regno dei cieli. I seguaci di Gesù sono schiere di morti di fame, a cui Gesù deve dare da mangiare compiendo miracoli (come quello dei pani e dei pesci). E' anche a questi che il giovane si presenta. Gesù risponde richiamandogli il rispetto dei dieci comandamenti. E' quasi una risposta formale, la formula che serve per calmare la coscienza. Ma il giovane sorprendentemente insiste, perché lui i comandamenti li rispetta da sempre, perché lui è di buona famiglia, onesta e religiosa. Però vuole pure essere sicuro di poter ottenere quello che chiede, perché probabilmente è consapevole di avere davanti a sé una figura non proprio allineata ai suoi modi di pensare. Gesù allora reagisce senza mezzi termini: "lascia tutto e seguimi", e il bravo ragazzo torna tristemente sui suoi passi. E' in questo episodio che spunta la famosa metafora della cruna dell'ago. Sarà pure controversa la traduzione ma il senso secondo me è chiarissimo e senza sfumature. Se sei ricco (non ricchissimo e potente, il giovane chiaramente non lo è), benestante rispetto ai diseredati del mondo, sei già in una posizione sbagliata. Se poi questa tua posizione la vuoi anche giustificare e conservare a tutti i costi perché questo è il tuo modo di pensare e di vivere, allora sei definitivamente tagliato fuori.

E a questo punto un cattolico dovrebbe farsi questa "semplice" domanda: chi è questo bravo giovane di buona famiglia, vestito bene, con il suo asino, le sue merci. Chi è, caspita?? Non è abbastanza chiaro che siamo NOI? Appare chiaro e tondo solo a me? Non siamo NOI i benestanti di questa società opulenta (in fondo la stessa dell'epoca)? Non siamo NOI le brave persone che non fanno male a nessuno? Che non fanno nulla di male? Com'è che non ci identifichiamo con questo bravo ragazzo? Con chi vogliamo identificarci, con la massa dei diseredati seguaci di Cristo? Così, gratuitamente? Siamo NOI che non passeremo mai le porte di quel regno dei cieli che pensiamo di ottenere automaticamente per il semplice fatto che non facciamo niente di male.

L'ipocrisia serve per schermare la realtà scomoda che non vogliamo vedere. In questo caso consente di fare in modo che la religione cattolica mantenga le sue funzioni di elemento di conforto per gran parte della popolazione (sempre meno religiosa) e che purtroppo sia ancora funzionale al potere.