Un mio amico sostiene la metafora che un LLM sia sostanzialmente paragonabile a "un amico bravo". Io non sono d'accordo. Un amico è una persona dotata di conoscenza che gli deriva dalla sua esperienza. Un LLM ha un'esperienza vastissima come quantità di dati acquisiti (molta di più di quella che potrebbe avere un qualsiasi amico bravo) ma estremamente limitata in quanto è solo simbolica, inoltre da questa esperienza non ricava nessun tipo di conoscenza. Dunque la metafora dell'amico bravo è quantomeno fuorviante.
Peraltro la metafora non tiene conto di un rischio molto importante nell'uso degli LLM, o quanto meno non lo mette in evidenza come secondo me sarebbe opportuno. Mi riferisco a quella passività (spesso inevitabile di fronte a uno molto più bravo di te) che può portare a non saper distinguere tra linguaggio fluente e conoscenza, ad assuefarsi a non distinguere tra una risposta ben formulata e una risposta fondata.
Indubbiamente il linguaggio è in grado di comunicare conoscenza ma non è sufficiente per fare conoscenza. E l'incapacità di ricostruire l'anello mancante tra linguaggio e conoscenza potrebbe essere la conseguenza di una pericolosa assuefazione agli LLM. Occorre sempre tener presente che il parlato degli LLM può essere facilmente scambiato per verità, mentre si tratta soltanto di produzione statistica di plausibilità. Se l'uso classico del motore di ricerca fornisce una serie di link che trattano in modi diversi l'argomento che si sta cercando e costringono ad un'analisi critica delle varie fonti trovate (basata sul confronto e su ulteriori approfondimenti) la risposta di un LLM tende ad essere spontaneamente acquisita così com'è.
Come scrive Walter Quattrociocchi "Gli LLM rendono molto più economica la produzione dei risultati e molto più costosa la loro validazione". Se si salta la validazione per pigrizia e per lo sforzo a cui ci obbliga, il processo di costruzione della conoscenza si arresta e ci lascia in mano solo una macchina che scrive cose che forse ad un certo punto neanche riusciremo più a comprendere.
Nessun commento:
Posta un commento