Ti è mai capitato di chiedere qualcosa a un chatbot e ricevere una risposta sicura, ben scritta e completamente inventata? Non è un difetto occasionale. Capire perché succede è il modo migliore per capire cosa sono questi strumenti, e come usarli senza farsi fregare.
Il trucco di fondo: indovinare cosa viene dopo
Quando scrivi «Ci vediamo» sul telefono, la tastiera ti suggerisce «domani» o «stasera». Lo fa perché ha imparato quali parole seguono più spesso quelle che hai scritto.
Un LLM (Large Language Model, «modello linguistico di grandi dimensioni») funziona sullo stesso principio, ma su una scala completamente diversa. Viene addestrato su una quantità enorme di testi: libri, articoli, pagine web, codice. Il suo compito durante l’addestramento è sempre lo stesso: dato un pezzo di testo, prevedere il frammento successivo. Lo ripete miliardi di volte, e così assorbe regolarità: la grammatica, lo stile, i fatti che ricorrono spesso, perfino la struttura di un ragionamento.
«Quindi è solo un autocompletamento?»
Detta così sembra una banalità, ma sarebbe un errore liquidarlo. Per prevedere bene come continua un testo di fisica, di diritto o di cucina, bisogna aver assorbito parecchio di quella materia. Per questo gli LLM riescono a riassumere, tradurre, spiegare, scrivere codice.
Il punto è che cosa hanno imparato: i pattern del linguaggio, non l’esperienza del mondo. E da qui nascono le differenze con il modo in cui pensiamo noi.
Tre cose che un LLM non fa come te
Non consulta un archivio, ricostruisce. Non c’è un database di fatti da cui pescare la risposta giusta. Il modello genera la risposta più plausibile in base a ciò che ha imparato. Ma plausibile non vuol dire vera, ed è da qui che nascono le cosiddette «allucinazioni».
Non sa bene cosa non sa. Una persona onesta, davanti a una domanda a cui non sa rispondere, dice «non lo so». Un modello tende invece a produrre comunque una risposta, e con lo stesso tono fluido e convincente di quando ha ragione. La sicurezza del tono non dice nulla sulla correttezza.
Non ha un vissuto. Non ha mai assaggiato un limone, non ha una reputazione da difendere, non rischia nulla se sbaglia. Quando scrive «ti capisco», sta producendo ciò che in quel contesto si scrive. Se dietro ci sia qualcosa che somiglia a una forma di comprensione è una questione ancora aperta tra i ricercatori, ma di sicuro non è la nostra.
Un esempio concreto
Prova a chiedere: «Citami tre studi scientifici su questo argomento, con autori e anno». Può risponderti con titoli verosimili, nomi credibili e annate precise, di studi che non sono mai esistiti.
Non ti sta mentendo, perché mentire richiederebbe di sapere la verità. Sta completando il modello «elenco di riferimenti bibliografici» nel modo più verosimile possibile. Il risultato sembra una fonte, ma è solo la forma di una fonte.
Come usarlo bene
- Trattalo da collaboratore, non da oracolo. È ottimo per bozze, riassunti, idee, riformulazioni e spiegazioni da cui partire. È pessimo come unica fonte.
- Dagli materiale reale. Se incolli il testo su cui vuoi lavorare, inventa molto meno che se glielo chiedi a memoria.
- Verifica ciò che conta. Date, numeri, citazioni, riferimenti legali o medici vanno controllati su una fonte vera.
- Non fidarti del tono. Una risposta scritta bene non è per questo una risposta giusta.
In sintesi
Un LLM è una macchina straordinariamente brava a produrre testo plausibile. Sapere come funziona non toglie nulla alla sua utilità: la rende usabile. Chi lo capisce lo sfrutta per quello che è, chi lo scambia per una mente che ragiona come la nostra prima o poi si fida troppo.