Cos’è davvero un assistente AI
Come funziona “dietro le quinte”, in parole semplici. E perché a volte sbaglia con grande sicurezza.
Hai sicuramente sentito parlare di ChatGPT, Claude, Gemini, Mistral o Copilot. Sono tutti Assistente AIUn programma con cui “chatti” scrivendo o parlando: ChatGPT, Claude, Gemini, Mistral, Copilot e simili. Risponde generando testo (e a volte immagini o codice).: programmi con cui puoi “chattare” come faresti con una persona. Scrivi una domanda, ricevi una risposta.
Cambiano il nome e il colore dei pulsanti, ma funzionano tutti allo stesso modo. Per questo in questo corso non parliamo di un prodotto in particolare: quello che impari qui vale per tutti.
Un “completatore di frasi” molto bravo
Dentro ogni assistente c’è un Modello linguistico (LLM)Il “motore” dentro l’assistente. È un programma che ha letto enormi quantità di testo e ha imparato a prevedere quale parola viene dopo.. Puoi immaginarlo come il suggerimento automatico della tastiera del telefono… ma enormemente più potente.
Il modello ha letto una quantità gigantesca di testi (libri, siti, articoli) durante l’AddestramentoLa fase in cui il modello impara leggendo testi. Non impara da te durante la chat, a meno che il servizio non usi le conversazioni per migliorare (controlla le impostazioni!).. Da lì ha imparato quali parole tendono a venire dopo altre. Quando gli scrivi, non cerca la risposta in un archivio: la costruisce scegliendo la parola più adatta, poi la successiva, poi un’altra ancora.
Hai notato? Con la temperatura bassa esce quasi sempre la stessa frase, quella “più ovvia”. Con la temperatura alta la frase diventa più varia, a volte buffa. Gli assistenti usano una via di mezzo: per questo, se fai due volte la stessa domanda, puoi ricevere due risposte diverse.
L’idea più importante della lezione
Un assistente AI non “sa” le cose come le sa una persona. Produce il testo più probabile data la tua richiesta. Di solito il testo probabile è anche corretto… ma non sempre.
Cosa sa fare bene
Proprio perché ha letto tantissimo, un assistente AI è bravissimo con le parole e le idee:
- Scrivere e riscrivere: email, messaggi, lettere, post. Anche cambiare tono (più gentile, più formale, più breve).
- Riassumere: un documento lungo, un articolo, le note di una riunione.
- Spiegare: un concetto difficile, un termine tecnico, una bolletta, con esempi su misura per te.
- Fare brainstorming: idee per un regalo, un nome, una gita, una cena.
- Tradurre e correggere errori di grammatica.
- Organizzare: trasformare appunti disordinati in una lista, un piano, una tabella.
Molti assistenti oggi sono anche MultimodaleUn assistente che capisce non solo testo, ma anche foto, documenti, audio o voce.: puoi mandargli una foto, un PDF o parlare a voce.
Cosa sa fare male (e perché)
1. Si inventa le cose: le “allucinazioni”
Visto che produce testo probabile, a volte scrive cose false ma credibili: una data sbagliata, una citazione mai detta, un libro che non esiste, un link che non porta da nessuna parte. Questo si chiama AllucinazioneQuando l’AI scrive qualcosa di falso con tono sicuro: un dato inventato, una citazione mai esistita, un link che non funziona.. E il tono resta sicuro e convincente anche quando sbaglia.
2. Ha una data di scadenza
Il modello ha smesso di studiare a un certo punto: è la sua Data di aggiornamentoIl momento in cui il modello ha smesso di “studiare”. Dei fatti successivi non sa nulla, a meno che non possa cercare sul web.. Di quello che è successo dopo non sa nulla, a meno che l’assistente non possa cercare sul web (molti ora lo fanno: di solito lo vedi perché mostra le fonti).
3. Ha una memoria limitata
Durante una chat, l’assistente ricorda quello che vi siete detti… ma solo fino a un certo punto. Questa memoria si chiama Finestra di contestoLa “memoria a breve termine” della chat: quanto testo l’AI riesce a tenere a mente in una conversazione. Se la chat è lunghissima, le parti più vecchie possono essere dimenticate.. Nelle conversazioni lunghissime, le parti più vecchie possono “uscire” dalla memoria.
Hai visto? L’ultima risposta propone carne: l’informazione “sono vegetariana” era uscita dalla memoria.
L’esempio è corto apposta: qui la memoria tiene solo 5 messaggi, così vedi l’effetto in pochi clic. Nella realtà la finestra di contesto è molto più grande: gli assistenti di oggi possono tenere presenti centinaia di pagine di testo, quindi il problema emerge solo nelle conversazioni davvero lunghe o quando carichi documenti molto voluminosi.
Consiglio pratico: quando cambi argomento, apri una nuova chat. E se una conversazione è molto lunga, ripeti le informazioni importanti.
E le chat diverse?
Di solito, ogni nuova chat parte da zero. Alcuni assistenti hanno una funzione “memoria” che ricorda alcune cose tra una chat e l’altra: la trovi nelle impostazioni, e puoi vederla, modificarla o spegnerla.
4. Non conta, non calcola, non “vede” come noi
Sembra strano, ma un modello linguistico può sbagliare un conto semplice o il numero di lettere in una parola. Questo perché legge il testo a pezzetti chiamati TokenUn pezzetto di testo (una parola, o parte di una parola). L’AI legge e scrive un token alla volta., non lettera per lettera. Per calcoli importanti, chiedigli di usare uno strumento di calcolo (se ce l’ha) oppure verifica tu con la calcolatrice.
Ricapitolando
| L’assistente AI… | Quindi tu… |
|---|---|
| scrive il testo più probabile | controlli i fatti importanti |
| può inventare con sicurezza | non ti fidi solo del tono |
| ha una data di aggiornamento | chiedi le fonti per le notizie recenti |
| ha una memoria limitata | apri chat nuove e ripeti le cose chiave |
| è bravissimo con parole e idee | lo usi per scrivere, spiegare, organizzare |