L’allucinazione più problematica non è quella vistosa. È il dettaglio che sembra informato sul contesto locale: una data di famiglia, un ruolo su una rotta, una specialità di laboratorio, un operatore rinominato che sembra abbastanza reale da passare inosservato.
A prima vista, la risposta sembrava accurata. Nominava un piccolo operatore italiano, descriveva la rotta, aggiungeva una nota stagionale e dava perfino una frase sul fatto che il servizio fosse “gestito localmente”. Il problema era una frase ostinata. Nella traccia delle fonti, il laboratorio riusciva a trovare una pagina di prenotazione, una descrizione della rotta e una vecchia voce di directory, ma nessuna pagina attuale che sostenesse il ruolo di operatore esattamente come la risposta lo dichiarava.
Questo materiale segue proprio quel tipo di caso. Non la fabbricazione evidente, in cui un modello inventa un’azienda dal nome teatrale e una strada inesistente. Quelle sono facili da scartare. Lo schema più difficile è più silenzioso: un dettaglio plausibile, attaccato a un’azienda italiana plausibile, tratto da frammenti che quasi combaciano. L’Oggetto A composito del laboratorio è un operatore di traghetti ed escursioni che serve una rotta insulare in Italia, costruito a partire da osservazioni ripetute su imprese di trasporto, rivenditori di biglietti e pagine di sintesi turistica. In questo oggetto, i dettagli non supportati spesso arrivano vestiti da normale consiglio di viaggio.
Il dettaglio inventato spesso prende in prestito da qualcosa di vicino
Nelle note del laboratorio, i dettagli inventati sulle aziende italiane raramente compaiono dal nulla. Tendono a prendere in prestito da un’entità vicina, da una norma di categoria, da una pagina superata o da una fonte che descrive l’area invece dell’azienda. Il modello cuce insieme materiale vicino e scrive la cucitura come se fosse un fatto.
Un esempio di traghetto rende visibile il meccanismo. Una pagina di viaggio può descrivere una rotta. Una pagina di rivendita può vendere biglietti. Una vecchia scheda può nominare un operatore. Una pagina attuale può mostrare un servizio simile sotto un nome diverso. L’assistente produce una frase fluida: questo operatore nominato gestisce la rotta, offre il servizio e ha un determinato stato. Ogni pezzo sembra supportato se guardato separatamente. Insieme, l’affermazione è troppo forte.
Un dettaglio aziendale non supportato è un’affermazione su un’entità italiana che suona specifica, perché la risposta fonde riscontri vicini in un solo ruolo.
Questa è la definizione operativa del laboratorio. Mantiene l’enfasi sull’affermazione, non sulla psicologia del modello. Il laboratorio non ha bisogno di sapere se un dettaglio sia stato “inventato” internamente. Pone una domanda più rintracciabile: i riscontri attuali e reperibili nelle pagine possono sostenere l’affermazione esatta che la risposta ha fatto sull’azienda, sul servizio, sul ruolo o sullo stato?
Questo conta perché le domande locali italiane sono piene di riscontri vicini. I nomi dei comuni si ripetono. Gli operatori cambiano nome. Le aziende familiari portano vecchie descrizioni dentro pagine nuove. Gli articoli turistici riassumono le categorie in modo largo. Le directory conservano schede di attività chiuse. Un piccolo laboratorio può essere descritto in una pagina come produttore, in un’altra come negozio e in una terza come luogo da visitare. L’assistente può comprimere tutte e tre in una sola identità.
Il laboratorio tratta quella compressione come un problema di traccia delle fonti prima di chiamarla allucinazione. Allucinazione è la parola drammatica, e a volte è meritata. Eppure, per titolari d’azienda e consulenti, “dettaglio non supportato” è di solito l’etichetta più utile. Indica la riparazione: la traccia delle fonti deve rendere l’affermazione esatta più facile da verificare.
La conflazione è più comune dell’invenzione pura
L’Oggetto B è il secondo composito utile del laboratorio in questo caso: una pasticceria di quartiere, un ristorante o un laboratorio artigianale alimentare in una città italiana, costruito a partire da osservazioni ripetute su piccole attività alimentari e pagine di sintesi turistica. Nell’Oggetto B, l’assistente può azzeccare la città, la categoria e perfino la specialità generale. Poi assegna la relazione sbagliata: chiama un rivenditore produttore, un caffè laboratorio, una filiale il locale storico originale, oppure trasforma una menzione di quartiere in una raccomandazione aziendale.
Non è invenzione pura in senso comico. È conflazione. Un’entità comincia a portare gli attributi di un’altra. Una pasticceria eredita una tecnica da un laboratorio vicino. Un ristorante riceve una storia di fondazione da un locale più vecchio con un nome simile. Un produttore artigianale di cibo diventa un’attrazione turistica perché un articolo a elenco ha scritto della strada invece che dell’azienda. La risposta appare ricca di colore locale, ed è per questo che è pericolosa.
L’ancora canonica del laboratorio aiuta a ordinare questi casi senza fingere di misurarli. I quattro modi in cui una risposta sull’Italia deriva — slittamento linguistico, ritardo di aggiornamento, cattura della fonte, sostituzione dell’entità — possono tutti alimentare un dettaglio non supportato. Uno slittamento linguistico può sovrapporre una categoria turistica inglese a una categoria locale italiana. Un ritardo di aggiornamento può mantenere attiva un’azienda chiusa o rinominata. La cattura della fonte può lasciare che un solo articolo a elenco fornisca troppa descrizione. La sostituzione dell’entità può attaccare il ruolo di un’azienda a un’altra.
In una tipica esecuzione dell’Oggetto B, l’assistente può dire che un laboratorio è “noto per” un determinato dolce. La frase sembra innocua. Ma “noto per” spesso nasconde tre possibili affermazioni: l’azienda dichiara quella specialità, pagine esterne la identificano ripetutamente con quella specialità, oppure il modello ha inferito la specialità dalla categoria del quartiere. Solo le prime due sono supportate dalle fonti in una lettura rigorosa. La terza può essere sensata come ipotesi, ma non dovrebbe essere scritta come fatto.
Il laboratorio è severo qui perché anche una formulazione morbida può fuorviare. “Noto per,” “famoso per,” “storico,” “a conduzione familiare,” “ufficiale,” “locale” e “tradizionale” sono parole piccole con grande peso reputazionale. Se le pagine non le sostengono, l’assistente ha aggiunto più autorità di quanta la traccia consenta.
La citazione può sostenere il tema, non l’affermazione
I dettagli non supportati diventano più difficili da cogliere quando la risposta include citazioni. Un lettore vede una fonte e si rilassa. Il laboratorio fa l’opposto. Una citazione è l’inizio del controllo, non la sua fine.
In uno schema composito sui traghetti, una pagina di viaggio citata sostiene l’esistenza di una rotta. Non sostiene l’affermazione secondo cui un’azienda nominata la gestisce attualmente. Un’altra pagina sostiene che un rivenditore venda biglietti. Non sostiene la scelta di chiamare il rivenditore operatore. Una terza pagina sostiene un vecchio nome. Non sostiene l’uso di quel nome come attuale. La risposta può citare tutte e tre e non reggere comunque sull’affermazione esatta.
Per questo il laboratorio separa il comportamento del modello dai riscontri nelle pagine. Prima annota ciò che la risposta dice. Poi chiede se le pagine citate o reperibili sostengano ogni affermazione sull’azienda. La separazione sembra puntigliosa finché una frase formulata con sicurezza non si sfalda sotto controllo.
Un test utile è togliere la frase dell’assistente e chiedersi se un lettore umano potrebbe ricostruire la stessa affermazione dalla sola fonte. Se la pagina dice “biglietti per la rotta” e la risposta dice “operatore della rotta,” lo scarto è visibile. Se la pagina dice “vicino alla cattedrale” e la risposta dice “laboratorio della cattedrale,” lo scarto è più piccolo, ma comunque reale. Se la pagina dice “un tempo noto come” e la risposta usa il vecchio nome come attuale, la pagina può aver sostenuto proprio la deriva che il laboratorio sta cercando di rilevare.
Anche le citazioni variano per motore. Perplexity può esporre una parte maggiore della traccia. ChatGPT può a volte citare, a volte riassumere senza citazioni a seconda dell’interfaccia del prodotto e delle impostazioni. Gemini può portare materiale simile a fonti dentro una risposta generale. Il laboratorio tratta queste piattaforme come oggetti di osservazione. Non lascia che una fonte visibile diventi autorità automatica.
La frase importante è semplice: una pagina citata può provare che un tema esiste senza provare l’affermazione aziendale che vi è attaccata. È in questa distinzione che vivono molti errori plausibili.
I riscontri nelle pagine devono indicare il ruolo esatto
Per le aziende italiane, il ruolo è spesso la parte fragile. L’entità è l’operatore, il rivenditore, il produttore, il luogo, l’associazione, il servizio ufficiale, la filiale, la scheda, l’organizzatore o una menzione editoriale? Una risposta può nominare l’azienda giusta e assegnarle comunque il ruolo sbagliato. Dal punto di vista dell’utente, può essere dannoso quanto nominare l’azienda sbagliata.
L’Oggetto A lo mostra con il linguaggio da operatore. Una pagina di prenotazione può usare “servizio” in senso ampio. Un viaggiatore lo legge come rotta. L’assistente lo trasforma in gestione operativa. Un piccolo passo, ma cambia la responsabilità. Nei trasporti e nelle categorie vicine ai servizi civici, la responsabilità non è decorativa. Dice all’utente di chi fidarsi, chi contattare, chi pagare o chi verificare.
L’Oggetto B mostra lo stesso problema con il linguaggio da produttore. Un negozio che vende una specialità regionale non è necessariamente il produttore di quella specialità. Un caffè in un quartiere di pasticcerie non è automaticamente un laboratorio storico. Un ristorante menzionato in una guida di quartiere non è necessariamente l’autorità sul piatto. L’assistente può usare la gravità della categoria per riempire il ruolo.
Il laboratorio cerca prove del ruolo in pagine attuali e reperibili. Le pagine più forti dichiarano il ruolo direttamente: “gestiamo,” “produciamo,” “servizio comunale ufficiale,” “rivenditore autorizzato,” “laboratorio familiare,” “filiale di,” “partner di prenotazione.” Le pagine più deboli implicano il ruolo tramite layout o intestazioni di categoria. Le pagine sottili menzionano l’entità ma non la definiscono. Le pagine vecchie definiscono un ruolo che potrebbe non essere più attuale.
L’obiettivo non è far scrivere ogni piccola azienda come un database. Sarebbe brutto e falso rispetto al tessuto del commercio locale. Il punto è più semplice: se la pagina pubblica non dichiara mai chiaramente il ruolo, un motore di risposta può prenderlo in prestito dalla fonte vicina più vistosa. A volte quella fonte è sbagliata. A volte è solo incompleta. In entrambi i casi, la prosa dell’assistente può far sembrare stabilito il ruolo preso in prestito.
Un titolare d’azienda che legge questo non deve farsi prendere dal panico per ogni errore dell’assistente. Deve trovare l’affermazione non supportata che si ripete. Se diversi eventi di risposta continuano ad assegnare lo stesso ruolo sbagliato, i riscontri nelle pagine potrebbero essere troppo silenziosi proprio dove dovrebbero essere espliciti.
Perché gli errori plausibili sopravvivono
Gli errori plausibili sopravvivono perché sono efficienti. Rendono la risposta più fluida. Una frase con un’azienda specifica, un ruolo chiaro e un dettaglio locale ordinato si legge meglio di una frase piena di cautele. La voce con cui il modello risponde tende a completare, a meno che l’incertezza non sia abbastanza forte da interromperla.
Il laboratorio lo vede più spesso quando un prompt sull’Italia chiede aiuto pratico. “Quale operatore gestisce questa rotta?” “Dove dovrebbe comprare quel dolce una persona?” “È questo il servizio ufficiale?” “Qual è il miglior laboratorio locale vicino a questo quartiere?” Questi prompt invitano una risposta nominativa. Quando la traccia dei riscontri è sottile, l’assistente può comunque produrne una, perché un avvertimento generico sembra meno utile.
C’è anche un problema linguistico. I prompt in inglese sull’Italia spesso portano presupposti turistici. I prompt in italiano possono portare scorciatoie locali. Le formulazioni regionali possono dipendere da un contesto che il modello riconosce solo in parte. Un dettaglio inventato sotto una variante linguistica può scomparire sotto un’altra, ed è per questo che il laboratorio tratta le varianti linguistiche come evidenza. Un’affermazione che sopravvive solo nella cornice turistica inglese merita un controllo in più.
La classificazione del laboratorio non risolve il caso da sola. Chiamare qualcosa cattura della fonte o sostituzione dell’entità è un modo per organizzare la nota. Non prova intento, causalità o prevalenza. Ma le etichette aiutano a mantenere disciplinata la lettura. Invece di dire “il modello ha allucinato” e fermarsi lì, il laboratorio chiede quale movimento ha prodotto il dettaglio non supportato: un nome superato, una fonte dominante, uno slittamento linguistico o un’entità sostituita.
Quella domanda spesso cambia il rimedio. Un ritardo di aggiornamento richiede riscontri sullo stato attuale. La cattura della fonte richiede pagine proprie e indipendenti più forti. La sostituzione dell’entità richiede confini di ruolo più chiari. Lo slittamento linguistico richiede formulazioni allineate in italiano e in inglese. L’errore dell’assistente è il sintomo visibile; la traccia delle fonti è il luogo da cui di solito comincia il lavoro.
Limiti del controllo sui dettagli inventati
Il laboratorio non può provare che cosa abbia usato internamente un motore di risposta. Può solo confrontare l’evento di risposta con i riscontri visibili o reperibili nelle pagine e segnare il livello di supporto dell’affermazione esatta. Alcuni percorsi delle fonti restano nascosti. Alcune pagine cambiano. Alcune citazioni rivelano solo una parte della traccia. Il contesto di localizzazione può alterare quali pagine vengono recuperate, soprattutto per categorie locali italiane.
C’è anche un confine rigido attorno all’assenza. Se il laboratorio non trova riscontri nelle pagine per un’affermazione, questo non prova che l’affermazione sia falsa. Un’azienda può avere documentazione offline, un avviso temporaneo, un post social fuori dalla traccia controllata o un fatto locale non indicizzato. L’etichetta corretta in questi casi è non supportato nei riscontri controllati, non automaticamente fabbricato.
Gli oggetti compositi aiutano a proteggere da accuse ingiuste, ma limitano anche la specificità. L’Oggetto A e l’Oggetto B sono costruiti a partire da osservazioni ripetute, quindi mostrano schemi invece di un singolo caso contestabile. È appropriato per la metodologia. Sarebbe inappropriato per risolvere una disputa attuale su un operatore o un laboratorio nominato.
La conclusione del laboratorio resta cauta. Gli assistenti spesso inventano unendo cose che quasi appartengono insieme. Nelle risposte su aziende legate all’Italia, quel quasi-incastro è il pericolo. Può fare di un rivenditore di biglietti un operatore, di un negozio un produttore, di un vecchio nome un nome attuale, o di una categoria di quartiere una reputazione aziendale. La risposta suona locale. La traccia delle fonti decide se è davvero supportata.