La Corte Suprema del New Mexico ha condannato un avvocato per oltraggio alla corte dopo che aveva depositato un ricorso con testimonianze inventate da ChatGPT, comprese dichiarazioni di poliziotti mai esistiti. La formazione AI, in questo episodio, non è mancata per assenza di strumenti: è mancata per assenza di un metodo di verifica prima della firma finale. Ed è un problema che riguarda ogni professionista italiano che oggi usa un chatbot per accelerare il lavoro.
Il caso: fiducia senza controllo
L’avvocato, Stephen Aarons, ha ammesso di non aver verificato i riferimenti fattuali e giuridici generati dall’intelligenza artificiale prima di presentarli in un appello per una condanna per omicidio. La sua difesa è stata disarmante: non sapeva che l’AI potesse “allucinare” fatti interi. La corte lo ha giudicato privo di rimorso e di attenzione verso il proprio cliente, e lo ha deferito a un organo disciplinare.
Il punto non è la tecnologia usata, ma il vuoto formativo attorno a essa. Un modello linguistico come ChatGPT genera testo plausibile, non necessariamente vero. Lo confermano anche gli sforzi recenti di Anthropic e Google, che stanno introducendo watermark nei testi generati dai loro modelli proprio per rendere tracciabile l’origine artificiale dei contenuti, come riportato da IEEE Spectrum. Ma nessun watermark sostituisce un controllo umano sui fatti citati.
Perché la formazione AI deve includere un protocollo di verifica
Le PMI italiane che stanno introducendo l’AI generativa nei reparti legali, amministrativi o commerciali rischiano lo stesso errore, su scala più piccola ma non meno costosa. Un contratto con clausole inventate, un report con statistiche di mercato inesistenti, un’email commerciale con riferimenti normativi sbagliati: sono tutti scenari plausibili quando manca un passaggio di verifica.
Una formazione AI efficace, in questo senso, non insegna solo a scrivere prompt migliori. Insegna un metodo di lavoro in tre passaggi:
- Distinguere sempre tra output generato e fonte verificata, chiedendo al modello di indicare la provenienza dei dati citati.
- Incrociare ogni riferimento normativo, statistico o fattuale con una fonte primaria prima di usarlo in un documento ufficiale.
- Assegnare a una persona, non a uno strumento, la responsabilità finale della verifica, con un passaggio formale documentato.
Questo terzo punto è quello che è mancato nel caso di Aarons. Nessuno strumento aziendale, per quanto sofisticato, elimina la necessità di un responsabile umano che metta la firma sapendo cosa sta firmando.
Un investimento che si ripaga in credibilità
Per un piccolo studio professionale o un’azienda di 20 persone, formare il team a questo livello di rigore richiede poche ore, non settimane. Bastano casi pratici, come quello dell’avvocato del New Mexico, e una checklist condivisa da applicare prima di ogni output critico verso clienti o autorità.
Il costo di non farlo si misura in reputazione perduta, non solo in sanzioni. Un cliente che scopre un errore grave in un documento generato dall’AI difficilmente si fida di nuovo, anche se l’errore viene corretto in tempo. La formazione AI seria, quella che include verifica delle fonti e responsabilità chiara, è oggi meno un costo accessorio e più una condizione per continuare a lavorare con serenità in un mercato che corre veloce, ma che perdona poco la fretta senza controllo.
Formazione AI: la lezione del caso avvocato e citazioni inventate
