| Motivo | Spiegazione semplice |
| Responsabilità | L'IA non risponde di nulla. Se un atto è sbagliato, ne risponde il funzionario che lo firma. Per questo deve poter controllare davvero ciò che firma. |
| Errori dell'IA | L'IA può scrivere cose false con tono sicuro (“allucinazioni”), dimenticare dettagli, interpretare male. Solo una persona competente se ne accorge. |
| Discrezionalità | Molte decisioni pubbliche richiedono di pesare interessi diversi. Non si possono trasformare in un calcolo. |
| Equità | L'IA può riprodurre pregiudizi presenti nei dati con cui è stata addestrata. Serve una persona che se ne accorga. |
| Fiducia dei cittadini | I cittadini devono sapere che dietro un atto pubblico c'è una persona responsabile. |
Livello 1
Controllo rapido
| Rischio verde: testi interni, supporto senza effetti sui cittadini | Rilegge il risultato prima di usarlo e corregge gli errori evidenti | Riscrittura in linguaggio semplice di un testo pubblico; riassunto di un documento interno | |Livello 2
Revisione completa e firma
| Rischio giallo: bozze di documenti che escono dall'ufficio | Verifica ogni dato, ogni riferimento, ogni frase; modifica; approva e firma con propria responsabilità | Risposta URP; bozza di verbale; parte istruttoria di un atto | |Livello 3
Revisione rafforzata
| Rischio rosso, se l'ente lo consente: effetti su diritti o benefici | Doppia verifica indipendente (due persone); controllo sulle fonti originali; traccia scritta del controllo; il responsabile decide | Supporto organizzativo a un'istruttoria con effetti sui cittadini, autorizzato dall'ente | |Livello X
Divieto di delega
| Decisioni finali su diritti, sanzioni, esclusioni, valutazioni del personale | Nessun uso dell'IA per decidere; al massimo organizzazione di informazioni se espressamente autorizzata | Ammissione o esclusione da una gara; sanzioni; graduatorie | ### 9.4 Il rischio nascosto: fidarsi troppo Il rischio più grande non è che l'IA sbagli: è che la persona smetta di controllare. Chi ripete ogni giorno la stessa operazione e vede spesso risultati corretti tende a fidarsi. Questo fenomeno si chiama pregiudizio da automazione (“[*automation bias*](#user-content-fn-1)[^1]”). Il controllo diventa una firma automatica e l'intervento umano è solo di facciata. {% hint style="warning" %} **ATTENZIONE – Segnali di un controllo solo apparente** * il revisore approva in pochi secondi un documento di più pagine; * non vengono mai trovate correzioni, per mesi; * il revisore non sa dire da quale fonte proviene un dato; * chi firma non ha letto il testo prodotto dall'IA; * si lavora sempre sotto pressione di scadenza e il controllo viene saltato. {% endhint %} Per contrastarlo, l'ente può adottare queste misure: * **tempo dedicato al controllo**: prevedere esplicitamente nel carico di lavoro il tempo per la revisione; * **controlli a campione da parte di un secondo revisore** (capitolo 11); * **casi trappola**: ogni tanto si fa verificare un testo in cui è stato inserito di proposito un errore, per vedere se viene trovato; * **istruzioni che rendono il controllo più facile**: la SKILL deve segnalare con “**DA VERIFICARE**” le informazioni incerte, citare la fonte di ogni dato e separare ciò che è dato da ciò che è proposta; * **formazione sui limiti dell'IA** (articolo 4 dell'AI Act e articolo 14 della legge 132/2025); * **rotazione dei revisori**, per evitare abitudini. ### 9.5 Come scrivere l'intervento umano dentro la SKILL Ogni SKILL deve contenere una sezione specifica, scritta in modo chiaro. Ecco un blocco da copiare e adattare: ``` // Blocco standard sull'intervento umano ## Intervento umano obbligatorio - Il risultato di questa SKILL è una BOZZA o una PROPOSTA. Non è un atto, non è un parere, non è una decisione. - Prima di usarlo, [ruolo] deve: 1. controllare ogni dato e ogni riferimento con la fonte; 2. verificare che non siano presenti dati vietati; 3. correggere e completare le parti segnalate "DA VERIFICARE"; 4. assumersi la responsabilità del contenuto. - Fermati e chiedi conferma all'utente quando: - mancano dati essenziali; - la richiesta esce dall'ambito della SKILL; - il caso sembra delicato o fuori dall'ordinario; - ti accorgi di non essere sicuro. - Ricorda all'utente, alla fine del risultato: "Bozza generata con supporto di IA: da verificare e approvare." ``` ### 9.6 La checklist del revisore Chi controlla il risultato di una SKILL può usare questa lista. Può essere stampata e tenuta sulla scrivania.| # | Controllo | Fatto |
| 1 | Ho letto tutto il testo, non solo l'inizio? | ☐ |
| 2 | Ho verificato nomi, date, importi, numeri con i documenti originali? | ☐ |
| 3 | Ho controllato ogni riferimento normativo nella fonte ufficiale? | ☐ |
| 4 | Le parti segnate “DA VERIFICARE” sono state risolte? | ☐ |
| 5 | Il testo contiene informazioni che non conosco o che non risultano dagli atti? | ☐ |
| 6 | Ci sono dati personali che non dovrebbero esserci? | ☐ |
| 7 | Il tono e il linguaggio sono adatti al destinatario? | ☐ |
| 8 | Il testo rispecchia la mia valutazione, non solo quella proposta? | ☐ |
| 9 | Firmerei questo documento anche se non fosse stato prodotto con l'IA? | ☐ |