Questa guida riguarda i controlli di un sistema di IA, non un prodotto specifico. L’IA può accelerare classificazione, estrazione di campi, riepilogo e confronto iniziale, ma ogni output materiale deve rimandare a evidenze e indicare cosa manca da verificare. Non dovrebbe affermare da sola che un’azienda soddisfa i requisiti di solvibilità o che un’offerta è pronta.
Suddividi il lavoro per livello di rischio
Basso
Etichettare, rilevare lingua, normalizzare date e proporre termini di ricerca, con validazione automatica e campionamento.
Medio
Riassumere ambito, estrarre requisiti o confrontare con un profilo, sempre con frammento e pagina di origine.
Alto
L’ammissibilità, l’interpretazione contrattuale, il prezzo, la firma o la decisione bid/no-bid richiedono revisione competente.
Anatomia di un output verificabile
| Campo | Esempio |
|---|---|
| Affermazione | «È richiesta una referenza simile» |
| Evidenza | PCAP 11.2, pagina 18, frammento con link |
| Confidenza | Alta nell’estrazione; bassa nella similarità |
| Incertezza | «Simile» è definita tramite i tre primi dígiti CPV |
| Azione | Confrontare referenze e validare con il responsabile |
| Versione | Documento scaricato il 20/08/2026 09:12 |
Se il sistema non può individuare un’evidenza, l’output corretto è «non trovato» o «richiede revisione», non completare il vuoto con un’inferenza plausibile.
Matching spiegabile
Una corrispondenza utile deve essere scomposta: attività e CPV, territorio, importo, esperienza, esclusioni, periodo e disponibilità. Mostra segnali positivi e negativi separatamente. Non indicare una percentuale con precisione apparente se dietro ci sono solo regole incomplete.
L’esplosizione deve consentire a un revisore di cambiare decisione senza dover confidare nel modello.
Dati personali e minimizzazione
Un profilo aziendale può funzionare con intervalli, capacità e preferenze senza conservare informazioni eccessive. Se si trattano dati personali, bisogna definire finalità, base giuridica, conservazione, accesso e fornitori. L’AEPD ricorda che accuratezza e qualità includono anche inferenze e risultati; un dato di input corretto non garantisce una conclusione proporzionata.
Trasparenza e controllo editoriale
Da agosto 2026 si applicano obblighi di trasparenza dell’articolo 50 del Regolamento IA in determinati casi. La Commissione distingue, tra le altre questioni, contenuti generati senza revisione sostanziale di quelli sottoposti a vero controllo umano o editoriale. Per una guida o un riepilogo, registrare chi ha revisionato, quali fonti ha verificato e cosa poteva modificare è meglio di un’etichetta decorativa.
Metriche che rilevano danno
- Accuratezza per campo e per fonte, non solo media globale.
- Tasso di «non trovato» rispetto a allucinazioni rilevate.
- Falsi negativi: opportunità rilevanti che il sistema ha scartato.
- Correzioni umane e tempo necessario per incorporarle.
- Deriva (drift) dovuta a cambio formato o nuova versione documentale.
- Percentuale di output con evidenza accessibile.