L’IA peut accélérer la classification, l’extraction de champs, le résumé et la comparaison initiale. Elle ne devrait pas affirmer, à elle seule, qu’une entreprise remplit la solvabilité, qu’une clause permet une stratégie ou qu’une offre est prête. Chaque sortie matérielle doit s’appuyer sur des preuves et montrer ce qui reste à vérifier.
Répartir le travail par niveau de risque
Faible
Étiqueter, détecter la langue, normaliser les dates et proposer des termes de recherche, avec validation automatique et échantillonnage.
Moyen
Résumer le périmètre, extraire les exigences ou comparer avec un profil, toujours avec un extrait et la page d’origine.
Élevé
L’éligibilité, l’interprétation contractuelle, le prix, la signature ou la décision bid/non-bid nécessitent une revue compétente.
Anatomie d’une sortie vérifiable
| Champ | Exemple |
|---|---|
| Affirmation | « Une référence similaire est exigée » |
| Preuve | PCAP 11.2, page 18, extrait lié |
| Confiance | Élevée pour l’extraction ; faible pour la similarité |
| Incertitude | « Similaire » est défini via les trois premiers chiffres CPV |
| Action | Comparer les références et valider avec le responsable |
| Version | Document téléchargé le 20/08/2026 09:12 |
Si le système ne peut pas localiser de preuve, la sortie correcte est « non trouvé » ou « nécessite une revue », et non pas de compléter le vide avec une inférence plausible.
Matching explicable
Une affinité utile doit se décomposer : activité et CPV, territoire, montant, expérience, exclusions, délai et disponibilité. Présentez séparément les signaux positifs et négatifs. Ne montrez pas un pourcentage avec une précision apparente si, derrière, il n’y a que des règles incomplètes.
L’explication doit permettre à un réviseur de changer la décision sans avoir à faire confiance au modèle.
Données personnelles et minimisation
Un profil d’entreprise peut fonctionner avec des fourchettes, des capacités et des préférences sans stocker des informations excessives. Si des données personnelles sont traitées, il faut définir la finalité, la base juridique, la conservation, l’accès et les fournisseurs. L’AEPD rappelle que l’exactitude et la qualité couvrent aussi les inférences et les résultats ; une donnée d’entrée correcte ne garantit pas une conclusion proportionnée.
Transparence et contrôle éditorial
Depuis août 2026, des obligations de transparence de l’article 50 du Règlement sur l’IA s’appliquent dans certains cas. La Commission distingue, entre autres, le contenu généré sans revue substantielle de celui faisant l’objet d’un véritable contrôle humain ou éditorial. Pour un guide ou un résumé, enregistrer qui a revu, quelles sources a-t-on vérifiées et ce qui a pu être modifié est préférable à un simple étiquetage décoratif.
Des métriques qui détectent le préjudice
- Exactitude par champ et par source, pas seulement moyenne globale.
- Taux de « non trouvé » par rapport à l’hallucination détectée.
- Faux négatifs : opportunités pertinentes que le système a écartées.
- Corrections humaines et temps jusqu’à leur intégration.
- Dérive (drift) liée au changement de format ou à une nouvelle version documentaire.
- Pourcentage de sorties avec preuve accessible.