Gouverner l’IA dans la commande publique : un cadre pratique

Les services achats doivent faire plus avec moins de personnes, et l’IA se prête bien à une grande partie du travail : rédiger des documents, les vérifier au regard des règles et résumer de longues offres. Mais les décisions d’achat public doivent être justifiables et imputables à une personne responsable. Tout l’enjeu est de gagner du temps sans brouiller qui a décidé quoi.

Commencer par une limite claire

Avant d’activer le moindre outil, écrivez ce que l’IA peut et ne peut pas faire. Pour la commande publique, une règle par défaut réaliste est :

• L’IA peut rédiger, résumer, vérifier, signaler et suggérer.
• L’IA ne peut pas choisir un fournisseur, modifier ou écarter des notes, approuver quoi que ce soit, ni altérer des offres déposées ou des données d’audit.

Rendre chaque résultat visiblement provisoire

Tout ce que produit l’IA doit être signalé comme tel et exiger une action humaine explicite : accepter, modifier ou rejeter. Cette action fait elle-même partie du dossier. Elle montre qu’une personne a examiné la suggestion, et elle indique à quel point l’IA est réellement utile.

Journaliser de quoi reconstituer la décision

Si une décision est contestée, vous devez pouvoir montrer ce qui a été demandé à l’IA et ce qu’elle a répondu. Pour chaque appel, journalisez au minimum :

• Qui a fait la demande, dans quel organisme, pour quelle fonction
• Quel modèle et quel fournisseur ont répondu
• Quelle version du prompt a été utilisée
• Le résultat, et ce que l’utilisateur en a fait
• La date et l’heure, et un niveau de risque le cas échéant

Versionner les prompts

Les prompts sont des règles. Modifier les instructions données à un modèle peut changer son comportement autant qu’une modification du code. Conservez les prompts avec un numéro de version, faites examiner les changements et enregistrez la version utilisée pour chaque résultat.

Garder les alertes internes jusqu’à leur examen

Une IA qui signale une possible collusion, des clauses restrictives ou des prix anormaux est utile, mais une alerte non examinée est une allégation, pas un constat. Gardez les alertes internes jusqu’à ce qu’une personne les ait examinées selon une procédure formelle.

Choisir où vont les données

Chaque organisme doit décider quel fournisseur d’IA traite ses documents et détenir ses propres identifiants. Les données d’achat restent ainsi dans le cadre exigé par vos règles de protection des données.

DigiProcure applique ce cadre par conception : l’IA aide à la rédaction, aux contrôles de conformité, à la détection des clauses restrictives et aux résumés d’offres, tandis que la notation, l’attribution et l’approbation restent des décisions humaines prises selon des circuits configurables.