La gouvernance des achats d'IA est le cadre dont les administrations publiques et les entreprises ont besoin lorsqu'elles achètent, déploient ou contractent des systèmes et services d'IA. Les cadres d'achat informatique traditionnels, évalués sur la fonctionnalité, la sécurité, l'évolutivité et le coût, ne traitent pas de manière adéquate les risques spécifiques à l'IA, notamment la transparence des modèles, les biais algorithmiques, les pratiques d'entraînement sur les données, la surveillance continue des performances, la dépendance envers un fournisseur du fait de modèles propriétaires, et la responsabilité des décisions pilotées par l'IA qui affectent les individus. En 2026, plusieurs juridictions exigent des dispositions d'achat spécifiques à l'IA : l'AI Act de l'UE impose aux déployeurs de systèmes d'IA à haut risque de s'assurer que les fournisseurs réalisent une évaluation de conformité et fournissent la documentation correspondante, le Voluntary AI Safety Standard australien comprend des lignes directrices propres aux achats, et les agences fédérales américaines suivent les exigences du mémo OMB M-24-10 relatif aux achats d'IA. C'est dans l'écart entre ce que couvrent les achats traditionnels et ce qu'exige la gouvernance de l'IA que le risque s'accumule.

Ce que les achats traditionnels ne couvrent pas

Les appels d'offres informatiques standards évaluent la fonctionnalité, la disponibilité, les certifications de sécurité, l'emplacement des centres de données et la tarification. Les achats d'IA doivent en outre porter sur : la transparence des modèles (peut-on comprendre comment l'IA prend ses décisions, ou s'agit-il d'une boîte noire ?), la provenance des données d'entraînement (sur quelles données le modèle a-t-il été entraîné, et ont-elles été obtenues légalement ?), les biais et l'équité (le modèle a-t-il été testé pour détecter des résultats discriminatoires selon les caractéristiques protégées ?), la performance continue (comment la précision et l'équité du modèle seront-elles surveillées après le déploiement ?), les mises à jour du modèle (qui décide du moment où le modèle est mis à jour, et comment en êtes-vous informé ?), la stratégie de sortie (si vous devez changer de fournisseur, pouvez-vous extraire vos données et les configurations du modèle ?), et la conformité réglementaire (la documentation du fournisseur répond-elle aux exigences des réglementations applicables à votre cas d'usage ?).

Exigences des appels d'offres spécifiques à l'IA

Votre appel d'offres devrait exiger des fournisseurs qu'ils fournissent : une fiche modèle ou une documentation équivalente décrivant l'objectif du système d'IA, ses indicateurs de performance, ses limites connues et le contexte d'usage prévu. Des preuves de tests de biais réalisés sur les groupes démographiques pertinents. Une description des sources de données d'entraînement et la confirmation de la conformité légale de leur acquisition. Des accords de traitement des données traitant spécifiquement du traitement par l'IA, y compris la question de savoir si vos données seront utilisées pour entraîner ou améliorer les modèles du fournisseur. Des droits d'audit sur le système d'IA, y compris le droit de mener des audits de biais indépendants et des évaluations de performance. Des engagements de notification des incidents en cas de défaillances propres à l'IA, de résultats inattendus ou de biais détectés. Des dispositions contractuelles relatives aux mises à jour du modèle, au contrôle des versions et à la capacité de retour en arrière (rollback). Des clauses de sortie et de portabilité garantissant que vous pouvez passer à un autre fournisseur sans perdre de données ni de continuité opérationnelle.

Considérations propres au secteur public

Les achats d'IA dans le secteur public s'accompagnent d'obligations supplémentaires en matière de responsabilité publique, de transparence et de droits des citoyens. Les systèmes d'IA utilisés dans la prestation de services publics, l'administration des prestations sociales, l'application de la réglementation ou la sécurité publique doivent répondre à des normes de transparence plus élevées que les déploiements dans le secteur privé. De nombreuses juridictions exigent des analyses d'impact algorithmique avant tout déploiement de l'IA dans des contextes gouvernementaux. Les équipes chargées des achats devraient exiger des fournisseurs qu'ils appuient les exigences de transparence publique, y compris la capacité d'expliquer les décisions individuelles aux citoyens concernés.

Pour aller plus loin : Gouvernement australien, Voluntary AI Safety Standard | OCDE, L'IA dans le secteur public

Lectures connexes

Pour aller plus loin : Gouvernement australien, Voluntary AI Safety Standard | OCDE, L'IA dans le secteur public