Ce que les affaires de lanceurs d'alerte de l'IA révèlent sur les défaillances de gouvernance

Le secteur de l'IA a vu émerger, depuis 2023, un ensemble inhabituel de lanceurs d'alerte, des employés actuels et anciens d'OpenAI, Google, Microsoft, Meta, Anthropic et d'autres entreprises, qui ont exprimé des préoccupations concernant les pratiques de sécurité, le droit d'auteur, les accords de confidentialité (NDA), les données d'entraînement et le déploiement des produits. Ces affaires importent pour la gouvernance non pas parce que toutes les allégations des lanceurs d'alerte sont avérées, mais parce qu'elles révèlent des modes de défaillance systémique de la gouvernance que les organisations développant ou déployant de l'IA doivent comprendre et corriger. Cet article examine les affaires les plus marquantes, ce qu'elles révèlent, et ce que les praticiens de la gouvernance devraient en retenir.

L'affaire Suchir Balaji, droit d'auteur et données d'entraînement

Suchir Balaji (novembre 1998 à novembre 2024) était un ancien chercheur d'OpenAI qui, lors d'un entretien accordé au New York Times en octobre 2024, a affirmé que ChatGPT et les systèmes similaires enfreignaient le droit d'auteur américain dans leurs méthodes d'entraînement. Il avait travaillé chez OpenAI pendant près de quatre ans, contribuant à WebGPT (un précurseur de ChatGPT) ainsi qu'à la collecte et à l'organisation des données internet utilisées pour entraîner GPT-4. Il a quitté OpenAI en août 2024.

L'analyse de Balaji, publiée sur son site personnel sous le titre « Quand l'IA générative relève-t-elle du fair use ? », examinait de façon mathématique les productions des chatbots et soutenait qu'elles ne satisfont pas au test à quatre facteurs du fair use. Il a été identifié dans une pièce déposée par le New York Times le 18 novembre 2024 comme une personne susceptible de détenir des « documents pertinents » dans l'affaire de droit d'auteur NYT contre OpenAI, et avait indiqué qu'il témoignerait contre OpenAI. Il a été retrouvé mort le 26 novembre 2024 dans son appartement de San Francisco. Le médecin légiste en chef a conclu à un suicide ; la police de San Francisco n'a trouvé « aucune preuve d'acte criminel ». Ses parents et d'autres personnes ont publiquement mis en doute cette conclusion. L'affaire a suscité une attention considérable et fait aujourd'hui l'objet d'un intérêt public soutenu, notamment à travers l'enquête approfondie publiée par The Nation en mai 2026.

Implications pour la gouvernance : la provenance des données d'entraînement est un enjeu de gouvernance de fond, et non un simple enjeu marketing. Les organisations qui concèdent sous licence ou déploient des modèles de fondation dépendent de la provenance des données d'entraînement de ces modèles. Les litiges en cours contre les grands fournisseurs (NYT, Sarah Silverman et al., éditeurs, maisons de disques) créent une incertitude en aval. La diligence raisonnable menée sur les fournisseurs doit porter sur la documentation des données d'entraînement et l'indemnisation en matière de propriété intellectuelle.

La lettre ouverte « Right to Warn » (droit d'alerter)

En juin 2024, treize employés actuels et anciens d'entreprises d'IA de pointe, principalement OpenAI mais aussi des employés d'Anthropic et de Google DeepMind, ont publié une lettre ouverte intitulée « A Right to Warn About Advanced Artificial Intelligence » (un droit d'alerter sur l'intelligence artificielle avancée). Parmi les signataires figuraient Daniel Kokotajlo, William Saunders, Carroll Wainwright, Jacob Hilton, Daniel Ziegler, Ramana Kumar, Neel Nanda, Geoffrey Hinton (en tant que soutien), et d'autres.

La lettre demandait aux entreprises d'IA de : cesser de demander aux employés de signer des accords de non-dénigrement qui les empêchent de faire part de préoccupations de sécurité ; mettre en place un processus permettant aux employés de faire remonter leurs préoccupations aux membres du conseil d'administration, aux régulateurs et aux organismes de surveillance ; favoriser une « culture de la critique ouverte » ; s'engager à ne pas exercer de représailles contre les lanceurs d'alerte qui rendent leurs préoccupations publiques après l'échec des canaux internes.

Daniel Kokotajlo avait démissionné d'OpenAI en avril 2024, refusant de signer l'accord de non-dénigrement et renonçant de ce fait à environ 1,7 million de dollars d'actions. À la suite de la couverture par Vox des dispositions relatives aux accords de confidentialité (NDA) d'OpenAI, l'entreprise est revenue sur cette politique. Le directeur général Sam Altman a publiquement reconnu qu'il ignorait l'ampleur de ces accords de confidentialité et s'est dit gêné.

Implications pour la gouvernance : les accords de non-dénigrement qui empêchent les employés de faire part de préoccupations de sécurité créent un risque de gouvernance. Lorsque les préoccupations de sécurité sont légitimes et que les accords empêchent leur divulgation, l'organisation peut s'exposer ultérieurement à des risques réglementaires et réputationnels. Les cadres modernes de gouvernance de l'IA comprennent des protections définies pour les lanceurs d'alerte et des canaux de remontée interne.

Microsoft Copilot Designer, Shane Jones

En 2024, l'ingénieur logiciel de Microsoft Shane Jones a signalé à la fois à la FTC et au conseil d'administration de Microsoft que le générateur d'images Copilot Designer produisait des contenus explicites et violents aux côtés d'images d'enfants. Malgré les demandes internes répétées de Jones en faveur d'avertissements et de restrictions sur le produit, Microsoft aurait continué à commercialiser le produit sans changements significatifs. Jones a rédigé, en mars 2024, une lettre publique adressée à la FTC, au conseil d'administration de Microsoft et au Congrès, détaillant ses préoccupations. Cette affaire a démontré que même lorsqu'un employé suit les processus internes de remontée, ces processus peuvent ne pas produire la réponse attendue par l'employé, ce qui conduit à une divulgation externe.

Implications pour la gouvernance : les processus internes de remontée doivent produire une réponse de fond, et non se limiter à une simple conformité procédurale. Les conseils d'administration qui examinent les rapports de sécurité des produits d'IA doivent s'attendre à traiter eux-mêmes les problèmes signalés, plutôt que de les déléguer à des équipes produit susceptibles d'avoir des conflits d'intérêts commerciaux. Lorsque des produits d'IA créent des risques pour la sécurité des enfants, le seuil de remontée doit être bas.

Timnit Gebru et Margaret Mitchell, l'IA éthique chez Google

Timnit Gebru codirigeait l'équipe Ethical AI de Google. Elle a été licenciée en 2020 après avoir rédigé un article de recherche exposant la manière dont les méthodes d'entraînement de l'IA pouvaient accentuer les biais à l'encontre des communautés marginalisées. Margaret Mitchell, fondatrice de l'équipe et autre codirectrice, a été licenciée en 2021 pour faute professionnelle alléguée après avoir pris la défense de Gebru.

Gebru a par la suite fondé le Distributed AI Research Institute (DAIR). Mitchell a témoigné lors de l'audition du Sénat américain de septembre 2024 sur la supervision de l'IA, soulignant la nécessité de donner des instructions claires aux employés confrontés à des accords de confidentialité, ainsi que de mettre en place des canaux de signalement accessibles.

Implications pour la gouvernance : les fonctions d'éthique de l'IA au sein des grandes entreprises technologiques sont structurellement en tension avec les équipes produit commerciales. Lorsque les conclusions éthiques risquent de freiner un déploiement commercial, les équipes d'éthique se sont historiquement trouvées exposées. Une gouvernance efficace exige des lignes de reporting indépendantes, une visibilité au niveau du conseil d'administration, et une protection contre les représailles en cas de conclusions substantielles.

Les auditions du Sénat et la réponse des pouvoirs publics

L'audition du Sénat américain de septembre 2024 consacrée aux lanceurs d'alerte de l'IA a recueilli les témoignages de William Saunders (ancien d'OpenAI), Margaret Mitchell (ancienne de Google) et Helen Toner (ancienne administratrice de l'organisme à but non lucratif d'OpenAI). Principaux thèmes abordés :

Saunders a préconisé d'établir une liste de contacts gouvernementaux capables de comprendre les problèmes signalés et d'agir en conséquence, ainsi que d'identifier les protections juridiques dont les initiés ont besoin lorsqu'ils signalent des actions qui n'enfreignent pas la loi mais mettent en danger la sécurité publique.

Toner a souligné que le flou des lois actuelles sur les lanceurs d'alerte de l'IA dissuadait les personnes de se manifester, en particulier celles dont les griefs relatifs au développement de l'IA ne correspondent à aucune catégorie juridique existante.

Mitchell a insisté sur la nécessité d'instructions claires pour les employés confrontés à des accords de confidentialité et sur l'accessibilité des canaux de signalement.

En mai 2025, l'AI Whistleblower Protection Act (loi sur la protection des lanceurs d'alerte de l'IA) a été proposée au Congrès, et le Transparency in Frontier AI Act (TFAIA) de Californie a intégré des dispositions relatives aux lanceurs d'alerte pour les employés des « frontier developers » (développeurs de pointe), c'est-à-dire les laboratoires développant des modèles utilisant une puissance de calcul très élevée, bien que cette couverture soit limitée à certains employés basés en Californie et responsables de fonctions critiques pour la sécurité.

Le contexte fédéral de déréglementation de l'IA

L'AI Action Plan de l'administration Trump du 23 juillet 2025, au titre de son Pilier I « Supprimer la bureaucratie et la réglementation excessive », a signalé une volonté fédérale de démanteler la réglementation de l'IA. Le décret exécutif 14365 (décembre 2025) a demandé aux agences fédérales de contester les règles étatiques sur l'IA jugées excessivement contraignantes. Le Sénat a voté 99 voix contre 1 contre un projet de moratoire fédéral sur la réglementation étatique de l'IA, mais l'orientation politique est claire.

Dans ce contexte de déréglementation, les lanceurs d'alerte de l'IA pourraient constituer l'une des seules sources d'information publique sur les pratiques de sécurité de l'IA. L'analyse de TechPolicy.Press et l'éclairage d'OnLabor de mars 2026 suggèrent que la protection des lanceurs d'alerte de l'IA devient plus importante, et non moins, à mesure que les mécanismes réglementaires formels s'affaiblissent.

Ce que les praticiens de la gouvernance devraient retenir de ces affaires

1. Une protection substantielle des lanceurs d'alerte dans les cadres de gouvernance. La documentation de gouvernance de l'IA devrait prévoir des protections définies pour les lanceurs d'alerte, des canaux de remontée interne assortis de délais de réponse clairs, une visibilité au niveau du conseil d'administration pour les préoccupations significatives de sécurité de l'IA, et des engagements à ne pas utiliser les accords de confidentialité pour empêcher la divulgation de problèmes de sécurité.

2. Un reporting indépendant pour l'éthique et la sécurité de l'IA. Les fonctions responsables de l'éthique et de la sécurité de l'IA devraient rendre compte indépendamment des équipes produit commerciales dont elles évaluent les produits. La dissolution de l'équipe Ethical AI de Google et les départs de chercheurs en sécurité d'OpenAI révèlent tous deux ce qui se produit lorsque cette indépendance n'est pas protégée structurellement.

3. La gouvernance des données d'entraînement comme enjeu de fond. L'affaire Balaji démontre que la provenance des données d'entraînement est un enjeu juridique et éthique sérieux, et pas seulement technique. Les organisations qui concèdent sous licence des modèles de fondation dépendent des pratiques des fournisseurs en matière de données d'entraînement.

4. La sécurité des produits avec des seuils de remontée bas. L'affaire Microsoft Copilot Designer montre ce qui se produit lorsque la remontée interne échoue sur un produit créant des risques pour la sécurité des enfants. Les rapports de gouvernance de l'IA destinés au conseil d'administration devraient garantir que les préoccupations significatives de sécurité remontent bien jusqu'au conseil.

5. Une documentation qui résiste à l'examen. Si un employé actuel ou ancien soulève des préoccupations de gouvernance à l'extérieur, l'organisation sera évaluée à l'aune de la documentation dont elle dispose : procès-verbaux du conseil d'administration, comptes rendus du comité de gouvernance de l'IA, conclusions éthiques, réponses apportées aux préoccupations internes. La rigueur d'une documentation de fond compte d'autant plus sous l'œil des régulateurs.

6. La confiance du public dépend d'une gouvernance responsable. L'effet cumulé de ces affaires de lanceurs d'alerte est une érosion de la confiance du public dans l'autorégulation du secteur de l'IA. Les organisations qui font la preuve d'une responsabilité réelle, par la certification ISO/IEC 42001, la mise en œuvre du NIST AI RMF, ou un reporting de gouvernance transparent, se distinguent de plus en plus de celles dont la gouvernance de l'IA n'existe que sur le papier.

Sources : PBS News, Suchir Balaji · TIME, OpenAI Whistleblowers · TechPolicy.Press

Lectures connexes