Lo que los casos de denunciantes de IA revelan sobre el fallo de gobernanza

La industria de la IA ha producido un inusual conjunto de denunciantes desde 2023: empleados actuales y antiguos de OpenAI, Google, Microsoft, Meta, Anthropic y otras empresas que han planteado inquietudes sobre prácticas de seguridad, derechos de autor, acuerdos de confidencialidad (NDA), datos de entrenamiento y despliegue de productos. Estos casos importan para la gobernanza no porque todas las denuncias estén validadas, sino porque revelan patrones sistémicos de fallo de gobernanza que las organizaciones que desarrollan o despliegan IA deben comprender y abordar. Este artículo examina los casos más significativos, lo que revelan y qué deberían aprender los profesionales de la gobernanza.

El caso de Suchir Balaji, los derechos de autor y los datos de entrenamiento

Suchir Balaji (noviembre de 1998 a noviembre de 2024) fue un antiguo investigador de OpenAI que, en una entrevista concedida a The New York Times en octubre de 2024, alegó que ChatGPT y sistemas similares vulneraban la legislación estadounidense de derechos de autor en sus métodos de entrenamiento. Había trabajado en OpenAI durante casi cuatro años, contribuyendo a WebGPT (un precursor de ChatGPT) y a la recopilación y organización de los datos de internet utilizados para entrenar a GPT-4. Dejó OpenAI en agosto de 2024.

El análisis de Balaji, publicado en su sitio web personal bajo el título "¿Cuándo califica la IA generativa para el uso legítimo (fair use)?", examinaba matemáticamente los resultados de los chatbots y argumentaba que no superaban la prueba de los cuatro factores del uso legítimo. Fue identificado en un escrito judicial de The New York Times del 18 de noviembre de 2024 como alguien que podría tener "documentos relevantes" en el caso de derechos de autor NYT contra OpenAI, y declaró que testificaría contra OpenAI. Fue hallado muerto el 26 de noviembre de 2024 en su apartamento de San Francisco. El médico forense jefe concluyó que la muerte fue un suicidio; el Departamento de Policía de San Francisco no halló "evidencia de juego sucio". Sus padres y otras personas han cuestionado públicamente esta conclusión. El caso atrajo una atención considerable y sigue siendo objeto de interés público, incluida la extensa investigación de The Nation publicada en mayo de 2026.

Implicaciones para la gobernanza: la procedencia de los datos de entrenamiento es una cuestión sustantiva de gobernanza, no de marketing. Las organizaciones que licencian o despliegan modelos fundacionales dependen de la procedencia de los datos de entrenamiento de dichos modelos. La litigación activa contra los principales proveedores (NYT, Sarah Silverman et al., editoriales, sellos discográficos) genera incertidumbre en toda la cadena. La debida diligencia sobre proveedores debe abordar la documentación de los datos de entrenamiento y la indemnización por propiedad intelectual.

La carta abierta "Derecho a advertir"

En junio de 2024, trece empleados actuales y antiguos de empresas de IA de vanguardia, principalmente OpenAI, pero también empleados de Anthropic y Google DeepMind, publicaron una carta abierta titulada "A Right to Warn About Advanced Artificial Intelligence" (Un derecho a advertir sobre la inteligencia artificial avanzada). Entre los firmantes se encontraban Daniel Kokotajlo, William Saunders, Carroll Wainwright, Jacob Hilton, Daniel Ziegler, Ramana Kumar, Neel Nanda, Geoffrey Hinton (como partidario) y otros.

La carta pedía a las empresas de IA que: dejaran de exigir a los empleados que firmaran acuerdos de no menosprecio que les impidieran plantear inquietudes de seguridad; crearan un proceso para que los empleados pudieran plantear inquietudes a los miembros del consejo, a los reguladores y a los grupos de vigilancia; fomentaran una "cultura de crítica abierta"; y se comprometieran a no tomar represalias contra los denunciantes que hicieran pública su información tras el fracaso de los canales internos.

Daniel Kokotajlo había dejado OpenAI en abril de 2024, negándose a firmar el acuerdo de no menosprecio y renunciando a aproximadamente 1,7 millones de dólares en acciones. Tras la cobertura de Vox sobre las cláusulas de confidencialidad de OpenAI, la empresa dio marcha atrás con la política. El director ejecutivo Sam Altman reconoció públicamente que desconocía el alcance de dichos acuerdos y expresó su vergüenza.

Implicaciones para la gobernanza: los acuerdos de no menosprecio que impiden a los empleados plantear inquietudes de seguridad generan riesgo de gobernanza. Cuando las inquietudes de seguridad son legítimas y los acuerdos impiden su divulgación, la organización puede enfrentarse posteriormente a exposición regulatoria y reputacional. Los marcos modernos de gobernanza de la IA incluyen protecciones definidas para los denunciantes y canales de escalada internos.

Microsoft Copilot Designer, Shane Jones

En 2024, el ingeniero de software de Microsoft Shane Jones informó tanto a la FTC como al consejo de administración de Microsoft de que el generador de imágenes Copilot Designer producía contenido gráfico y violento junto a imágenes de menores. A pesar de los reiterados llamamientos internos de Jones para que se incluyeran advertencias y restricciones en el producto, Microsoft presuntamente continuó comercializándolo sin cambios significativos. En marzo de 2024, Jones escribió una carta pública a la FTC, al consejo de Microsoft y al Congreso detallando sus inquietudes. El caso demostró que, incluso cuando un empleado sigue los procesos internos de escalada, estos pueden no producir la respuesta que el empleado espera, lo que conduce a la denuncia externa.

Implicaciones para la gobernanza: los procesos internos de escalada deben producir una respuesta sustantiva, no solo el cumplimiento formal del proceso. Los consejos que revisan los informes de seguridad de los productos de IA deben esperar involucrarse con los problemas notificados, no delegarlos en equipos de producto que puedan tener conflictos comerciales. Cuando los productos de IA generan riesgos para la seguridad infantil, el umbral para la escalada debe ser bajo.

Timnit Gebru y Margaret Mitchell, la IA ética de Google

Timnit Gebru era codirectora del equipo de IA Ética de Google. Fue despedida en 2020 tras escribir un artículo de investigación que exponía cómo los métodos de entrenamiento de la IA podían profundizar los sesgos contra comunidades marginadas. Margaret Mitchell, fundadora del equipo y la otra codirectora, fue despedida en 2021 por presunta mala conducta después de defender a Gebru.

Gebru pasó después a fundar el Distributed AI Research Institute (DAIR). Mitchell testificó en la audiencia del Senado de Estados Unidos sobre supervisión de la IA celebrada en septiembre de 2024, subrayando la necesidad de dar instrucciones claras a los empleados que deben lidiar con acuerdos de confidencialidad y de contar con canales de denuncia accesibles.

Implicaciones para la gobernanza: las funciones de ética de la IA dentro de las grandes empresas tecnológicas se enfrentan a una tensión estructural con los equipos de producto comerciales. Cuando los hallazgos éticos limitarían el despliegue comercial, los equipos de ética han estado históricamente en riesgo. Una gobernanza eficaz requiere líneas de reporte independientes, visibilidad a nivel de consejo y protección frente a represalias por hallazgos sustantivos.

Las audiencias del Senado y la respuesta normativa

La audiencia del Senado de Estados Unidos sobre denunciantes de IA celebrada en septiembre de 2024 contó con el testimonio de William Saunders (antiguo empleado de OpenAI), Margaret Mitchell (antigua empleada de Google) y Helen Toner (antigua miembro del consejo de la entidad sin ánimo de lucro de OpenAI). Los temas clave fueron:

Saunders recomendó establecer una lista de contactos gubernamentales que comprendieran los problemas notificados y pudieran actuar en consecuencia, así como identificar las protecciones legales que necesitan las personas internas al señalar acciones que no infringen leyes pero que ponen en riesgo la seguridad pública.

Toner señaló que la vaguedad de las leyes actuales sobre denunciantes de IA desincentiva que las personas se presenten, en particular aquellas con quejas sobre el desarrollo de IA que no encajan en las categorías legales existentes.

Mitchell subrayó la importancia de dar instrucciones claras a los empleados que deben lidiar con acuerdos de confidencialidad y de contar con canales de denuncia accesibles.

En mayo de 2025 se propuso en el Congreso la AI Whistleblower Protection Act (Ley de Protección de Denunciantes de IA), y la Transparency in Frontier AI Act (TFAIA) de California incluyó disposiciones para denunciantes empleados de "desarrolladores de vanguardia" (laboratorios que desarrollan modelos utilizando una capacidad de cómputo muy elevada), aunque la cobertura se limita a determinados empleados con sede en California responsables de funciones críticas para la seguridad.

El contexto federal de desregulación de la IA

El AI Action Plan (Plan de Acción sobre IA) de la administración Trump, publicado el 23 de julio de 2025, señaló bajo su Pilar I, "Eliminar la burocracia y la regulación onerosa", la intención federal de desmantelar la regulación de la IA. La Orden Ejecutiva 14365 (diciembre de 2025) instruyó a las agencias federales a impugnar las normas estatales sobre IA consideradas excesivamente gravosas. El Senado votó 99 a 1 en contra de una propuesta de moratoria federal sobre la regulación estatal de la IA, pero la orientación política es clara.

En este entorno desregulador, los denunciantes de IA pueden ser una de las pocas fuentes de información pública sobre las prácticas de seguridad de la IA. El análisis de TechPolicy.Press y el planteamiento de OnLabor de marzo de 2026 sugieren que proteger a los denunciantes de IA se vuelve más importante, no menos, a medida que se debilitan los mecanismos regulatorios formales.

Qué deberían extraer los profesionales de la gobernanza de estos casos

1. Protección sustantiva de los denunciantes en los marcos de gobernanza. La documentación de gobernanza de la IA debería incluir protecciones definidas para los denunciantes, canales de escalada internos con plazos de respuesta claros, visibilidad a nivel de consejo para las inquietudes de seguridad de la IA relevantes, y el compromiso de no utilizar los acuerdos de confidencialidad para impedir la divulgación de cuestiones de seguridad.

2. Líneas de reporte independientes para la ética y la seguridad de la IA. Las funciones responsables de la ética y la seguridad de la IA deberían reportar de forma independiente de los equipos de producto comerciales cuyos productos evalúan. Tanto la disolución del equipo de IA Ética de Google como las salidas de investigadores de seguridad de OpenAI revelan lo que ocurre cuando esta independencia no está protegida estructuralmente.

3. La gobernanza de los datos de entrenamiento como cuestión sustantiva. El caso de Balaji demuestra que la procedencia de los datos de entrenamiento es una cuestión legal y ética seria, no meramente técnica. Las organizaciones que licencian modelos fundacionales dependen de las prácticas de datos de entrenamiento de sus proveedores.

4. Seguridad de producto con umbrales de escalada bajos. El caso de Microsoft Copilot Designer muestra qué ocurre cuando la escalada interna falla en un producto que genera riesgos para la seguridad infantil. Los informes de gobernanza de la IA dirigidos al consejo deberían garantizar que las inquietudes de seguridad relevantes lleguen a ese nivel.

5. Documentación que resiste el escrutinio. Si un empleado actual o antiguo plantea inquietudes de gobernanza externamente, la organización será evaluada en función de la documentación de que disponga: actas del consejo, registros del comité de gobernanza de la IA, hallazgos éticos, respuesta a las inquietudes internas. La disciplina de una documentación sustantiva cobra más importancia bajo el escrutinio regulatorio.

6. La confianza pública depende de una gobernanza responsable. El efecto acumulativo de los casos de denunciantes es la erosión de la confianza pública en la autorregulación de la industria de la IA. Las organizaciones que demuestran una responsabilidad genuina, mediante la certificación ISO/IEC 42001, la implementación del NIST AI RMF o informes de gobernanza transparentes, se diferencian cada vez más de aquellas cuya gobernanza de la IA existe solo sobre el papel.

Fuentes: PBS News, Suchir Balaji · TIME, OpenAI Whistleblowers · TechPolicy.Press

Lecturas relacionadas