Por qué el sector sin fines de lucro no puede ignorar la gobernanza de la IA

El sector sin fines de lucro en Australia es un usuario significativo y creciente de la IA. Las organizaciones benéficas utilizan la IA para la prospección de donantes y el análisis de recaudación de fondos, para la evaluación de subvenciones y la determinación de la elegibilidad de beneficiarios, para la optimización de la prestación de servicios y, cada vez más, para las comunicaciones y la asistencia dirigidas a los clientes. Los marcos de gobernanza que se aplican a estos usos son los mismos marcos que se aplican a las organizaciones comerciales, el propósito benéfico no genera exenciones regulatorias.

La ACNC aún no ha emitido orientación específica sobre IA, pero sus normas de gobernanza vigentes crean obligaciones claras que alcanzan a las decisiones de despliegue de IA. Las cinco Normas de Gobernanza de la ACNC exigen que las organizaciones benéficas registradas sean responsables y transparentes, que actúen conforme a la ley y en interés del propósito de la organización, y que las personas responsables ejerzan un cuidado y una diligencia razonables en la gestión de la organización. Los despliegues de IA que generan riesgos legales, reputacionales u operativos están claramente dentro del alcance de estas obligaciones.

La Norma de Gobernanza 5 de la ACNC y la IA

La Norma de Gobernanza 5 impone deberes a las personas responsables, los miembros de la junta directiva y los ejecutivos de la organización benéfica, de actuar con un cuidado y una diligencia razonables, de actuar de buena fe en el mejor interés de la organización, de no hacer un uso indebido de su posición, y de declarar los conflictos de interés. La obligación de cuidado y diligencia razonables es la más directamente relevante para la gobernanza de la IA. Una persona responsable que aprueba un despliegue de IA sin comprender sus riesgos, sin garantizar que exista una gobernanza adecuada, o sin considerar si la IA es coherente con el propósito y los valores de la organización, podría no estar cumpliendo con esta obligación.

La implicación práctica: las juntas directivas de las organizaciones benéficas que consideren despliegues de IA significativos deben asegurarse de que la junta haya recibido una exposición adecuada sobre el propósito del sistema de IA, los datos que utiliza, los riesgos que genera y las disposiciones de gobernanza vigentes. Esta exposición debe quedar documentada en las actas de la junta. La norma de gobernanza no exige que las juntas directivas sean expertas en IA, exige que ejerzan el cuidado y la diligencia que ejercería una persona razonable en su posición.

Obligaciones de privacidad para las organizaciones benéficas que utilizan IA

Los Principios Australianos de Privacidad establecidos en la Privacy Act 1988 (Ley de Privacidad de 1988) se aplican a las organizaciones benéficas con una facturación anual superior a $3M y a todas las organizaciones que prestan servicios de salud, independientemente de su facturación. Para las organizaciones benéficas grandes, incluidos la mayoría de los organismos representativos, hospitales, proveedores de servicios para personas con discapacidad y organizaciones de cuidado de personas mayores, las obligaciones de las APP se aplican plenamente a los sistemas de IA que procesan información personal sobre donantes, clientes, beneficiarios o empleados.

La APP 3 (recopilación de información personal solicitada) exige que la información personal recopilada para un propósito específico se utilice únicamente para ese propósito, utilizar la información de contacto de los donantes recopilada para el procesamiento de donaciones con el fin de entrenar un modelo de análisis predictivo podría no ser coherente con este principio sin la divulgación y el consentimiento adecuados. La APP 5 (notificación de la recopilación) exige que se notifique a las personas cuando se recopila su información personal, la prospección de donantes impulsada por IA que se basa en fuentes de datos de terceros podría generar obligaciones de notificación de recopilación. Y la APP 11 (seguridad de la información personal) exige medidas de seguridad adecuadas para la información personal, los sistemas de IA que procesan esta información deben estar protegidos en consecuencia.

La IA en la prestación de servicios: la dimensión de equidad y acceso

Muchas organizaciones benéficas utilizan la IA en la prestación de servicios dirigidos a los clientes, sistemas automatizados de triaje, herramientas de evaluación de elegibilidad, chatbots para consultas de clientes, herramientas predictivas para identificar a clientes en riesgo. Estas aplicaciones generan obligaciones de gobernanza específicas relacionadas con la equidad y el acceso. Los clientes de la mayoría de las organizaciones benéficas suelen provenir de poblaciones desfavorecidas o vulnerables, personas que atraviesan dificultades económicas, discapacidad, problemas de salud mental o violencia doméstica. Los sistemas de IA que funcionan bien para la población general pueden tener un desempeño deficiente para estos grupos, cuyas circunstancias podrían no estar bien representadas en los datos de entrenamiento y que podrían tener menor capacidad para identificar y refutar los errores de la IA.

Lectura adicional: ASD ACSC, Agentic AI Guidance

Lecturas relacionadas

Lectura adicional: ASD ACSC, Agentic AI Guidance