Pourquoi le secteur des organismes à but non lucratif ne peut pas ignorer la gouvernance de l'IA

Le secteur à but non lucratif en Australie est un utilisateur important et croissant de l'IA. Les organismes caritatifs utilisent l'IA pour la prospection de donateurs et l'analyse de la collecte de fonds, pour l'évaluation des subventions et la détermination de l'admissibilité des bénéficiaires, pour l'optimisation de la prestation de services, et de plus en plus pour les communications et le soutien destinés aux clients. Les cadres de gouvernance qui s'appliquent à ces usages sont les mêmes que ceux qui s'appliquent aux organisations commerciales, la finalité caritative ne crée pas d'exemptions réglementaires.

L'ACNC n'a pas encore publié de lignes directrices spécifiques à l'IA, mais ses normes de gouvernance existantes créent des obligations claires qui s'étendent aux décisions de déploiement de l'IA. Les cinq normes de gouvernance de l'ACNC exigent que les organismes caritatifs enregistrés soient responsables et transparents, qu'ils agissent légalement et dans l'intérêt de la finalité de l'organisme, et que les personnes responsables exercent une diligence raisonnable dans la gestion de l'organisme. Les déploiements d'IA qui créent un risque juridique, réputationnel ou opérationnel relèvent pleinement du champ de ces obligations.

La norme de gouvernance 5 de l'ACNC et l'IA

La norme de gouvernance 5 impose des devoirs aux personnes responsables, membres du conseil d'administration et dirigeants de l'organisme caritatif, celui d'agir avec une diligence raisonnable, d'agir de bonne foi dans l'intérêt supérieur de l'organisme, de ne pas abuser de leur position, et de divulguer les conflits d'intérêts. L'obligation de diligence raisonnable est celle qui concerne le plus directement la gouvernance de l'IA. Une personne responsable qui approuve un déploiement d'IA sans en comprendre les risques, sans s'assurer qu'une gouvernance appropriée est en place, ou sans se demander si l'IA est conforme à la finalité et aux valeurs de l'organisme, peut ne pas satisfaire à cette obligation.

L'implication pratique : les conseils d'administration des organismes caritatifs qui envisagent des déploiements d'IA importants devraient s'assurer que le conseil a reçu un briefing adéquat sur la finalité du système d'IA, les données qu'il utilise, les risques qu'il crée, et les dispositifs de gouvernance en place. Ce briefing devrait être consigné dans le procès-verbal du conseil. La norme de gouvernance n'exige pas que les conseils d'administration soient des experts en IA, elle exige qu'ils exercent la diligence qu'une personne raisonnable placée dans leur situation exercerait.

Obligations en matière de confidentialité pour les organismes caritatifs utilisant l'IA

Les Australian Privacy Principles (principes australiens de protection de la vie privée) prévus par le Privacy Act 1988 s'appliquent aux organismes caritatifs dont le chiffre d'affaires annuel dépasse 3 millions de dollars et à toutes les organisations qui fournissent des services de santé, quel que soit leur chiffre d'affaires. Pour les grands organismes caritatifs, y compris la plupart des organismes faîtiers, des hôpitaux, des prestataires de services aux personnes handicapées et des organisations de soins aux personnes âgées, les obligations des APP s'appliquent pleinement aux systèmes d'IA qui traitent des informations personnelles sur les donateurs, les clients, les bénéficiaires ou les employés.

L'APP 3 (collecte d'informations personnelles sollicitées) exige que les informations personnelles collectées à des fins spécifiques ne soient utilisées qu'à ces fins, utiliser les coordonnées de donateurs collectées pour le traitement des dons afin d'entraîner un modèle d'analyse prédictive peut ne pas être conforme à ce principe sans divulgation et consentement appropriés. L'APP 5 (notification de la collecte) exige que les personnes soient informées lorsque leurs informations personnelles sont collectées, la prospection de donateurs pilotée par l'IA qui s'appuie sur des sources de données tierces peut créer des obligations de notification de la collecte. Et l'APP 11 (sécurité des informations personnelles) exige des mesures de sécurité appropriées pour les informations personnelles, les systèmes d'IA qui traitent ces informations doivent être sécurisés en conséquence.

L'IA dans la prestation de services : la dimension équité et accès

De nombreux organismes caritatifs utilisent l'IA dans la prestation de services destinés aux clients, systèmes de tri automatisés, outils d'évaluation de l'admissibilité, chatbots pour les demandes des clients, outils prédictifs pour identifier les clients à risque. Ces applications créent des obligations de gouvernance spécifiques liées à l'équité et à l'accès. Les clients de la plupart des organismes caritatifs proviennent souvent de populations défavorisées ou vulnérables, des personnes en difficulté financière, en situation de handicap, confrontées à des problèmes de santé mentale, ou victimes de violence domestique. Les systèmes d'IA qui fonctionnent bien pour la population générale peuvent être peu performants pour ces groupes, dont la situation peut être mal représentée dans les données d'entraînement et qui peuvent avoir moins de capacité à identifier et à contester les erreurs de l'IA.

Pour aller plus loin : ASD ACSC, Agentic AI Guidance

Lectures connexes

Pour aller plus loin : ASD ACSC, Agentic AI Guidance