附属書IIIの8つのカテゴリー全容

カテゴリー1、生体識別および生体分類、公衆がアクセス可能な空間におけるリアルタイムの遠隔生体識別に使用されるAI(特定の法執行上の例外および加盟国の承認の対象となる)、法執行機関が使用する事後的な遠隔生体識別システム、そして機微な属性(人種、政治的意見、宗教、性的指向)に基づき生体データから個人を分類するために使用されるAI。注記、感情認識AI、および限定的な私的目的(自分のスマートフォンのロック解除など)のための生体分類は、このカテゴリーには含まれない。

カテゴリー2、重要インフラ、重要なデジタルインフラ(電力網、水道システム、交通ネットワーク)の管理または運用、道路交通管理、そして水道、ガス、暖房または電力の供給における安全コンポーネントとして使用されるAI。ポイントは、当該AIが安全上重要(セーフティクリティカル)なものでなければならないという点であり、最適化や効率化のために使用されるAIが自動的にこのカテゴリーに含まれるわけではない。

カテゴリー3、教育および職業訓練、教育機関・職業訓練機関へのアクセスや配属を決定するために使用されるAI、生徒の教育上の進路に影響を与える形で学習成果を評価するために使用されるAI、生徒の将来に影響を与える形で能力を評価するために使用されるAI、そして評価試験中に生徒を監視するために使用されるAI。教育を支援したり生徒の学習を補助したりするために使用されるAIは、一般的にはこのカテゴリーにおいてハイリスクとはならない。

カテゴリー4、雇用、労働者の管理、および自営業へのアクセス、採用・選考(候補者の絞り込み)、昇進に関する決定、雇用関係の終了、業務の割り当て、業績のモニタリングおよび評価、自営業の機会へのアクセスに関する決定を含む、雇用に関する決定を行うために使用されるAI。このカテゴリーは、企業のAI導入において最も多くの案件に影響を及ぼすカテゴリーであり、雇用に関する決定に影響を与える人事分野で使用されるAIは、事実上ほぼすべてハイリスクに該当する。

カテゴリー5、必須の民間サービスおよび必須の公共サービス・給付へのアクセス、信用力の評価および信用スコアリングに使用されるAI(限定的な例外あり)、生命保険・医療保険のリスク評価および保険料算定に使用されるAI、福祉給付および社会サービスの受給資格を評価するために使用されるAI、緊急サービスの出動指令に使用されるAI、そして教育へのアクセスに使用されるAI。このカテゴリーは、顧客の結果に影響を与える金融サービス関連AIの大半を捕捉する。

カテゴリー6、法執行、ポリグラフおよび類似のツールとして使用されるAI、証拠の信頼性を評価するために使用されるAI、個人が犯罪を犯す可能性を予測するために使用されるAI、捜査におけるプロファイリングに使用されるAI。法執行分野のAIには重大な制限が課されており、多くの用途は単にハイリスクであるにとどまらず禁止されている。

カテゴリー7、移民、庇護、および国境管理、ビザまたは庇護を申請する個人に関連するリスクを評価するために使用されるAI、国境管理に使用されるAI、そして文書の真正性を検知するために使用されるAI。

カテゴリー8、司法運営および民主的プロセス、事実および法律の調査・解釈において司法当局を支援するために使用されるAI、紛争解決に使用されるAI、そして選挙や投票行動に影響を与えるために使用されるAI。

自社のAIはハイリスクか。評価フレームワーク

ステップ1、ユースケースを具体的に特定する。ハイリスク分類は技術ごとではなくユースケースごとに決まる。大規模言語モデルそれ自体は本質的にハイリスクではないが、同じモデルを求職者の選考に使用すればカテゴリー4の下でハイリスクとなる。ステップ2、ユースケースを附属書IIIのカテゴリーと照合する。各カテゴリーを注意深く読み、自社の具体的なユースケースがそれに該当するかどうかを検討する。各カテゴリーにはAI法本文中に定義規定があり、附属書IIIと併せて読む必要がある。ステップ3、除外規定が適用されるかどうかを検討する。AI法は、狭い手続き的目的のみに使用されるAI、不正検知に使用されるAI、そして一部の文脈において(真正な人間によるレビューを伴う)人間の意思決定のための準備的要素となることを意図したAIを除外している。ステップ4、評価内容を文書化する。結論がAIをハイリスクとするものであれ、そうでないものであれ、その評価を理由とともに文書化すること。この文書化は、デューデリジェンスのため、規制当局からの照会のため、そして社内の説明責任のために必要である。

関連資料、EU AI法全文

関連記事

関連資料、EU AI法全文