Die acht Kategorien von Anhang III im Detail

Kategorie 1, Biometrische Identifizierung und Kategorisierung: KI, die zur biometrischen Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen eingesetzt wird (vorbehaltlich spezifischer Ausnahmen für die Strafverfolgung und Genehmigungen der Mitgliedstaaten), nachträgliche biometrische Fernidentifizierungssysteme, die von Strafverfolgungsbehörden genutzt werden, sowie KI, die Einzelpersonen anhand biometrischer Daten nach sensiblen Merkmalen kategorisiert (Rasse, politische Meinungen, Religion, sexuelle Orientierung). Hinweis: KI zur Emotionserkennung sowie biometrische Kategorisierung für eng begrenzte private Zwecke (etwa das Entsperren des eigenen Smartphones) fallen nicht unter diese Kategorie.

Kategorie 2, Kritische Infrastruktur: KI, die als Sicherheitsbauteil bei der Verwaltung oder dem Betrieb kritischer digitaler Infrastruktur (Stromnetze, Wassersysteme, Verkehrsnetze), der Verkehrssteuerung im Straßenverkehr sowie der Versorgung mit Wasser, Gas, Wärme oder Strom eingesetzt wird. Entscheidend ist, dass die KI sicherheitsrelevant sein muss, KI, die der Optimierung oder Effizienzsteigerung dient, fällt nicht automatisch in diese Kategorie.

Kategorie 3, Bildung und Berufsausbildung: KI, die über den Zugang zu oder die Zuweisung zu Bildungs- und Berufsbildungseinrichtungen entscheidet, Lernergebnisse in einer Weise bewertet, die den Bildungsweg von Lernenden beeinflusst, die Kompetenz von Lernenden in einer Weise bewertet, die deren Zukunft beeinflusst, und Lernende während Prüfungen überwacht. KI, die den Unterricht unterstützt oder Lernenden beim Lernen hilft, gilt im Rahmen dieser Kategorie grundsätzlich nicht als hochriskant.

Kategorie 4, Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit: KI, die für Beschäftigungsentscheidungen eingesetzt wird, einschließlich Personalbeschaffung und -auswahl (Erstellung von Shortlists), Entscheidungen über Beförderungen, Beendigung von Arbeitsverhältnissen, Zuweisung von Aufgaben, Überwachung und Bewertung der Leistung sowie Entscheidungen über den Zugang zu Möglichkeiten der Selbstständigkeit. Dies ist die Kategorie, die die größte Zahl unternehmerischer KI-Einsätze betrifft, praktisch jede im Personalwesen eingesetzte KI, die Beschäftigungsentscheidungen beeinflusst, gilt als hochriskant.

Kategorie 5, Zugang zu wesentlichen privaten Diensten sowie wesentlichen öffentlichen Diensten und Leistungen: KI, die zur Bewertung der Kreditwürdigkeit und für Kredit-Scoring eingesetzt wird (mit begrenzten Ausnahmen), KI, die bei der Risikobewertung und Preisgestaltung von Lebens- und Krankenversicherungen eingesetzt wird, KI, die die Anspruchsberechtigung für Sozialleistungen und soziale Dienste bewertet, KI, die bei der Einsatzdisposition von Rettungsdiensten verwendet wird, und KI, die beim Zugang zu Bildung eingesetzt wird. Diese Kategorie erfasst den Großteil der KI im Finanzdienstleistungsbereich, die sich auf Kundenergebnisse auswirkt.

Kategorie 6, Strafverfolgung: KI, die als Lügendetektor oder ähnliches Instrument eingesetzt wird, KI, die zur Bewertung der Zuverlässigkeit von Beweismitteln eingesetzt wird, KI, die zur Vorhersage der Wahrscheinlichkeit einer Straftatbegehung durch eine Person eingesetzt wird, sowie KI, die zur Profilerstellung bei Ermittlungen eingesetzt wird. Für KI im Bereich der Strafverfolgung gelten erhebliche Beschränkungen, und viele Anwendungen sind nicht lediglich hochriskant, sondern verboten.

Kategorie 7, Migration, Asyl und Grenzkontrollmanagement: KI, die zur Bewertung von Risiken im Zusammenhang mit Personen eingesetzt wird, die ein Visum oder Asyl beantragen, KI, die bei der Grenzkontrolle eingesetzt wird, und KI, die zur Prüfung der Echtheit von Dokumenten eingesetzt wird.

Kategorie 8, Rechtspflege und demokratische Prozesse: KI, die Justizbehörden bei der Recherche und Auslegung von Sachverhalten und Rechtsvorschriften unterstützt, KI, die bei der Streitbeilegung eingesetzt wird, und KI, die zur Beeinflussung von Wahlen und Wahlverhalten eingesetzt wird.

Ist Ihre KI hochriskant? Der Bewertungsrahmen

Schritt 1: Den Anwendungsfall konkret bestimmen. Die Einstufung als hochriskant richtet sich nach dem Anwendungsfall, nicht nach der Technologie. Ein großes Sprachmodell ist nicht von sich aus hochriskant, dasselbe Modell zur Vorauswahl von Bewerbern eingesetzt gilt jedoch nach Kategorie 4 als hochriskant. Schritt 2: Den Anwendungsfall den Kategorien von Anhang III zuordnen. Lesen Sie jede Kategorie sorgfältig durch und prüfen Sie, ob Ihr konkreter Anwendungsfall darunterfällt. Zu den Kategorien gibt es Begriffsbestimmungen in der KI-Verordnung, die zusammen mit Anhang III gelesen werden müssen. Schritt 3: Prüfen, ob Ausnahmen greifen. Die KI-Verordnung schließt KI aus, die ausschließlich eng begrenzten verfahrenstechnischen Zwecken dient, KI zur Betrugserkennung sowie KI, die in bestimmten Kontexten lediglich als vorbereitendes Element für eine menschliche Entscheidung gedacht ist (bei echter menschlicher Überprüfung). Schritt 4: Die Bewertung dokumentieren. Unabhängig davon, ob Ihr Ergebnis lautet, dass die KI hochriskant ist oder nicht, dokumentieren Sie die Bewertung samt Begründung. Diese Dokumentation ist für die Sorgfaltspflicht, für behördliche Anfragen und für die interne Rechenschaftspflicht erforderlich.

Weiterführende Lektüre: Vollständiger Text der EU-KI-Verordnung

Weiterführende Artikel

Weiterführende Lektüre: Vollständiger Text der EU-KI-Verordnung