Welche KI-Systeme gelten nach Anhang III als hochriskant?

Anhang III beschreibt acht Bereiche mit bestimmten KI-Einsätzen. Prüfen Sie Zweckbestimmung und Voraussetzungen, bevor Sie ein Werkzeug einstufen. Der Name einer Abteilung oder eines Produkts reicht nicht aus.

Welche acht Bereiche sind erfasst?

Die Liste betrifft bestimmte Einsätze, nicht jede Software des jeweiligen Sektors:

Biometrie: bestimmte Formen der Fernidentifizierung, Kategorisierung und Emotionserkennung, soweit die Nutzung zulässig ist. Eine Überprüfung allein zur Bestätigung einer angegebenen Identität wird von der Fernidentifizierung unterschieden.
Kritische Infrastruktur: Sicherheitskomponenten beim Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Versorgung mit Wasser, Gas, Wärme und Strom.
Bildung und Berufsbildung: bestimmte Entscheidungen über Zugang, Zuweisung und Bildungsniveau, die Bewertung von Lernergebnissen und die Erkennung unerlaubten Verhaltens bei Prüfungen.
Beschäftigung: bestimmte Einsätze bei Personalauswahl, Beschäftigungsentscheidungen, Aufgabenzuweisung nach persönlichen Merkmalen oder Verhalten und Leistungsbewertung.
Wesentliche private und öffentliche Dienstleistungen: bestimmte öffentliche Unterstützungsleistungen, Kreditwürdigkeit mit einer Ausnahme für die Erkennung von Finanzbetrug, Lebens- und Krankenversicherung, Notrufe und Triage.
Strafverfolgung: bestimmte Einsätze durch zuständige Behörden oder in deren Auftrag zu Opfern, Beweismitteln und Risikobewertung, soweit nach geltendem Recht zulässig.
Migration, Asyl und Grenzen: bestimmte Bewertungen, Anträge und Identifizierungen durch zuständige Behörden oder in deren Auftrag innerhalb der gesetzlichen Grenzen.
Rechtspflege und demokratische Prozesse: bestimmte Unterstützung der Rechtspflege und Beeinflussung von Wahlen oder Referenden. Rein administrative Wahlkampforganisation, bei der Menschen der Ausgabe nicht unmittelbar ausgesetzt sind, ist vom betreffenden Wahleinsatz ausgenommen.

Diese Orientierung verweist auf den ausführlichen Text und ersetzt keine vollständige Einstufung. Eine Hochrisikokategorie erlaubt keine verbotene Praktik. Artikel 6 sieht außerdem einen eigenen Weg für Produkte nach Anhang I vor. Die acht Bereiche erfassen nicht sämtliche Hochrisikosysteme.

Wann ist eine Ausnahme nach Artikel 6 möglich?

Für ein System nach Anhang III erlaubt Artikel 6 eine Ausnahme, wenn kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte besteht, etwa durch fehlenden wesentlichen Einfluss auf die Entscheidung, und die einschlägige Voraussetzung erfüllt ist:

Eine eng gefasste Verfahrensaufgabe.
Die Verbesserung des Ergebnisses einer bereits abgeschlossenen menschlichen Tätigkeit.
Die Erkennung von Entscheidungsmustern oder Abweichungen, ohne die abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen.
Eine vorbereitende Aufgabe für eine Bewertung in den erfassten Einsätzen.

Die bloße Beteiligung eines Menschen belegt die Ausnahme nicht. Ein System nach Anhang III, das Profiling natürlicher Personen durchführt, bleibt hochriskant. Damit wird nicht jedes Profiling durch beliebige KI automatisch als System nach Anhang III eingestuft.

Ein Anbieter, der sich auf die Ausnahme beruft, dokumentiert die Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme und hat eine Registrierungspflicht nach Artikel 49. Eine zuständige Behörde kann die Dokumentation anfordern. Wer ein fertiges Werkzeug nutzt, übernimmt diese Pflicht nicht automatisch allein durch seine Betreiberrolle.

Wer bewertet die Konformität?

Für Biometrie nach Nummer 1 verknüpft Artikel 43 die Wahl zwischen interner Kontrolle und einem Verfahren mit notifizierter Stelle mit den angewandten harmonisierten Normen oder gemeinsamen Spezifikationen. Fehlende, teilweise oder eingeschränkte Abdeckung kann das Verfahren mit einer Stelle erfordern. Prüfen Sie die konkreten Voraussetzungen.

Für die Nummern 2–8 ist interne Kontrolle nach Anhang VI vorgesehen. Fällt das System zugleich unter sektorale Vorschriften nach Anhang I Abschnitt A, sieht Artikel 43 das entsprechende sektorale Verfahren vor. Interne Kontrolle ist nicht für jedes Produkt allgemein ausreichend.

Prüfen Sie aktuelle Normen und den Zuständigkeitsumfang der notifizierten Stelle im Register der notifizierten Stellen NANDO der Europäischen Kommission. Die Registrierung eines Systems ist kein Konformitätszertifikat.

Wann sollten Sie die Einstufung vorbereiten?

Artikel 113 nennt den 2. Dezember 2027 für die betreffenden Hochrisikoregeln nach Anhang III und den 2. August 2028 für den Produktweg nach Anhang I. Diese Termine verschieben nicht den gesamten AI Act.

Bei bereits in Verkehr gebrachten oder in Betrieb genommenen Systemen prüfen Sie die Übergangsregeln aus Artikel 111 und wesentliche Änderungen der Konstruktion. Gehen Sie weder von einer bedingungslosen Ausnahme für ältere Werkzeuge aus noch davon, dass ein Datum sämtliche Pflichten klärt.

Ordnen Sie Zweckbestimmung, Rolle, Kategorie und Bewertungsgrundlagen, solange Sie fehlende Antworten noch beim Anbieter einholen können. Trennen Sie gesicherte Informationen von strittigen rechtlichen Einordnungen.

Fragen

Ist jedes KI-Werkzeug im Personalbereich hochriskant?

Nein. Prüfen Sie den konkreten Einsatz im Beschäftigungsbereich, die Voraussetzungen und eine mögliche Ausnahme. Profiling durch ein System nach Anhang III verändert diese Bewertung.

Brauchen wir immer eine notifizierte Stelle?

Nein. Das Verfahren hängt von Kategorie, Normen, Spezifikationen und möglicher sektoraler Überschneidung ab. Prüfen Sie den anwendbaren Weg und den aktuellen Zuständigkeitsumfang der Stelle.

Wir halten das System nicht für hochriskant. Was folgt daraus?

Klären Sie Ihre Rolle. Beruft sich der Anbieter auf die Ausnahme, dokumentiert er die Bewertung und erfüllt die anwendbare Registrierungspflicht. Fordern Sie als Betreiber die Grundlagen an und prüfen Sie Ihre eigenen Pflichten. Ein Häkchen in einer Liste ist keine rechtliche Bestätigung.

Quellen

Weiterführende Artikel

Nächster Schritt

Halten Sie Kategorie und Einstufungsgrundlagen fest.

Die Vorbereitung auf die EU-KI-Verordnung ordnet Werkzeuge, Einsätze und die Bewertung der Kategorie mit Quellen und Datumsangaben. Strittige Einstufungen werden zur rechtlichen Prüfung festgehalten. Die Übersicht bescheinigt keine Konformität.

Vorbereitung auf die EU-KI-Verordnung anfragen

oder schreiben Sie an contact@ergostrat.com