EU AI Act — High-Level Summary

Quelle: Future of Life Institute
Datum: 30. Mai 2024
URL: artificialintelligenceact.eu/high-level-summary

4-Punkte-Zusammenfassung

Verbotene KI (unacceptable risk) — verboten ohne Ausnahmen
Hochrisiko-KI — reguliert, umfangreichste Pflichten
Begrenzt riskante KI (limited risk) — Transparenzpflichten nach Art. 50 (Chatbots, Deepfakes; in Kraft seit 2.8.2026) → Detailanalyse: src-eu-ai-act-artikel50-schulwesen
Minimales Risiko — unreguliert (z. B. KI-Videospiele, Spamfilter)

Verbotene KI-Systeme (Art. 5)

Manipulative/täuschende Techniken die Verhalten schädlich verzerren
Ausnutzung von Vulnerabilitäten (Alter, Behinderung, sozioökonomisch)
Social Scoring (staatliche Bewertung von Personen nach Verhalten/Eigenschaften)
Kriminalitätsrisiko-Bewertung rein auf Basis von Profiling/Persönlichkeitsmerkmalen
Gesichtsdatenbanken durch ungezielte Scraping aus Internet/CCTV
Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen (außer Medizin/Sicherheit)
Biometrische Kategorisierung nach sensiblen Merkmalen (Rasse, Religion, Sexualleben etc.)
Echtzeit-Remote-Biometrie im öffentlichen Raum für Strafverfolgung (mit engen Ausnahmen)

Hochrisiko-KI: Annex III — Bildungsbereich

Bildung und Berufsausbildung:
- KI-Systeme zur Zugangsentscheidung zu Bildungseinrichtungen
- Bewertung von Lernergebnissen inkl. Lernprozess-Steuerung
- Einschätzung des angemessenen Bildungsniveaus
- Überwachung und Erkennung verbotenen Verhaltens bei Prüfungen

→ Diese Systeme benötigen umfangreiche Compliance-Maßnahmen.

Sonderpädagogischer Kontext (MSD): „Einschätzung des angemessenen Bildungsniveaus" umfasst in der Praxis auch die Feststellung eines sonderpädagogischen Förderbedarfs — damit unterliegt KI-gestützte Diagnostik im MSD dem Hochrisiko-Regime. Konsequenz: EU-AI-Act-Anforderungen sind bei vollständigen KI-Gutachten nicht erfüllbar → nur Assistenzrolle zulässig. Vgl. src-msdigital-ki-msd.

Pflichten für Hochrisiko-KI-Anbieter (Art. 8–17)

Risikomanagementsystem über den gesamten Lebenszyklus
Data Governance (repräsentative, fehlerarme Trainingsdaten)
Technische Dokumentation
Automatische Ereignisaufzeichnung
Nutzungsanweisungen für Deployer
Menschliche Aufsicht ermöglichen
Qualitätsmanagementsystem

GPAI (General Purpose AI) — Modelle wie GPT, Claude

Alle GPAI-Anbieter müssen:
- Technische Dokumentation erstellen
- Downstream-Anbietern Informationen zu Fähigkeiten/Grenzen liefern
- Copyright-Richtlinie einhalten
- Trainings-Daten-Zusammenfassung veröffentlichen

Systemische GPAI (Training > 10²⁵ FLOPS, z. B. große Frontier-Modelle):
- Zusätzlich: Modellbewertungen, Adversarial Testing, Incident-Reporting, Cybersicherheit

Zeitplan (ab Inkrafttreten)

Frist	Bereich
6 Monate	Verbotene KI
12 Monate	GPAI-Pflichten
24 Monate	Hochrisiko (Annex III)
36 Monate	Hochrisiko (Annex I)

Schulrelevanz

Der AI Act verpflichtet Schulen als Institutionen, die Mitarbeitenden KI-Nutzung ermöglichen, zu Fortbildungen (Art. 4). Dies ist die Rechtsgrundlage für den KIKO-Selbstlernkurs als Pflichtfortbildung gemäß src-kms-ki-an-schulen-2024.