Der EU AI Act im Schulwesen: Normative Analyse von Artikel 50

Juristische Analyse der Transparenzpflichten nach Art. 50 der Verordnung (EU) 2024/1689 (EU AI Act) für Schulen, Lehrkräfte und Schulverwaltung. Art. 50 tritt am 2. August 2026 in Kraft (Art. 4 — KI-Kompetenzpflicht — gilt bereits seit 2. Februar 2025).

Wichtige Korrektur: Die einschlägige Transparenznorm des AI Act ist Art. 50, nicht Art. 52 (frühere Entwurfsnummerierung, die in compare-eu-ai-act-bayerische-ki-schulpraxis bislang fälschlich verwendet wurde — dort korrigiert).

Rollentrennung: Anbieter vs. Betreiber

Schulen, Lehrkräfte und Schulbehörden agieren rechtlich primär als Betreiber (Deployer), nicht als Anbieter (Provider) — das sind Softwareentwickler/Cloud-Anbieter. Diese Trennung bestimmt, welche Pflichten das pädagogische Personal direkt treffen.

Die fünf Absätze von Art. 50

Absatz	Anwendungsbereich	Adressat	Pflicht	Wesentliche Ausnahme
Abs. 1	Interaktive KI-Systeme (Schul-Chatbots, Lernassistenten)	Anbieter & Betreiber	Nutzer beim ersten Kontakt barrierefrei über KI-Interaktion informieren	Offenkundigkeit aus dem Kontext
Abs. 2	Generierung von Text/Audio/Bild/Video	Anbieter (Softwareentwickler)	Maschinenlesbare Kennzeichnung (Wasserzeichen, EXIF/IPTC-Metadaten)	Bloße Standardbearbeitung ohne inhaltliche Veränderung
Abs. 3	Emotionserkennung / biometrische Kategorisierung	Betreiber	Vorab-Information Betroffener	Im Schulbereich weitgehend unzulässig (Art. 5 AI Act / Art. 9 DSGVO)
Abs. 4 (1)	Deepfakes (synthetische Personen/Medien/Stimmen)	Betreiber (Schule/Lehrkraft)	Deutlich sichtbare Offenlegung	Künstlerische/satirische/fiktionale Nutzung
Abs. 4 (2)	KI-Texte zur Information der Öffentlichkeit	Betreiber (Schule/Lehrkraft)	Offenlegung bei Publikation	Redaktionsvorbehalt (s. u.) — entfällt bei menschlicher Prüfung + redaktioneller Verantwortung
Abs. 5	Alle Pflichten aus Abs. 1–4	Anbieter & Betreiber	Klare, verständliche, barrierefreie Bereitstellung	Keine

Der Redaktionsvorbehalt (Art. 50 Abs. 4 Satz 2) — Kernmechanismus für die Schulpraxis

Die Kennzeichnungspflicht für KI-generierte Texte entfällt, wenn die Inhalte einer menschlichen Überprüfung/redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Dieser Vorbehalt ist der zentrale Mechanismus, der den produktiven KI-Einsatz im Schulalltag rechtlich absichert, ohne dass eine Kennzeichnung auf Zeugnissen, Gutachten oder Elternbriefen nötig wird.

Anwendung im schulischen Kontext

Tätigkeitsfeld	Art. 50 anwendbar?	Kennzeichnung auf Dokument	Auskunftspflicht ggü. Eltern
Arbeitsblätter & Unterrichtsmaterial	Nein (keine Veröffentlichung an Öffentlichkeit)	Nein	Nein (reine didaktische Vorbereitung)
Formatives Schülerfeedback	Nein (interner pädagog. Austausch)	Nein	Nein (solange didaktisch kontrolliert)
Wortgutachten & Zeugnisse	Nein (Redaktionsvorbehalt greift)	Nein (kein KI-Vermerk auf amtlichen Formularen)	Nein bzgl. Werkzeugnutzung; Ja bzgl. DSGVO bei personenbezogenen Daten
Schuleigene Web-Texte / Blog	Ja (falls vollautomatisch) / Nein (bei Prüfung)	Nur bei fehlender menschlicher Prüfung	Über allgemeine Impressums-/Transparenzregeln gedeckt
Interaktiver Eltern-Chatbot (Schulverwaltung)	Ja (Art. 50 Abs. 1)	Ja (Hinweis im Chatfenster, kein bloßer Verweis in Datenschutzerklärung genügt)	Ja (System informiert automatisch)
KI-generierte Bilder/Audio/Video in Öffentlichkeitsarbeit (Jahresbericht, Social Media) mit realitätsnaher Personendarstellung	Ja (Art. 50 Abs. 4, Deepfake-Regel)	Ja, sichtbarer Hinweis („KI-generierte Abbildung")	—

Wichtig: Von KI-Systemen automatisch erzeugte Metadaten (Abs. 2) dürfen von der Schule nicht entfernt/überschrieben werden.

Pädagogische Empfehlung (kein Rechtszwang): Offenlegung des KI-Einsatzes gegenüber der Klasse kann im Sinne von Art. 4 AI Act (KI-Kompetenzförderung) sinnvoll sein, auch wenn Art. 50 dies für Unterrichtsmaterial nicht verlangt.

Auskunftspflicht gegenüber Eltern — getrennt von Art. 50

Der AI Act selbst begründet keine allgemeine Darlegungspflicht ggü. Erziehungsberechtigten zur internen KI-Nutzung, solange der Redaktionsvorbehalt greift (Lehrkraft trägt finale Verantwortung). Eine Auskunftspflicht ergibt sich stattdessen aus Art. 15 DSGVO i. V. m. landesrechtlichen Schulgesetzen (z. B. Art. 41 BaySchO), sobald personenbezogene Schülerdaten in ein KI-System eingegeben werden. Nutzung datenschutzkonformer, vom Schulträger bereitgestellter Dienstsysteme ohne Speicherung personenbezogener Drittdaten löst keine Offenlegungspflicht zur reinen Arbeitsmethodik aus.

KI in der (sonderpädagogischen) Diagnostik — Hochrisiko nach Annex III

Diagnostische Systeme zur Bewertung von Lernleistungen, Feststellung des Bildungsstands oder Steuerung von Bildungsbiografien qualifizieren nach Anhang III Nr. 3 als Hochrisiko-KI. Konsequenz: Diagnostische Entscheidungen dürfen niemals vollautomatisiert getroffen werden; KI ist ausschließlich als entscheidungsunterstützendes Werkzeug unter Aufsicht der Fachkraft (Sonderpädagog:innen, Schulpsycholog:innen, Beratungslehrkräfte) zulässig. Deckt sich mit dem MSD-Befund „Assistent statt Autor" in src-msdigital-ki-msd.

Drei-Phasen-Modell der Elterninformation bei diagnostischen Gutachten

Vorabinformation — landesrechtlich vorgeschrieben (z. B. § 28 Abs. 4 S. 2 VSO-F: mind. 1 Woche vor Beginn förderdiagnostischer Maßnahmen über Verfahren informieren; bei Intelligenztestverfahren zusätzlich vorherige schriftliche Zustimmung nötig). Kommen KI-gestützte adaptive Testsysteme zum Einsatz, ist dies Teil dieser Ankündigung.
Schriftlicher Bericht — im Methodenabschnitt („Verwendete Diagnostische Verfahren und Hilfsmittel") ist die eingesetzte Software mit Bezeichnung/Version zu deklarieren; klare Trennung zwischen KI-gestützter Datenverarbeitung und menschlicher Verhaltensbeobachtung; die diagnostische Interpretation und Förderempfehlung muss erkennbar eigenständig durch die Fachkraft erfolgt sein.
Erörterungsgespräch — gemäß § 25 VSO-F / Art. 30b BayEUG wird das Gesamtergebnis mündlich erläutert; Eltern ist aufzuzeigen, wie KI als Hilfsmittel diente und dass die Förderbedarfs-/Förderortentscheidung auf der Bewertung der Lehrkraft beruht.

Diese Anforderungen ergeben sich aus dem Zusammenwirken von Diagnostikstandards, Schulaufsichtsrecht und Verwaltungsverfahrensrecht — nicht direkt aus Art. 50, aber flankierend zur Hochrisiko-Einstufung nach Annex III.

Schulverwaltung und Governance

Art. 4 AI Act (KI-Kompetenzpflicht, seit Feb. 2025) verlangt geschultes Kollegium bzgl. Redaktionsvorbehalt, Halluzinations-Erkennung, Verfahrensanforderungen bei diagnostischen Veröffentlichungen. Schulleitungen sollten Fortbildungsteilnahme nachhalten (Nachweispflicht ggü. Schulaufsicht/Datenschutzbehörden).
IT-Infrastruktur muss DSGVO und AI Act gleichermaßen genügen — zentrale Identitätsmanagementsysteme (VIDIS, landesspezifische Schul-Clouds) verhindern ungeprüfte Datenübermittlung an Drittstaaten/Modellbetreiber.
Empfehlung: verbindliche KI-Nutzungsordnung je Schule (Schulleitung im Einvernehmen mit Mitbestimmungsgremien) für Unterrichtsvorbereitung, Elternkommunikation, Zeugniserstellung, Diagnostik.

Synthese

Ab 2. August 2026 gelten funktionale Transparenzregeln, die vor Täuschung durch synthetische Medien schützen, ohne produktive KI-Nutzung im Schulwesen zu behindern. Für den Schulalltag: KI-Einsatz bei Unterrichtsmaterial, Feedback und Zeugnisberichten bleibt kennzeichnungsfrei zulässig, solange die Lehrkraft fachlich prüft und redaktionelle Verantwortung übernimmt. Transparenzpflichten greifen primär bei vollautomatisierten interaktiven Systemen (Chatbots) und realistisch wirkenden synthetischen Medien in der öffentlichen Schulkommunikation. In der Diagnostik verlangt der Rahmen Offenlegung im Methodenteil sowie Vorab-/Erörterungsinformation gegenüber Eltern. Art. 4 (KI-Kompetenz) + Art. 50 (Transparenz) + Datenschutzrecht verankern gemeinsam die Lehrkraft als „Human-in-the-Loop"-Kontrollinstanz.