Vergleich: EU AI Act und KI-Einsatz an bayerischen Schulen

Der EU AI Act klassifiziert KI-Systeme nach Risiko und ordnet Pflichten zu. Bayern stellt Schulen gleichzeitig konkrete KI-Werkzeuge bereit und formuliert Einsatzregeln. Diese Seite fragt: Welche bayerischen Szenarien fallen in welche Risikoklasse — und wo navigiert Bayern explizit um regulatorische Grenzen herum?

1. Die vier Risikoklassen des AI Act und ihre Schulrelevanz

Risikoklasse	AI Act	Schulrelevante Beispiele
Verboten	Art. 5: absolute Verbote	Emotionserkennung im Unterricht, Prüfungs-Cheating-Detection via biometrischer Verhaltensüberwachung
Hochrisiko	Annex III: umfangreiche Compliance-Pflichten	Förderbedarf-Feststellung, Schulzuweisung, Bewertung von Lernergebnissen, Notenentscheidung via KI
Begrenzt riskant	Art. 50: Transparenzpflichten (in Kraft ab 2.8.2026)	LLM-Chatbots (AIS.chat, ByLKI), KI-generierte Texte im Unterricht
Minimales Risiko	Keine Regulierung	Spamfilter, KI-Lernspiele, Übersetzungshilfen ohne Personenbezug

2. Verfügbare KI-Werkzeuge in bayerischen Schulen — Risikoklassen-Mapping

Tool	Primäre Nutzung	AI-Act-Klasse	Besonderheiten
ByLKI	Lehrkräfte: Vorbereitung, Materialerstellung, Korrekturassistenz	Begrenzt riskant	Nur nach KIKO-Kurs; kein Einsatz mit SuS; verdeckt Lehrkraft-IP; kein Schülereinsatz
AIS.chat	Schüler: Tutor, Inklusion, Lernassistenz	Begrenzt riskant	Kennzeichnungspflicht; keine personenbezogenen Daten; Datenschutz-Einwilligung nötig
VIDIS	Verwaltung: Authentifizierung, Zugriffssteuerung	Infrastruktur (kein KI-System selbst)	Ermöglicht EU-konforme Einführung externer Tools; AVV digital zeichnen
LLMs via Medien-KI-Budget	Schulweite Lizenzierung diverser KI-Anbieter	Je nach System	Förderfähig seit BayMBl. 2024-359; läuft 31.12.2026 aus
Externe LLMs (ChatGPT, Gemini etc.)	Unsanktionierter Einsatz / privat	Begrenzt riskant	Datenschutz nicht gesichert; personenbezogene Daten verboten; ausdrücklich nicht empfohlen

3. Absolute Verbote — Szenarien die in Schulen nie zulässig sind

Emotionserkennung (Art. 5 AI Act — ausdrücklich schulspezifisch)

Der AI Act verbietet KI-gestützte Emotionserkennung explizit in Bildungseinrichtungen (und am Arbeitsplatz) außer für medizinische oder Sicherheitszwecke. Dies schließt ein:

Aufmerksamkeits- und Engagement-Tracking via Kamera
Stimmungsanalyse durch Spracherkennung im Unterricht
Konzentrationsmessung über Blickverfolgung zur Leistungsbewertung

Bayerische Position: In keinem bayerischen Dokument wird Emotionserkennung erwogen. Der Praxisleitfaden Förderschulen erwähnt Eye-Tracking nur als assistive Technologie für motorisch eingeschränkte SuS — das ist explizit kein Bewertungsinstrument und damit nicht unter das Verbot fallend. → src-praxisleitfaden-mobile-endgeraete-foerderschulen

Prüfungsüberwachung durch Verhaltensanalyse

„Erkennung verbotenen Verhaltens bei Prüfungen" (Annex III) = Hochrisiko-KI mit vollständiger Compliance-Pflicht, in der Praxis für Schulen nicht realisierbar. Bayern: keine Regelung, kein Tool verfügbar oder vorgesehen.

4. Hochrisiko-KI — Annex III im Schulkontext

4a. Förderbedarf-Feststellung im MSD: der schärfste Konflikt

Der AI Act listet in Annex III: „Einschätzung des angemessenen Bildungsniveaus" als Hochrisiko-KI. Darunter fällt in der sonderpädagogischen Praxis die Feststellung eines sonderpädagogischen Förderbedarfs durch den MSD — das Kerngeschäft des Mobilen Sonderpädagogischen Dienstes.

Die Konsequenz laut MSDigital-Quelle:

„EU-AI-Act-Anforderungen bei Gutachtenerstellung sind in der Praxis nicht erfüllbar → nur Textbausteine (Assistenzrolle) möglich, keine vollständigen KI-Gutachten."

Was konkret verboten ist: KI formuliert oder trägt maßgeblich zur Schlussfolgerung Förderbedarf ja/nein bei, ohne dass die umfangreichen Hochrisiko-Compliance-Anforderungen (Risikomanagementsystem, Datendokumentation, Ereignisprotokoll, Nutzungsanweisungen, menschliche Aufsicht) erfüllt sind.

Was erlaubt bleibt: KI als Schreib- und Formulierungsassistent für bereits getroffene fachliche Einschätzungen. Leitmotiv: Assistent statt Autor. → src-msdigital-ki-msd

Präzedenzfall: Ein Landgericht verweigerte einem medizinischen Sachverständigen das Honorar, weil weite Teile seines Gutachtens ohne Hinweis per KI erstellt wurden. Der Unterzeichner ist rechtlich immer Autor — formelle Fehler machen Gutachten anfechtbar.

4b. KI-gestützte Notengebung: Graubereich

Bewertung von Lernergebnissen (Annex III) = Hochrisiko. Das KMS erlaubt KI-Korrekturunterstützung (Vorkorrektur, Feedback), stellt aber klar: Letztentscheidung liegt bei der Lehrkraft. Solange die Lehrkraft die KI-Ausgabe prüft und eigenverantwortlich entscheidet (human in the loop), bleibt das System unterhalb der Hochrisiko-Schwelle.

Kritischer Punkt: Diese Grenze ist nicht binär. Je mehr die Lehrkraft die KI-Einschätzung unreflektiert übernimmt (Automation Bias), desto eher handelt das System faktisch als Bewertungs-KI — auch wenn formal die Lehrkraft unterschreibt. → src-msdigital-ki-msd (Gütekriterien, Objektivität)

4c. Schulzuweisung

„Zugangsentscheidung zu Bildungseinrichtungen" = Hochrisiko. In Bayern keine bekannten KI-Systeme für Schulzuweisung im Einsatz oder geplant.

5. Begrenzt riskante KI — Transparenzpflichten im Alltag

Chatbots und LLMs fallen in diese Klasse: Nutzer müssen wissen, dass sie mit einer KI interagieren (Art. 50 Abs. 1); KI-generierte Deepfake-Inhalte und KI-Texte zur Information der Öffentlichkeit müssen als solche kenntlich gemacht werden (Art. 50 Abs. 4) — es sei denn, der Redaktionsvorbehalt (Art. 50 Abs. 4 Satz 2) greift: Kennzeichnung entfällt, wenn ein Mensch den Inhalt prüft und die redaktionelle Verantwortung übernimmt. Details: src-eu-ai-act-artikel50-schulwesen.

Bayerische Umsetzung:

Anforderung AI Act	Bayerische Regelung	Quelle
Offenlegung KI-Interaktion (Art. 50 Abs. 1)	Chatbots müssen sich als KI zu erkennen geben; bloßer Verweis in der Datenschutzerklärung genügt nicht	Implizit durch VIDIS-Anforderungen; src-eu-ai-act-artikel50-schulwesen
Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2/4)	Explizite Pflicht mit Fußnote/Anhang + Prompt-Dokumentation	src-ki-leitfaden-unterricht-lehrende
Redaktionsvorbehalt für Unterrichtsmaterial, Feedback, Zeugnisse/Wortgutachten	Kennzeichnungsfrei, solange Lehrkraft prüft und Verantwortung übernimmt (keine Veröffentlichung an die Öffentlichkeit bzw. hoheitlicher Verwaltungsakt)	src-eu-ai-act-artikel50-schulwesen
Keine sensiblen Daten in Prompts	Keine personenbezogenen Daten; Platzhalternamen verwenden	src-msdigital-ki-msd, src-handlungsleitfaden-ki-paedagogische-praxis
Einwilligung bei Minderjährigen	Einverständniserklärung für Tools mit persönlichem Konto; unter 16 J. häuslich: Elterneinwilligung	src-handlungsleitfaden-ki-paedagogische-praxis
Elterninformation bei KI-gestützter Diagnostik	Drei-Phasen-Modell: Vorabinformation (§ 28 Abs. 4 S. 2 VSO-F), schriftlicher Bericht (Methodenabschnitt), Erörterungsgespräch (§ 25 VSO-F / Art. 30b BayEUG)	src-eu-ai-act-artikel50-schulwesen

6. Fortbildungspflicht (Art. 4 AI Act) — KIKO als Minimallösung

Art. 4 AI Act verpflichtet Organisationen, die Mitarbeitenden KI-Nutzung ermöglichen, zur Sicherstellung ausreichender KI-Kenntnisse. Bayern hat dies operationalisiert durch den KIKO-Selbstlernkurs der ALP Dillingen (~90 Minuten, ohne Vorkenntnisse).

Aspekt	AI Act	Bayern
Was gefordert ist	„Ausreichende KI-Kenntnisse" — Aufgaben + Risiken + Auswirkungen verstehen	KIKO-Kurs: ~90 Min. Selbststudium
Wer betroffen ist	Alle Mitarbeitende, die KI einsetzen	Alle Lehrkräfte, die ByLKI nutzen
Formale Compliance	Ja — Kursabschluss erfüllt die Pflicht laut StMUK	src-kms-ki-an-schulen-2024
Praktische Tiefe	Offen — „ausreichend" ist nicht quantifiziert	90 Min. deckt Grundbewusstsein, aber keine kritische Systemkompetenz

Spannung: Die Fortbildungstiefe, die der Praxisleitfaden und das MSDigital-Handout für einen sicheren Umgang skizzieren (Automation Bias, Gütekriterien, Datenschutzdifferenzierung, Hochrisiko-Erkennung), übersteigt den Inhalt eines 90-minütigen Selbstlernkurses deutlich. Die formale AI-Act-Compliance und die inhaltlich nötige Kompetenz klaffen auseinander.

7. Datenschutz-Compliance-Architektur: VIDIS + ByLKI

Bayern hat eine zweistufige Infrastruktur aufgebaut, die AI-Act-Compliance und DSGVO verbinden soll:

Lehrkraft / SuS
      ↓
  ByLKI / AIS.chat / VIDIS-zertifizierte Tools
      ↓ (verdeckte IP, AVV vorhanden, EU-Rechenzentrum)
    LLM-Anbieter (vertraglich gebunden)

Ebene	Funktion	Limitation
ByLKI	Verdeckt Lehrkraft-IP; ermöglicht kostenfreien LLM-Zugang nach KIKO	Keine personenbezogenen Daten trotzdem; monatliches Token-Budget; kein Schülereinsatz
VIDIS	Standardisierte Authentifizierung; AVV digital; Prüfberichte für Tools	Erleichtert Einführung, ersetzt pädagogische Eignungsprüfung nicht
AVV (Auftragsverarbeitungsvertrag)	Bindet Anbieter vertraglich: kein Training mit Eingabedaten	Schule prüft ob AVV existiert; inhaltliche Prüfung des AVV ist Aufgabe des Datenschutzbeauftragten

Nicht abgedeckt: Externe Tools (ChatGPT, Gemini) ohne VIDIS-Integration liegen außerhalb dieser Architektur. Lehrkräfte, die diese Tools privat nutzen und schulische Inhalte eingeben, befinden sich in einem datenschutzrechtlichen Graubereich, der durch keine bayerische Regel vollständig adressiert ist.

8. KI-Einsatzszenarien — vollständige Klassifikation

Szenario	Erlaubt?	AI-Act-Klasse	Bayerische Regelung
Unterrichtsmaterial erstellen (ByLKI)	✓	Minimales Risiko	KIKO-Kurs + ByLKI
Differenzierung nach Niveaustufen	✓	Minimales Risiko	Handlungsleitfaden
Schüler-Tutor (AIS.chat)	✓ mit Auflagen	Begrenzt riskant	Kennzeichnungspflicht, kein Personenbezug, Einwilligung
Sprachkorrektur / Rechtschreibhilfe	✓	Minimales / begrenzt riskant	Handlungsleitfaden
Inklusion: Text-zu-Audio, Spracherkennung	✓	Minimales Risiko	Handlungsleitfaden, Praxisleitfaden
Vorkorrektur / Feedback-Formulierung	✓ mit Vorbehalt	Graubereich Hochrisiko	Letztentscheidung Lehrkraft zwingend
MSD: Textbausteine für Gutachten	✓ begrenzt	Begrenzt riskant	Assistent statt Autor; Platzhalternamen
MSD: Förderbedarf-Feststellung per KI	✗	Hochrisiko (Annex III)	Nicht erfüllbar → verboten
Notengebung durch KI	✗	Hochrisiko (Annex III)	Human in the loop zwingend
Schulzuweisung durch KI	✗	Hochrisiko (Annex III)	Kein bayerisches System vorhanden
Emotionserkennung im Unterricht	✗ absolut	Verboten (Art. 5)	Kein bayerisches System vorhanden
Prüfungsüberwachung via Verhaltensanalyse	✗	Hochrisiko / de facto verboten	Kein bayerisches System vorhanden
AI Companions (KJM: unter 13 J.)	✗ für Kinder unter 13	Begrenzt riskant + KJM-Empfehlung	Keine bayerische Regelung bisher
Externe LLMs mit Schülerdaten	✗	Begrenzt riskant + DSGVO-Verstoß	Ausdrücklich abgeraten

9. Spannungen und offene Fragen

Spannung 1: Automation Bias als ungelöstes Systemproblem

Bayern erlaubt KI-Korrekturassistenz, weil formal die Lehrkraft entscheidet. Der AI Act akzeptiert das prinzipiell (human in the loop). Aber: Automation Bias ist ein empirisch belegter Effekt — Menschen tendieren dazu, automatisierten Einschätzungen mehr zu vertrauen als der eigenen Beurteilung. Bayern benennt das Risiko (MSDigital), adressiert es aber nicht strukturell — z. B. durch Verpflichtung zur Gegenprüfung oder Dokumentation abweichender Lehrkraftentscheidungen. → src-msdigital-ki-msd

Spannung 2: Hochrisiko-Grenze bei Förderbedarfsfeststellung ist breiter als erkannt

„Einschätzung des angemessenen Bildungsniveaus" (Annex III) umfasst nicht nur den MSD. Auch adaptive Lernsysteme, die Schüler automatisch Lernniveaus zuordnen und den Lernpfad steuern, könnten darunter fallen. Bayern finanziert solche Systeme über das Medien-KI-Budget (förderfähig: adaptive Lernplattformen). Ob diese Systeme als Hochrisiko eingestuft werden müssen, ist bisher ungeklärt. → src-medien-ki-budget

Spannung 3: KIKO-Kurs vs. AI-Act-Kompetenztiefe

Die formale Compliance (90-Min.-Kurs = Art. 4 erfüllt) und die tatsächlich nötige Kompetenz für sicheren KI-Einsatz — insbesondere im sensiblen MSD-Kontext — klaffen deutlich auseinander. Weder der AI Act noch Bayern quantifizieren genauer, was „ausreichende KI-Kenntnisse" bedeutet.

Spannung 4: GPAI-Pflichten treffen Anbieter, nicht Schulen — aber Schulen tragen das Risiko

Die Compliance-Pflichten für GPAI-Modelle (GPT, Claude, Gemini) liegen beim Anbieter. Schulen als Deployer verlassen sich darauf, dass ByLKI und VIDIS diese Kette absichern. Eine eigenständige Prüfung, ob ein eingesetztes Modell GPAI-konform ist, ist von Schulen nicht leistbar — und wird auch nicht gefordert. Das Risiko liegt bei regulatorischen Verschiebungen.

Offene Frage: AI Companions

Die KJM empfiehlt eine gesetzliche Altersgrenze von 13 Jahren für AI Companions (emotionale KI-Assistenten). Bayern hat dazu keine Schulregel. Sobald die EU AI Companions explizit reguliert (noch nicht im aktuellen AI Act), entstünde unmittelbarer Handlungsbedarf. → src-kjm-handlungsempfehlungen-2026

10. Fazit: Wie gut ist Bayern auf den AI Act eingestellt?

Bereich	Bewertung
Absolut verbotene KI	Kein bekanntes Szenario geplant oder im Einsatz — konform
Hochrisiko-Diagnostik (MSD)	Erkannt und operativ adressiert (Assistent statt Autor) — konform mit Einschränkung
Hochrisiko-Korrektur	Formal konform (human in the loop), praktisch Automation Bias ungelöst
Transparenz-/Kennzeichnungspflichten	Explizit geregelt in Leitfäden — konform
Fortbildungspflicht Art. 4	Formal erfüllt (KIKO), inhaltlich unterdimensioniert
Datenschutz-Infrastruktur	VIDIS + ByLKI als belastbare Architektur — gut
Adaptive Lernsysteme / Hochrisiko-Graubereich	Nicht adressiert — Regelungslücke
AI Companions	Keine bayerische Regelung — Lücke