MSDigital: KI-Einsatz im MSD

Quelle: Handout/Präsentation MSDigital, BdB Unterfranken, 16.06.2026
Themen: Rahmen von KI-Einsatz · Prompts formulieren · Assistenten erstellen
Zielgruppe: MSD-Lehrkräfte (Mobiler Sonderpädagogischer Dienst)

EU-AI-Act: Relevanz für den MSD

Kennzeichnungspflicht: KI-generierte Inhalte (Texte, Bilder, Audio, Deepfakes) müssen als solche gekennzeichnet werden.
Hochrisiko-KI (Art. 13): KI-Systeme, die im Bildungsbereich eingesetzt werden zur:
Zuweisung an Schulen
Bewertung von Lernergebnissen
Feststellung eines Förderbedarfs ← direkt MSD-relevant
werden als Hochrisiko-KI eingestuft
Anforderungen: Gebrauchsanweisung, Transparenz für Anwender, dokumentierte Entscheidungsfindung, Risikomanagement, Datenqualität, menschliche Überwachung

Konsequenz: EU-AI-Act-Anforderungen bei Gutachtenerstellung sind in der Praxis nicht erfüllbar → nur "Textbausteine" (Assistenzrolle) möglich, keine vollständigen KI-Gutachten.

StMUK-Hinweise: Grundregeln für Schulen

Prompts immer ohne personenbezogene Angaben (Ort, Adresse, Name, Handschrift, Stimme → keine Audioaufnahmen!)
Hochrisiko-KI: strenge Vorgaben an Transparenz, Fairness, Zuverlässigkeit
KI-gestützte Rückmeldungen/Feedback zur Lernbegleitung gelten nicht als Hochsicherheits-KI
Leitmotiv: „Assistent statt Autor" — Lehrkraft ist Entscheider und Autor

Ethikrat: Einsatzregeln (3 Bereiche)

1. Diagnostik

Assistent statt Autor:
- KI kann helfen, Datenmuster zu erkennen oder bei Testauswertung vorarbeiten
- Letztentscheidung und Verantwortung für diagnostisches Ergebnis (z.B. Förderbedarf) bleibt beim menschlichen Fachkraft (Ethikrat Rn. 126)

Automation Bias:
- Risiko, dass Fachkräfte KI-Ergebnisse unkritisch vertrauen (Rn. 65, 105)
- KI-Ergebnisse müssen immer überprüft werden — kein unreflektiertes Copy & Paste

Einzelfall vs. Mittelmaß:
- KI basiert auf statistischen Wahrscheinlichkeiten → kann dem Einzelfall oft nicht gerecht werden
- Bei Kindern mit komplexem Förderbedarf sind kontextuelle Faktoren (familiäres Umfeld, Emotionen) entscheidend, die eine KI nicht „versteht" (Rn. 106)
- Sonderpädagogische Fragen liegen oft am Rand der Gaußkurve

2. Datenschutz

Schülerdaten müssen beim KI-Einsatz geschützt werden
Keine öffentlich zugänglichen KI-Systeme für MSD-typische Themen (Ethikrat Nr. 76)
ByLKI als Alternative — verdeckt IP/Metadaten des Lehrergeräts zentralseitig, dennoch keine personenbezogenen Daten eingeben
Platzhalternamen verwenden und in Word mit Suchen-Ersetzen korrigieren
Keine Gratis-KI für sensible Aufgaben

3. Transparenz

KI-Einsatz muss hinreichend transparent sein (Ethikrat Nr. 120)
Hohe Anforderung im Bereich öffentlicher Verwaltung (Nr. 116) → auf pädagogischen Bereich übertragbar
Keine Blackbox: keine Ergebnisse nutzen, deren Zustandekommen nicht nachvollziehbar (Nr. 16/67)
Gerichtsurteil (Präzedenzfall): Landgericht verweigerte Honorar eines medizinischen Sachverständigen, da weite Teile seines Gutachtens ohne Hinweis per KI erstellt wurden → Autor/Unterzeichner ist immer verantwortlich, formelle Fehler machen Gutachten anfechtbar

KI im MSD — 5 Prinzipien (Mind-Map)

Prinzip	Kernaussage
Datenschutz	Ort, Adresse, Name, Handschrift, Praktikumsbetriebe, Stimme nicht in KIs eingeben; keine öffentlichen Chatbots für sensible Aufgaben
Assistent statt Autor	Vorarbeit durch KI, Ausarbeitung durch Mensch; Endprodukt immer vom Menschen verantwortet
Automation Bias kennen	Menschen trauen automatisierten Systemen mehr zu (Objektivität, Qualität) — Angaben sorgfältig prüfen!
Hochrisiko-KI meiden	Keine Entscheidungen, Schullaufbahnempfehlungen o.ä. durch KI formulieren lassen
Einzelfall vs. Mittelmaß	KI arbeitet mit Wahrscheinlichkeiten; sonderpädagogische Fragen liegen oft an den Rändern der Gaußkurve → ungenau

Gütekriterien beim KI-Einsatz

Kriterium	Risiken / Prüffragen
Objektivität	Bias in jedem LLM enthalten (Trainingsdaten, Automation Bias); KI-Einschätzungen können zu Fehleinschätzungen führen
Reliabilität	Gleiche Anweisung mehrfach/in verschiedene LLMs eingeben; Prompts überprüfen; Quellen auf Aktualität prüfen (KI zitiert nicht immer korrekt, auch bei PDFs)
Validität	Trainingswissen-Stand beachten; Websuchoption prüfen; „Human in the loop"; auf fehlenden Kontext achten

Datenschutz: ByLKI vs. öffentliche KI

Öffentliche KI (ChatGPT/Google/Microsoft): IP-Adresse, Metadaten, Prompts und Inhalte werden ALLE übertragen und verarbeitet; detaillierte Rückschlüsse möglich
ByLKI: gibt Anfragen zentral weiter (eigene IP-Adresse), verdeckt Daten des Lehrergeräts; Metadaten ByLKI — dennoch keine personenbezogenen Daten eingeben

Beratungsverändernde Fragen (offene Reflexion)

Was wäre, wenn ein Präzedenzfall publik wird, bei dem KI-Einsatz im sonderpädagogischen Bereich zu schlecht begründeten Empfehlungen führt? (BaySchO IV: Notenschutz, Förderort…)
Wie verändern sich Beratungsprozesse, wenn Regelschulen Förderpläne KI generieren lassen?
Wie verändern sich Beratungsprozesse, wenn engagierte Eltern Förderung KI generieren lassen?