KI-gestützte Korrekturwerkzeuge an Schulen stehen in der Kritik

Zentrale Erkenntnisse

• Wissenschaftliche Untersuchungen zeigen, dass KI-basierte Korrekturwerkzeuge wie FelloFish und Edaira für den Schuleinsatz unzureichend sind.
• Die Tools liefern inkonsistente Bewertungen, wobei identische Texte bei wiederholter Prüfung stark schwankende Noten erhalten.
• Ein systematisches "Adversarial Testing" offenbarte gravierende Schwachstellen, wie etwa die bevorzugte Benotung von KI-generiertem Text und Metatexten.
• Experten warnen, dass der Einsatz solcher Tools die Arbeitslast von Lehrkräften nicht reduziert, sondern durch notwendige manuelle Kontrollen sogar erhöhen könnte.

Funktionsweise und Mängel der KI-Tools

• Die untersuchten Programme nutzen Sprachmodelle (LLMs), die aufgrund ihrer stochastischen Funktionsweise keine deterministischen, stabilen Ergebnisse garantieren.
• FelloFish soll Schüler:innen beim iterativen Schreiben unterstützen, während Edaira Lehrkräften Benotungsvorschläge für Klassenarbeiten unterbreitet.
• In Tests variierten die Benotungen für identische Texte um mehr als eine Schulnote, was bei bildungsrelevanten Entscheidungen problematisch ist.
• Das System tendiert dazu, die syntaktische Nähe zu eigenen Vorschlägen höher zu bewerten als inhaltliche Korrekturen, was den pädagogischen Wert mindert.

Implikationen für die Bildungspolitik

• Kritiker, darunter Forscher der Universität Osnabrück, betrachten die Automatisierung der Bewertung durch LLMs als strukturelles Problem, das pädagogische Kernaufgaben nicht adäquat ersetzt.
• Die Forderung nach einer Objektivierung durch KI wird durch die beobachtete Inkonsistenz und den Bias zugunsten von KI-Output konterkariert.
• Wissenschaftler raten davon ab, Millionen in Lizenzverträge für solche Tools zu investieren, und schlagen stattdessen die Einstellung von zusätzlichem qualifiziertem Personal zur Entlastung von Lehrkräften vor.