Der unreflektierte Einsatz von Künstlicher Intelligenz (KI) greift in immer mehr Bereiche unseres Lebens ein – sei es in der Bildung, in Unternehmen oder in kommunikativen Prozessen. Anstelle von Investitionen in nachhaltige und zwischenmenschliche Lösungen setzen viele Einrichtungen und Firmen auf technologische Angebote, die oft als schnelle Lösung angepriesen werden. Doch die Realität zeigt, dass KI falsch eingesetzt nicht die versprochenen Entlastungen bringt.
KI als fragwürdige Antwort auf die Bildungskrise
„Irgendetwas läuft schief – während die Meschen weiter in den Fabriken arbeiten, dürfen KI Modelle malen, Gedichte schreiben und musizieren“, so eine passende Aussage eines Bekannten in einem Gespräch über den unpassenden Einsatz von KI.
Ein besonders aufschlussreiches Beispiel liefert die Untersuchung des Chaos Computer Clubs, in der Marte Hennigsen und Rainer Mühlhoff die Schwächen von KI-Tools im Bildungsbereich beleuchteten. Am Beispiel der Korrekturhilfe des Unternehmens Fobizz zeigten sie, dass diese Technologien die angepriesene Arbeitserleichterung nicht erbringen. Fobizz ist eine Plattform, die speziell für Lehrkräfte entwickelt wurde und eine Reihe von KI-gestützten Werkzeugen anbietet. Dazu gehört unter anderem eine Korrekturhilfe, die es Lehrer*innen ermöglichen soll, Schülerarbeiten effizient zu bewerten. Die Idee dahinter ist, dass Lehrkräfte Hausaufgaben oder Aufsätze hochladen, die dann von der KI analysiert, benotet und mit Feedback versehen werden. Obwohl diese Funktionen vielversprechend klingen, offenbart die Praxis erhebliche Schwächen. Die KI generierte in den Versuchen inkonsistente und teils fehlerhafte Ergebnisse und für ein und dieselbe Hausaufgabe wurden teils „ungenügend“, „befriedigend“ und „sehr gut“ vergeben. Dies zeigt, dass die KI nicht in der Lage ist, die komplexen und individuellen Lernprozesse von Schüler*nnen angemessen zu bewerten.
Es wirft Fragen auf, warum Aufgaben wie die Leistungsbewertung oder die individuelle Analyse von Lernwegen, die klare pädagogische Expertise und einen menschlichen Blick erfordern, einer KI anvertraut werden. Gerade bei solch zentralen Prozessen, die stark von Empathie und Kontextverständnis abhängen, wirkt der Einsatz von Technologie fehlgeleitet. Statt Lehrkräfte zu entlasten, verursachen diese Systeme zusätzlichen Aufwand: Die Ergebnisse der KI, wie etwa die fehlerhafte und inkonsistente Benotung derselben Arbeit, müssen manuell überprüft und korrigiert werden. Dieser zeitaufwendige Prozess stellt nicht nur eine Belastung dar, sondern untergräbt auch das Vertrauen in die vermeintlichen Vorteile solcher Technologien.
Automation Bias und die Gefahr von Abhängigkeiten
Ein weiteres Problem bei einem solchen Einsatz von KI ist der sogenannte Automation Bias – die Tendenz, technologischen Lösungen mehr Vertrauen zu schenken als menschlichem Urteilsvermögen. Gerade im Bildungsbereich birgt dies erhebliche Risiken. Hennigsen und Mühlhoff kritisieren, dass KI-Systeme wie die von Fobizz übermaß Vertrauen genießen, obwohl sie unausgereift sind und keine echten Lösungen bieten. Stattdessen verschärfen sie die bestehenden Probleme, indem sie die ohnehin knappen Ressourcen fehlleiten.
Fehlende Investitionen in nachhaltige Lösungen
Die Entscheidung, auf KI statt auf Menschen zu setzen, verdeutlicht ein grundlegendes Problem: Anstatt in die Ausbildung und Anstellung von mehr Lehrkräften zu investieren, wird versucht, zentrale Aufgaben wie die Beurteilung von Lernprozessen auszulagern. Doch solche Aufgaben erfordern weit mehr als technologische Effizienz. Sie verlangen Empathie, pädagogisches Feingefühl und die Fähigkeit zur zwischenmenschlichen Kommunikation – Qualitäten, die KI-Systemen fehlen.
Die Kritik richtet sich nicht gegen KI als solche. In administrativen und organisatorischen Bereichen kann sie wertvolle Dienste leisten, etwa bei der Erstellung von Materialien, Abbau von Barrieren, als Lernunterstützung oder der Organisation von Abläufen. Doch wenn KI versucht, menschliche Stärken zu ersetzen, anstatt sie zu ergänzen, geht der eigentliche Mehrwert verloren.
Ein Werkzeug, kein Ersatz
KI in der Bildungsarbeit kann sinnvoll sein – wenn sie richtig eingesetzt wird. Sie ist jedoch kein Allheilmittel für strukturelle Probleme wie Fachkräftemangel oder Sparprozesse. Statt sich auf technologische Lösungen zu verlassen, sollten Bildungseinrichtungen in Menschen und nachhaltige Strukturen investieren. Nur so lässt sich eine Bildung schaffen, die den Bedürfnissen von Lehrkräften und Schüler:innen gleichermaßen gerecht wird.
Die Zukunft der Bildung liegt in einem reflektierten Einsatz von Technologien, der menschliche Stärken ergänzt, ohne sie zu ersetzen. Entscheidend ist, dass nicht die Maschine im Mittelpunkt steht, sondern der Mensch.