ChatGPT: Die Revolution des Lernens und Lehrens?

Sebastian Gombert, Dana Kube, Dr. Jan Schneider und Sebastian Wollny forschen am Informationszentrum Bildung in den Arbeitsbereichen Educational Technologies und Bildungsinformatik. Sie beschäftigen sich in verschiedenen Projekten unter anderem mit Themen wie Learning- und Web-Analytics oder dem Einsatz von KI im Unterricht. Im folgenden Gespräch schauen sie auf ChatGPT, kurz für „Generative Pre-training Transformer“, und ordnen das neue KI-Werkzeug für uns ein.

dipf.de: Verändern ChatGPT und andere KI-Werkzeuge jetzt von Grund auf, wie an Schulen und Hochschulen gelehrt und gelehrt wird?

Jan Schneider: Das hoffe ich. Und zwar in dem Sinne, dass Lehrkräfte von den Schüler*innen keine zeitaufwändigen Aufgaben als Hausaufgaben verlangen, die sowieso nutzlos sind, wenn die Schüler*nnen mit ChatGPT schummeln können. Die Lehrkräfte müssen in Zukunft die Hausaufgaben und Übungen anders und besser gestalten.

Sebastian Wollny: KI-Werkzeuge werden in naher Zukunft Einzug in unsere gewohnten Arbeitsweisen erhalten und diese bereichern. Dies wird sich auch auf Schulen und Hochschulen auswirken, schließlich sollen sie die Schüler*innen und Studierenden unter anderem auf das spätere Arbeitsleben vorbereiten. ChatGPT zeigt, was mit heutigen Mitteln möglich ist. Durch das Chatbot-Interface wird eine niederschwellige Interaktion mit der KI ermöglicht. ChatGPT ist ein Meilenstein bei der Entwicklung von KI und wird aller Voraussicht nach nicht die einzige Anwendung dieser Art bleiben. Es kann angenommen werden, dass schon bald ähnliche Modelle trainiert und weitergehende Anwendungen auf Basis von ChatGPT gebaut werden.

Sebastian Gombert: KI-Tools werden in Zukunft vermehrt Einzug in Schulen halten, was ChatGPT miteinschließt. Dies darf jedoch, wie der generelle Einsatz von Technik in Schulen, kein reiner Selbstzweck sein, sondern muss Schüler*innen in konkreten pädagogischen Anwendungsfällen zugutekommen. Insbesondere KI-generiertes Feedback könnte hierbei eine große Chance bieten. Feedback ist eine enorm wichtige Komponente des Lernens, kommt in Schulen aber viel zu kurz. Bei einem Betreuungsschlüssel von teilweise mehr als 30 Schüler*innen auf eine Lehrkraft ist klar, dass die Pädagog*innen nicht auf alle gleichermaßen eingehen können. Weiterhin werden aufgrund persönlicher Vorstellungen und auch Voreingenommenheit von Lehrkräften immer wieder Schüler*innen, die Unterstützung bräuchten, übersehen. Dadurch bleibt ein großes Potenzial ungenutzt. Hier kann KI eingreifen und anstelle von Lehrkräften Feedback geben. Dies würde für mehr Fairness sorgen, da alle Schüler*innen unabhängig von der subjektiven Meinung einer Lehrkraft gleichermaßen Unterstützung erhielten.

Wird ChatGPT jetzt also für die Schüler*innen und Studierenden Aufsätze schreiben und Referate erstellen?

Sebastian Wollny: Dies ist eine berechtigte Frage und mit hoher Wahrscheinlichkeit passiert dies bereits. Genau wie bei der Einführung des Internets an Schulen müssen hier neue Wege gefunden werden, damit umzugehen. Schon vor ChatGPT war es möglich, Inhalte aus dem Internet zu kopieren und sie als die eigenen zu deklarieren. Hier half zum Beispiel eine Plagiatsüberprüfung. Vor dem Hintergrund von ChatGPT ist aber klar, dass etablierte Methoden der Leistungsüberprüfung an Schulen und Hochschulen hinterfragt werden müssen.

Sebastian Gombert: Ja, dies passiert mit hoher Sicherheit bereits. Hier muss angemerkt werden, dass ChatGPT immer wieder falsche Aussagen generiert, oder Zitationen, die nicht real existieren, erfindet. In manchen Fällen sind solche Arbeiten also bei genauem Hinsehen leicht zu erkennen. Das Problem ist, dass dies in anderen Fällen nicht der Fall ist. Es gibt bereits KI-basierte Detektoren, die von GPT geschriebene Texte erkennen sollen. Es kann allerdings auch gefährlich sein, solche Detektoren unbedarft einzusetzen, da unter Umständen auch von Menschen geschriebene Texte als von GPT geschrieben erkannt werden könnten. Damit ein guter Umgang mit Modellen wie GPT gefunden werden kann, bedarf es weiterer Forschung, die die Fähigkeiten entsprechender Modelle, aber auch deren Grenzen erforscht. Am Ende des Tages birgt GPT wie jede neue Technologie Gefahren und Potenziale, und Schulen müssen ihren Umgang damit finden. Ein simples Verbot der neuen Technologie wird nicht funktionieren.

Die Angst ist groß, dass junge Leute das eigenständige Schreiben und Nachdenken verlernen. Besteht diese Gefahr?

Jan Schneider: Das Risiko besteht durchaus, denn es ist sehr leicht, in die Falle zu tappen, dass wir glauben, etwas bereits sicher zu wissen. Dieses Gefühl kann jedoch irreführend sein. Erst wenn wir es aufschreiben und richtig artikulieren, können wir sagen, ob wir etwas wirklich verstehen oder nicht.

Sebastian Wollny: Ja, das ist eine Gefahr. Medienkompetenz heißt hier das Schlüsselwort. Zudem besteht die Gefahr des “gefährlichen Halbwissens”, welches bereits jetzt durch die vielfältigen Inhalte im Internet besteht. Wie mit vielen anderen Hilfsmitteln in unserem täglichen Leben muss man den richtigen Umgang erst lernen und sich der Gefahren bewusst sein. Bei KI-gestützen Hilfsprogrammen ist dies ebenfalls so. Die Aufgabe von Bildungseinrichtungen ist es deshalb, Bildungsangebote zu schaffen, die das eigenständige Nachdenken und Schreiben fördern. Dies kann auch in einem KI-Zeitalter erfolgen. Zum Beispiel bei einer Klassendiskussion im Gemeinschaftskunde-Unterricht, welche das eigenständige Nachdenken und die Meinungsbildung fördert.

»Die Aufgabe von Bildungseinrichtungen ist es deshalb, Bildungsangebote zu schaffen, die das eigenständige Nachdenken und Schreiben fördern. Dies kann auch in einem KI-Zeitalter erfolgen.«

Dana Kube: Absolut, ChatGPT ist ein Sprachmodell basierend auf der Wahrscheinlichkeit, dass auf etwas Gesagtes etwas anderes folgt. Es kann keine Normen oder Werte-Hierarchien, die wir in unserer Sprache und Gesellschaft haben, abbilden oder verlässlich mit Quellen belegen. Es zeigt sich daher, dass ChatGPT verschiedene diskriminierende Voreingenommenheiten, die in der Gesellschaft vorherrschen, reproduziert. Nehmen wir zum Beispiel die Voreingenommenheiten gegenüber Frauen im MINT-Bereich. Auch gibt die KI keine wirklich verlässlichen, nachprüfbaren Quellen für einen Faktencheck an. Die jungen Menschen haben also eine antizipierte “Mehrheitsmeinung des Internets” zu einem Thema oder Sachverhalt vorliegen, die den wirklichen Umständen nicht entsprechen muss – erst recht nicht den freiheitlich demokratischen oder inklusiven Werten der Gesellschaft. Da junge Menschen keine Möglichkeit haben, die Entscheidungen der KI nachzuvollziehen, die zur Darstellung einer Thematik führen, ist die einfache Übernahme des Geschriebenen problematisch: Ohne Quellenkritik und Auseinandersetzung mit einem Problem oder einer Thematik führt das “Copy und Paste” dazu, dass junge Menschen diese einseitige Darstellung nicht hinterfragen können und gegebenenfalls eine Voreingenommenheit der Technik übernehmen und weiter verbreiten, die konkrete Auswirkungen auf Menschen in der realen Welt hat, wie zum Beispiel latent rassistische, antisemitische, frauenfeindliche oder andere faktisch schier falsche Darstellungen. Eigenständige, kritische Reflektion beim Schreiben muss für junge Menschen jederzeit möglich sein, wenn sie KI zur Schreibhilfe nutzen. Das muss pädagogisch unterstützt werden und von Seiten der Technik-Anbieter*innen durch Transparenz und Zusammenarbeit mit Bildungsinstitutionen gewährleistet werden.

Sebastian Gombert: Dazu muss man sich nur anschauen, wie auf populären Social-Media-Plattformen wie TikTok, Instagram oder Youtube viel Halbwissen über die Funktionsweise von KI-Tools wie ChatGPT verbreitet wird. Dort wird ChatGBT oft als eine Art unfehlbares Orakel dargestellt, das immer die Wahrheit sagt. Ein Problem hierbei ist, dass bei Schüler*innen wenig Kompetenz vorhanden ist, solche Darstellungen richtig einzuordnen, und diese oft blind übernommen werden. Einerseits braucht es deshalb Forschung, die die Möglichkeiten und Grenzen von ChatGPT und anderen generativen KIs weiter erforscht. Andererseits bringt diese Forschung aber wenig, wenn die Ergebnisse nicht zu Anwender*innen durchdringen. KI bestimmt, welchen Content wir sehen, welche Musik wir hören oder welche Nachrichten uns angezeigt werden. Sie greift damit bereits jetzt tief in unseren Alltag ein. Gleichzeitig weiß nur ein vergleichsweise kleiner Personenkreis, wie diese Modelle funktionieren. Was es deshalb in erster Linie braucht, sind Informatik und Medienkunde als verpflichtende Hauptfächer (und nicht als Nebenfächer, die es mal zwei Jahre für eine Stunde pro Woche gibt), um Schüler*innen früh mit den entsprechenden Technologien vertraut zu machen. Nur so ist es möglich, dass diese eine kritische Einordnung der Technologie lernen, und im gesamten mündigere Entscheidungen über diese treffen. In diesem Rahmen wäre es wichtig, dass die Politik potentielle Lehrkräfte in diesen Fächern ausbildet, und mit guten Angeboten aus Industrie und Wissenschaft loseisen kann, um ein flächendeckendes Angebot an entsprechendem Unterricht zu garantieren.

Welche Möglichkeiten eröffnen sich durch Sprachmodelle?

Jan Schneider: Tools wie Grammarly haben mir sehr geholfen, zu lernen, wie ich meine Gedanken beim Schreiben strukturieren kann. Ich denke, ChatGPT kann die Dinge auf die nächste Stufe heben, wenn man Beispiele für verschiedene Ausdrucksarten erhält.

Sebastian Wollny: KI und Sprachmodelle bringen auch Vorteile für die Bildung und Wissenschaft. Schaut man sich die Fähigkeiten von Übersetzungsprogrammen an, welche auf KI-gestützten Sprachmodellen aufbauen, so bereichern diese auch die Arbeitsweise. Sie verringern die Sprachbarriere in der internationalen Gemeinschaft und ermöglichen auch weniger sprachversierten Personen den Zugang zur dieser. Ebenfalls berichten viele Kolleg*innen, dass KI-gestütze Übersetzungsprogramme ihre Sprachkenntnisse verbessern und ihnen dabei helfen, die eigenen Ideen und Gedanken zu ordnen. Ein weiteres Beispiel sind KI-gestütze Programme für „Systematic Literature Reviews“, welche es Wissenschaftler*innen ermöglichen, sich einen Überblick über ein neues Thema zu verschaffen. Diese Hilfsprogramme vereinfachen die Suche nach relevanten Dokumenten erheblich und ermöglichen es, die Arbeit von mehreren Tagen in wenigen Stunden zu erledigen. Diese Fähigkeiten sind teilweise auch und in weniger verlässlicher Form in ChatGPT enthalten, was zeigt, wie vielseitig dieses Programm ist.

»KI-Technologie sollte eingesetzt werden, um neue, vorher nicht möglich gewesene Lehr- und Lernerfahrungen zu realisieren, aber insbesondere auch, um nicht vorhandene Kapazitäten von Lehrkräften auszugleichen.«

Sebastian Gombert: KI bietet ein großes Potenzial für die Bildung. KI-Technologie sollte hierbei einerseits eingesetzt werden, um neue, vorher nicht möglich gewesene Lehr- und Lernerfahrungen zu realisieren, aber insbesondere auch, um nicht vorhandene Kapazitäten von Lehrkräften auszugleichen. Beispielsweise kann eine Lehrkraft nicht die Aufgaben von 30 Schüler*innen kontrollieren und dementsprechend auch nicht auf alle adäquates Feedback geben. Dies führt dazu, dass nicht auf alle Schüler*innen gleichermaßen eingegangen werden kann, was zu Ungleichheiten führt. Automatisches Feedback war vorher oft nur für simple Aufgabentypen wie Multiple-Choice-Fragen oder Lückentexte, deren pädagogischer Wert generell gänzlich in Frage zu stellen ist, möglich. Mit moderner KI-Technologie ändert sich das nach und nach. Vorstellbar sind etwa Feedback auf längere Textantworten, oder beispielsweise auf Techniken im Sport, beim Erlernen von Zeichentechniken, oder beim Spielen von Musikinstrumenten. Im Bereich der Wissenschaft kann KI auf vielfältige Weise vor allem unterstützend wirken. Beispielsweise durch Übersetzungsprogramme, Rechtschreibkorrektur oder durch spezialisierte semantische Suchmaschinen wie Elicit, die besser auf wissenschaftliche Bedürfnisse zugeschnitten sind als Standardlösungen wie Google oder DuckDuckGo.

Wie können Schulen und Hochschulen auf die Veränderungen reagieren?

Jan Schneider: Die Schulen müssen ihre Ausrichtung teilweise neu überdenken. Auch wenn wir dem nicht gerne zuzustimmen, besteht ein Zweck der Schulen seit vielen Jahren darin, Zeugnisse zu vermitteln, damit die Menschen bestimmte Jobs bekommen können. Das führt meiner Meinung nach immer dazu, dass versucht wird, das System zu betrügen. Wenn man sich den Lehrplan eines Universitätskurses, insbesondere in den Ingenieurwissenschaften, genau und kritisch ansieht, wird man feststellen, dass es für einen Menschen nicht möglich ist, alle in einem Semester gezeigten Themen zu beherrschen. Dies führt zu Schummeln, halbem Lernen und so weiter. Mit ChatGPT wird Schummeln einfacher und schwieriger zu erkennen sein. Wollen die Schulen den Schüler*innen wirklich helfen, ihr volles Potenzial zu entfalten, oder wollen sie weiter einen Schwerpunkt auf das Ausstellen von Zertifikaten legen? Wenn letzteres der Fall ist, dürften Technologien wie ChatGPT und seine Nachfolger, die darauf ausgelegt sind, menschliche Arbeit zu leisten, den Sinn von Schulen zumindest hinterfragen. Abgesehen davon, dass Schulen den Menschen helfen, Kontakte zu knüpfen – was aber beispielsweise beim Online-Lernen nicht der Fall ist.

Sebastian Wollny: Definitiv. Wir beobachten, dass der technologische Wandel sich mitunter dadurch beschleunigt, dass neue Software immer schneller skaliert werden kann. Vor 15 Jahren musste Software noch klassisch auf CD im Elektronikmarkt gekauft werden. Heutzutage ist man mit seinem Smartphone von jedem Ort der Welt aus in wenigen Schritten Inhaber neuer Software, welche laufend und automatisch durch neue Funktionen verbessert wird. Da KI-Software in der Regel Cloud-fähig ist und nur wenige Anforderungen an Endgeräte stellt, kann diese recht einfach vielen Nutzer*innen zur Verfügung gestellt werden, Lehrenden, Dozent*innen, Schüler*innen und Studierenden gleichermaßen. Dies stellt unser Bildungssystem vor eine Herausforderung. Die etablierten Fortbildungsmöglichkeiten von Lehrkräften können mit dieser Geschwindigkeit nur schwer Schritt halten, sind häufig personalintensiv und benötigen einen gewissen zeitlichen Vorlauf. Das führt dazu, dass Lehrkräfte kaum Zugang zu wichtigen Fortbildungen und Schulungen mit KI- oder Medien-Experten erhalten. Wenn Schüler*innen und Studierende einen kritischen Umgang mit neuen Technologien erlernen sollen, dann wird wohl kein Weg daran vorbeigehen, Lehrkräften auch neue und skalierbare Fortbildungsformate mit Experten an die Hand zu geben.

Sebastian Gombert: Genau das muss passieren. Der technische Fortschritt der letzten Jahre hat massive Auswirkungen auf das Leben von Schüler*innen. Deshalb muss die Schule mitziehen und darf sich diesem nicht verschließen. Es müssen hier massive Investitionen getätigt werden, um geeignetes Personal zu rekrutieren und vorhandene Lehrkräfte weiterzubilden. Da die Schule im Wettbewerb um geeignetes Personal in unmittelbarer Konkurrenz zur Privatwirtschaft steht, müssen entsprechende Stellen attraktiver gemacht werden. Durch KI rücken im E-Learning viele bislang uneingelöste Versprechen in greifbare Nähe. Es benötigt aber kompetentes Personal, das diese auch implementiert. Gerade auch im Hinblick auf das Humboldtsche Bildungsideal und den Anspruch, Schüler*innen ein breites Allgemeinwissen zu vermitteln, ist es wichtig, auf aktuelle technische Entwicklungen einzugehen.

Wie sieht es aus mit der Leistungsbeurteilung? Muss diese nun auch ganz neu gedacht werden?

Sebastian Wollny: Man muss hier mehrere Formen der Leistungsbeurteilung unterscheiden. Die klassische Form der schriftlichen oder mündlichen Prüfung wird durch die Existenz von KI-Anwendungen wohl nicht beeinflusst werden. Hierbei wird schon seit langem jegliche Form der Kommunikation und die Nutzung von Kommunikationsmitteln als ein Betrugsversuch gewertet. Geschichtsklausuren wären auch ohne KI-Anwendungen durch ein Smartphone oder einen Zugriff auf Wikipedia keine geeignete Leistungsevaluation. Die Leistungsevaluation zwischen Klausuren, also eine regelmäßige Ermittlung des Leistungsstandes, wird jedoch durch KI-Anwendungen erschwert. Des Weiteren werden Leistungsbeurteilung aus benoteten Hausaufgaben oder Projektergebnissen erschwert, weil Schüler*innen und Studierende kaum einen Beweis erbringen können, die Leistung selbst erbracht zu haben. Hier war es häufig auch ohne KI-Anwendungen schon so, dass die Leistung zwar prinzipiell auch von jemand anderem als dem Prüfling erbracht werden konnte. Man konnte jedoch davon ausgehen, dass es organisatorisch oder finanziell zu aufwändig ist, die gestellte Aufgabe nicht selbst zu erledigen. Mit Anwendungen wie ChatGPT oder Github Copilot ändert sich das jedoch. Ganz auf diese Formen der Leistungsbeurteilung zu verzichten, wäre jedoch in vielen Fällen aus pädagogischer Sicht ein Rückschritt. Eine Kombination mit mündlichen Überprüfungen könnte jedoch einen gangbaren Weg darstellen.

Sebastian Gombert: Klausuren oder mündliche Prüfungen werden sich durch KI nicht großartig ändern. Für Haus- und Projektarbeiten sowie Essays sieht das natürlich anders aus. Hier kann Schüler*innen und Studierenden viel Arbeit von generativen KIs abgenommen werden. Es ist allerdings nicht so, dass die Ergebnisse von ChatGPT unbedingt 1-zu-1 verwendbar sind. Oft müssen sie angepasst werden. Dies erfordert eine Transferleistung. Mittelfristig sollten wir uns aber vor allem die Frage stellen, inwiefern Prüfungen in ihrer aktuellen Form nötig sind, und in wie weit sie die tatsächliche Leistungsfähigkeit von Prüflingen abbilden. Die Prüfungen, die an Schulen und Universitäten gestellt werden, ignorieren oft wichtige Erkenntnisse aus der Assessment-Forschung. Natürlich ist es in einem kapitalistischen System unvermeidbar, dass Arbeitgeber Zertifikate über die Leistungsfähigkeit von Schüler*innen und Studierenden verlangen, um Bewerber*innen vergleichen zu können. Bildung ist aber mehr als die pure Ausbildung von Arbeitskräften – und deshalb sollte die Frage nach Prüfungen im Diskurs um den KI-Einsatz in Schulen keinesfalls die zentrale sein. Statt uns den Kopf über potentielle Schummeleien, und wie wir diese verhindern können, zu zerbrechen, sollten wir vor allem das positive Potenzial von KI für einen besseren und gerechteren Schulalltag evaluieren.

Über den Arbeitsbereich Educational Technologies am DIPF: Hier wird unter der Leitung von Prof. Dr. Hendrik Drachsler Forschung zum Schwerpunktthema „Learning Analytics“, dem Auswerten von Daten aus Bildungsprozessen, betrieben. Damit sollen neue Erkenntnisse über das Bildungssystem und individuelle Lehr-Lernprozesse gewonnen werden, die es auch ermöglichen, personalisierte Lernarrangements zu etablieren. Zahlreiche wissenschaftliche Projekte des Arbeitsbereichs beschäftigen sich mit den Möglichkeiten der digitalen Bildung, beispielsweise PROMPT („Prozesse selbstregulierten Lernens optimieren mittels digitaler Prompting-Techniken“) oder AFLEK („Analyse und Förderung von Lernverläufen zur Entwicklung von Kompetenzen“). Aktuelle Infos aus dem Arbeitsbereich.

Über den Arbeitsbereich Bildungsinformatik am DIPF: Die Kapazitäten im Bereich der Informationstechnik sind im Querschnitts-Arbeitsbereich Bildungsinformatik unter der Leitung von Dr. Daniel Schiffner zusammengeführt. Der Arbeitsbereich reagiert bedarfsgerecht auf die Anforderungen aus den inhaltlich orientierten Arbeitsbereichen der Abteilung, aber stellt auch abteilungsübergreifende Services für das DIPF zur Verfügung. Der Arbeitsbereich Bildungsinformatik gliedert sich in die drei Schwerpunkte Portaltechnologie, Datenmanagement und Softwareentwicklung.

Veröffentlichung aus dem Arbeitsbereich zum Thema Chatbots in der Bildung:
Wollny, Sebastian; Schneider, Jan; Di Mitri, Daniele; Weidlich, Joshua; Rittberger, Marc; Drachsler, Hendrik: Are we there yet? A systematic literature review on chatbots in education. In: Frontiers in artificial intelligence, 4, 654924. https://doi.org/10.3389/frai.2021.654924