| Tech trends

ChatGPT in der Schule: Gamechanger mit Risiken und Nebenwirkungen

| 29 Mar 2023
Teilen

Weniger Schularbeiten, mehr Minecraft! Die als Hausaufgaben-Killer in die Schlagzeilen geratene Künstliche Intelligenz ChatGPT hat auf jede Frage immer (irgend-)eine Antwort parat. Doch hier ist Vorsicht geboten. Wir verraten Euch, worauf Ihr als Eltern und auch Lehrende achten sollten, wenn Kinder und Heranwachsende den vermeintlichen "Alleswisser" nutzen.

Wer Goethes Faust nicht lesen wollte, hat auch vorher schon einen Weg gefunden, sich im Internet schlau zu machen, ganz ohne Hexerei. Mit ChatGPT wird es zwar noch leichter für Schülerinnen und Schüler, den Aufwand zu minimieren. Doch wer sich blind auf das vermeintliche Know-how von ChatGPT verlässt, ist auf dem Holzweg. Woher zum Beispiel die vom Chatbot generierten Texte stammen, wird in keiner Weise ersichtlich. Dies lässt auch die Frage offen, ob die Quellen vertrauenswürdig sind oder nicht.

Ob für Hausaufgaben oder Prüfungen - die Künstliche Intelligenz hat einen sehr breiten Anwendungsbereich und beantwortet alle möglichen (Wissens-)Fragen rasend schnell. Sie übernimmt dröge, zeitraubende Arbeitsaufgaben wie langwierige Recherchen zu Referaten oder Aufsätzen und ist im gleichen Maße für Lehrende ein hilfreiches Mittel zur Entlastung bei der Unterrichtsvorbereitung.

Doch es ist Vorsicht geboten: ChatGPT ist ein ungefiltertes System, die auf jede Art von Eingabe reagiert. Sie verfügt weder über ausgefeilte Sicherheits- oder Kontrollmechanismen für Minderjährige und Teenager noch hat sie eine moralische Verantwortung. Es handelt sich um keinen menschlichen Chat-Partner, der altersgerecht auf gestellte Fragen eingeht. Insofern können Minderjährige und Teenager leichter auf anstößige, gewaltbereite oder andere jugendgefährdende Themen stoßen, erst recht wenn sie selbst unangemessenen Input vorgeben. Ungefilterter Output, die Verschmelzung von Realität und Fiktion, Rechts- und Sicherheitsrisiken in puncto Datenschutz und Urheberrecht sowie mangelnde Quellentransparenz sind von daher die großen Schwachstellen des Chatbots.

Damit zeigt ChatGPT zum einen, dass Schule neu gedacht werden muss, zum Beispiel ob es in der Form, wie (Haus-)Aufgaben bisher gestellt werden, überhaupt noch Sinn ergibt. Und die Künstliche Intelligenz zeigt auch, dass Schule und Elternhaus am Thema Medienkompetenz weiterhin aufs Gas treten müssen. 

                           

Bildungslücken bei ChatGPT: Mehr Medienkompetenz ist gefragt

Der Bot hat seine Tücken, die zu Tage treten, wenn man weiß, wie die KI funktioniert. Laut eigener Aussage von ChatGPT ist es, „ein Sprachmodell, das auf künstlicher Intelligenz basiert. Es wurde durch maschinelles Lernen auf großen Textkorpora trainiert, um ein tiefes Verständnis von Sprache zu erlangen. Das Modell wurde mit Milliarden von Wörtern aus verschiedenen Textquellen wie Büchern, Artikeln, Webseiten und mehr trainiert.“ Woher allerdings die von der KI generierten Inhalte kommen, wird nicht ersichtlich. Sie werden ohne jegliche Quellen oder Herkunftsangabe erstellt. Durchaus sehr wahrscheinlich ist dass die KI basierten Inhalte aus Textauszügen von Büchern stammen, die dem Urheberrecht unterliegen.

Ob und wie Texte auf ihre Richtigkeit überprüft werden, hängt am Ende von der Kompetenz des Einzelnen ab. In mehreren Testläufen entdeckten Experten und Wissenschaftler rassistische Äußerungen, falsche Quellenangaben oder welche, die ins Leere liefen. Im Ergebnis kam heraus, dass angegebene Quellen oder wissenschaftliche Arbeiten gar nicht existierten. Ein Portal zum Thema Schule und Unterricht  hat herausgefunden, dass der Bot einfach Daten erfindet oder lügt, wenn er keine passenden Informationen zur Frage findet. Hinzu kommt, dass der Bot nicht auf dem neusten Stand ist: Derzeit werden nur Daten bis 2021 genutzt. Angela Merkel ist immer noch Bundeskanzlerin und den Ukraine-Krieg kennt er nicht.

Verletzungen gegen das Urheberrecht sind nicht das einzige Rechtsrisiko, Experten warnen ebenso vor Verstößen gegen Datenschutzbestimmungen. Zum einen, weil ChatGPT vielfältige Daten vom Anwender erhebt, speichert und schließlich verarbeitet, um sein neuronales Netzwerk weiter zu optimieren. Aus diesem Grund ist es umso wichtiger, dass Kinder und Jugendliche keine persönliche Daten eingeben wie Name, Adresse oder Telefonnummer. Hinzu kommt, dass alle Server in den USA stehen und somit die europäische Datenschutzgrundverordnung (DSGVO) bei der Erhebung und Verarbeitung der Daten nicht greift. Wann es eine datenschutzkonforme Lösung geben wird, lässt sich derzeit nicht absehen. 

Die pädagogische Bedenken, die schon damals mit der Einführung von Wikipedia aufkamen, als befürchtet wurde, dass Texte, Interpretationen oder Referate künftig von der Plattform kopiert würden sind bei ChatGPT nicht von der Hand zu weisen. Doch die Erfahrung hat zum einen gezeigt, dass der Einsatz von neuen Technologien sich schwer aufhalten lässt. Zu  anderen, dass Vertrauen gut, Kontrolle aber besser ist.  Ohne eigene Denkleistung und kritischen Blick auf die Informationen und Quellen sind Inhalte mit Vorsicht zu genießen. Das gilt derzeit erst recht für ChatGPT.

                             

Tipps zur sicheren Nutzung von ChatGPT

• Euer Nachwuchs sollte keinen persönlichen Informationen eingeben. Chatverläufe und andere Daten werden möglichweise gespeichert und zu Trainingszwecken verarbeitet. 

• Für die Nutzung von ChatGPT sind die Eingabe von E-Mail-Adresse und Telefonnummer erforderlich. Legt am besten eine separate E-Mail-Adresse eigens für den Bot an.

• Lasst Eure Kinder nicht ohne Aufsicht ChatGPT nutzen. So geht Ihr sicher, dass sie keine unangemessenen Fragen stellen und ggf. auf jugendgefährdende Inhalte stoßen. 

• Setzt Altersbeschränkungen: Der Bot ist laut Nutzungsbedingungen nicht für Kinder unter 13 Jahren geeignet. Heranwachsende unter 18 Jahren brauchen das Einverständnis der Eltern. Doch es gibt keine spezielle Altersabfrage bei ChatGPT. 

• Nutzt sichere Geräte und Verbindungen: Stellt sicher, dass eine geschützte Verbindung zum Internet besteht. So können Dritte nicht auf Eure Geräte oder Informationen zugreifen.

• Verwendet zur Absicherung Ihrer Geräte und Verbindungen eine Sicherheitslösung, spielt Updates am besten sofort ein oder aktiviert die automatische Update-Funktion.

• Sprecht mit Eurem Nachwuchs über Risiken im Netz, vor allem über die Weitergabe vertraulicher/persönlicher Daten. 

• Erkundet ChatGPT gemeinsam und erklärt Eurem Kind die Vor- und Nachteile wie des Bots. Lest die Nutzungsbedingungen und Datenschutzerklärung gründlich und gemeinsam durch. 

 

 

Hat Euch der Artikel gefallen? Abonniert unseren Newsletter :)

 

ESET Parental Control für Android ESET Parental Control für Android

Macht Eure Kids online-sicher

Mit ESET Parental Control für Android

30 Tage kostenlos ausprobieren

Newsletter