ChatGPT kann laut einer in diesem Monat veröffentlichten Studie das kritische Denken einer Person mit der Zeit beeinträchtigen.
Forscher des MIT Media Lab baten Probanden, mehrere SAT-Aufsätze zu schreiben, und teilten sie in drei Gruppen ein: eine Gruppe, die OpenAI ChatGPT verwendete, eine Gruppe, die die Google-Suchmaschine verwendete, und eine Gruppe, die nichts verwendete, die sie als „Nur-Gehirn“-Gruppe bezeichneten. Das Gehirn jedes Probanden wurde mittels Elektroenzephalographie (EEG) überwacht, die die Gehirnaktivität des Schreibers in mehreren Regionen des Gehirns maß.
Sie stellten fest, dass Probanden, die ChatGPT über mehrere Monate hinweg nutzten, die geringste Gehirnaktivität aufwiesen und „auf neuronaler, sprachlicher und verhaltensbezogener Ebene durchweg schlechter abschnitten”, so die Studie von Nataliya Kos’myna et al mit dem Titel „Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task“ (Ihr Gehirn und ChatGPT: Anhäufung kognitiver Schulden bei der Verwendung eines KI-Assistenten für das Verfassen von Aufsätzen).
Die Studie ergab, dass die ChatGPT-Gruppe das große Sprachmodell (LLM) zunächst nutzte, um strukturelle Fragen zu ihrem Aufsatz zu stellen, gegen Ende der Studie jedoch eher dazu neigte, den Aufsatz vollständig zu kopieren und einzufügen.
Diejenigen, die die Suchmaschine von Google nutzten, wiesen eine moderate Gehirnaktivität auf, aber die „Nur-Gehirn“-Gruppe zeigte die „stärksten und weitreichendsten Netzwerke“.
Abbildung 1. Die dynamische EEG-Analyse der direkten Übertragungsfunktion (dDTF) des Alpha-Bandes für die Gruppen: LLM, Suchmaschine, nur Gehirn, einschließlich p-Werten zur Darstellung der Signifikanz von mäßig signifikant (*) bis hoch signifikant (***).
Die Ergebnisse deuten darauf hin, dass die Verwendung von LLMs die kognitiven Funktionen der Nutzer im Laufe der Zeit beeinträchtigen kann, insbesondere bei jüngeren Nutzern. Dies geschieht zu einer Zeit, in der Pädagogen weiterhin nach neuen Wegen für den Unterricht suchen, da künstliche Intelligenz (KI) zunehmend für Betrugsversuche genutzt wird.
„Was mich wirklich motiviert hat, die Ergebnisse jetzt zu veröffentlichen, ohne auf eine vollständige Begutachtung durch Fachkollegen zu warten, ist meine Befürchtung, dass in sechs bis acht Monaten ein politischer Entscheidungsträger beschließen könnte, GPT im Kindergarten einzuführen. Ich halte das für absolut falsch und schädlich”, erklärte die Hauptautorin der Studie, Nataliya Kosmyna, gegenüber dem Time Magazine. „Das sich entwickelnde Gehirn ist am stärksten gefährdet.”
Der Einsatz von KI im Bildungswesen scheint jedoch nicht nachzulassen. Im Gegenteil, im April unterzeichnete Präsident Trump eine Verordnung, die darauf abzielt, KI in US-Klassenzimmern zu integrieren.
Zusammenfassung:
Diese Studie untersucht die neuronalen und verhaltensbezogenen Folgen des LLM-gestützten Verfassens von Aufsätzen. Die Teilnehmer wurden in drei Gruppen eingeteilt: LLM, Suchmaschine und nur Gehirn (ohne Hilfsmittel). Jede Gruppe absolvierte drei Sitzungen unter denselben Bedingungen. In einer vierten Sitzung wurden die LLM-Nutzer der Gruppe „nur Gehirn“ (LLM-zu-Gehirn) und die Nutzer der Gruppe „nur Gehirn“ der LLM-Gruppe (Gehirn-zu-LLM) zugeordnet. Insgesamt nahmen 54 Teilnehmer an den Sitzungen 1 bis 3 teil, 18 davon schlossen auch Sitzung 4 ab. Wir verwendeten Elektroenzephalografie (EEG), um die kognitive Belastung während des Aufsatzschreibens zu messen, analysierten die Aufsätze mithilfe von NLP und bewerteten sie mit Hilfe von menschlichen Lehrern und einem KI-Bewerter. Über alle Gruppen hinweg zeigten NERs, N-Gram-Muster und Themenontologie eine Homogenität innerhalb der Gruppen. Das EEG ergab signifikante Unterschiede in der Konnektivität des Gehirns: Die Teilnehmer, die nur das Gehirn nutzten, wiesen die stärksten und am weitesten verteilten Netzwerke auf; Suchmaschinenbenutzer zeigten eine moderate Beteiligung; und LLM-Benutzer wiesen die schwächste Konnektivität auf. Die kognitive Aktivität nahm in Abhängigkeit von der Nutzung externer Tools ab. In Sitzung 4 zeigten die LLM-zu-Gehirn-Teilnehmer eine verringerte Alpha- und Beta-Konnektivität, was auf eine zu geringe Beteiligung hindeutet. Brain-to-LLM-Nutzer zeigten eine höhere Gedächtnisleistung und Aktivierung der okzipito-parietalen und präfrontalen Bereiche, ähnlich wie Suchmaschinenbenutzer. Die selbst angegebene Urheberschaft der Aufsätze war in der LLM-Gruppe am niedrigsten und in der Nur-Gehirn-Gruppe am höchsten. LLM-Nutzer hatten auch Schwierigkeiten, ihre eigenen Arbeiten korrekt zu zitieren. Während LLMs unmittelbaren Komfort bieten, zeigen unsere Ergebnisse potenzielle kognitive Kosten auf. Über einen Zeitraum von vier Monaten schnitten LLM-Nutzer auf neuronaler, sprachlicher und verhaltensbezogener Ebene durchweg schlechter ab. Diese Ergebnisse geben Anlass zu Bedenken hinsichtlich der langfristigen Auswirkungen der Abhängigkeit von LLM auf die Bildung und unterstreichen die Notwendigkeit einer eingehenderen Untersuchung der Rolle von KI beim Lernen.
ChatGPT-Nutzung steht im Zusammenhang mit kognitivem Verfall: MIT-Studie