Surprise surprise vi bliver både dumme og dovne af at bruge ChatGPT
Den kunstige dumhed kommer skyllende ind over os alle. Ikke bare som noget vi ser, men som noget der former os. Vi snakker en del om dumhed i den store AI-debat i øjeblikket. Om den kunstige intelligens som krykken, der gør os dårligere til at gå.
Krykken og den kognitive hest
Baggrunden er et studie fra MIT, som satte et mindre antal forsøgspersoner til at skrive fire essays hen over en periode. Nogle fik ChatGPT til hjælp, nogle måtte søge alt det de ville på Google. Den tredje og sidste gruppe måtte selv trampe i de mentale pedaler. Sådan gik det derudaf i de første tre essays, men da de skulle skrive den sidste bytte forskerne rundt på gruppe et og tre. Nu måtte de mentale slidere pludselig bruge ChatGPT, mens dem der havde været vant til krykken, igen skulle op på deres egen kognitive hest.
Mens det var en fest for den sidste gruppe, var det anderledes hårdt for de første.
Det videnskabelige studie bag:
https://arxiv.org/abs/2506.08872
Hjernen som slap muskel
Resultaterne var tydelige: Jo mere værktøjsstøtte, jo lavere hjerneaktivitet. Gruppen der måtte nøjes med egne hjerner, viste mest engagement og dyb tænkning. AI-gruppen udviste mindst. De huskede mindre og havde svært ved at citere egne tekster – selv få minutter efter at have skrevet det.
Nataliya Kosmyna, Ph.D
Det er i grunden ganske intuitivt. Jo mere, du lader sprogmodellerne om de mere anstrengende kognitive processer – der hvor det kræver koncentration og du tænker, så det knager – jo mere ude af træning kommer du. Det betyder svækket kritisk tænkning, mindre kreativitet og større risiko for ikke at fange manipulation. Det er den kognitive gæld, der skal betales.
Det kunne ses, når AI-brugerne skulle skrive uden hjælp i fjerde runde. Så faldt deres performance mærkbart. Omvendt viste deltagerne uden værktøjer stærkere kognitiv integration, da de så fik adgang til AI.
De hurtige konklusioner
Nu er det nemt at springe til hurtige konklusioner. Der er vi mennesker mindst lige så effektive, som ChatGPT og de andre sprogmodeller. Men spørgsmålet er, om vi ikke også her risikerer at snyde os selv?
Det er let at bygge et skræmmebillede og kaste sig over modreaktionen. Forbyde det i skolerne, så eleverne står med dilemmaet i en verden, der skriger på AI-skills, så snart de er ude af skolen. Ikke nogen farbar vej.
Eller melde sig ind i bevægelsen af de fundamentalistisk rene, der 'i hvert fald ikke bruger AI', men synes det er meget fedt, at Google-resultaterne er sorteret på en ny og nemmere måde.
Sammenhængen mellem porno, TV-shop og dårlige festsange
Menneskeheden har i grunden en pudsig tilgang til ny teknologi. Forskere og ingeniører præsterer vilde landvindinger, der gør umulige ting mulige. Hvorefter menneskeheden straks udnytter miraklet med at optage og gemme levende billeder til at distribuere porno, kommunikationssatellitter til at sende tv-shop og kunstig intelligens til at skrive halvdårlige festsange. Vi drives tilsyneladende mod dumhedens brug.
Men - og der er et stort men - netop derfor er det vigtigt, at den nye teknologi bliver brugt til ægte mirakler. At teste gensekvenser for at opdage ny medicin, skabe nye indsigter komplekse datasæt og opdage løsninger til at bekæmpe klimakrisen. Den store brug.
Og når det kommer til os almindelig dødeliges brug, hvor vi taster i chatten eller taler med vores agent, så skal vi selv tage det store ansvar. Det handler ikke om AI, men om hvordan vi bruger værktøjer som AI.
Det er ultimativt dit (eget) valg
Vi ved godt, at hvis vi altid tager bilen, bruger google maps og får andre til at løfte bæreposerne ind i bagagerummet med den motordrevne bagklap - så kommer regningen: Vi bliver slappe og kan ikke selv finde vej.
Men derfor er både maps og bilen stadig en god opfindelse, jeg i hvert fald ikke ville undvære - hverken i dagligdagen eller når der skal køres til en skadestue i ukendt terræn.
AI skal bruges med omtanke, men det skal bruges. Og netop brugen med omtanke skal accelereres - så den kan skabe den massive modvægt til al den dumme brug, som åbenbart er uundgåeligt.
Tom Bue er direktør i det strategiske bureau Nybrud, som skaber bevægelse i organisationer gennem tidens store forandringer og sikrer effektiv, strategisk kommunikation.
Om studiet
En gruppe forskere fra MIT har i et studie undersøgt, hvordan forskellige værktøjer - ChatGPT (LLM), Google og ren, menneskelig hjernekraft (Brain-only) - påvirker skriveprocesser, kognitiv aktivitet og læringsudbytte.
Forskerne delte 54 deltagere i tre grupper og satte dem til at skrive et essay:
- én gruppe brugte ChatGPT (LLM)
- én gruppe brugte Google (klassisk søgemaskine)
- én gruppe skrev uden værktøjer (Brain-only)
Man målte både hjerneaktivitet (EEG), sproglige mønstre og læringsudbytte over fire sessioner fordelt på fire måneder. I den fjerde session byttede forskerne rundt, så gruppen der havde brugt ChatGPT, nu kun brugte hovedet - og omvendt.
De tydelige resultater
Jo mere værktøjsstøtte, jo lavere hjerneaktivitet. Brain-only-gruppen viste mest engagement og dyb tænkning. LLM-gruppen udviste mindst. De huskede mindre og havde svært ved at citere egne tekster – selv få minutter efter at have skrevet det.
Når LLM-brugere skulle skrive uden hjælp i session 4, faldt deres performance mærkbart. Omvendt viste Brain-only-deltagere stærkere kognitiv integration, da de senere fik adgang til AI.
Læs mere
God illustrativ video.
