Martin, den er virkelig god, men jeg kan ikke helt mærke dig. Christian M. Andersen

Hvorfor Martin Thorborgs AI-bogfabrik udstiller sprogmodellernes største blinde vinkel – og hvad der sker, når vi sparer den kognitive friktion væk.

af Christian M. Andersen

Da Jannie læste det færdige manuskript til sin mand Martin Thorborgs nye selvbiografi, leverede hun i én enkelt sætning den mest præcise tekniske analyse af moderne sprogmodeller, jeg længe har set: ”Martin, den er virkelig god, men jeg kan ikke helt mærke dig.”

Martin har netop offentliggjort bogens efterskrift, hvor han på Facebook deler et fascinerende indblik i maskinrummet bag udgivelsen. Og som opmærksom deltager i debatten må man først og fremmest beundre, hvor hurtigt en god historie kan udvikle sig.

Masseproduceret indhold eller blot digital fastfood? Bag illusionen om AI-bogfabrikken gemmer sig intet andet end en maskine, der kværner syntetisk slop uden substans.

Da Martin for nylig tonede frem i DR Debatten, var det stolte budskab, at bogen var blevet til på bare 100 timer. Det fik blandt andre undertegnede til i et tidligere opslag at kalde tilgangen for lidt af en doven hund-manøvre, der forveksler friktionsløs genvejsteknologi med rigtigt forfatterskab.

Den kritik har tilsyneladende gjort indtryk. For nu, hvor efterskriftet lægges frem, er der sket to bemærkelsesmæssige ting med rammefortællingen: For det første er hans højtelskede, 89-årige mor nu trukket helt frem på scenen som det sympatiske alibi for, at bogen måtte laves i en fart. Det er et klassisk og effektivt retorisk greb – for hvem kan dog være imod en søn, der vil nå at forevige sin mors minder? For det andet har timeregnskabet fået et solidt nøk opad med en faktor tre, så han nu har brugt hele 300 timer på projektet. Vel at mærke en forøgelse på 200 timer på én enkelt uge, hvilket svarer til en 200-timers arbejdsuge udelukkende dedikeret til at redigere AI-tekst. Tillykke, Martin – alene det regnestykke er en bedrift i sig selv.

Men uanset om det har taget 100 eller 300 timer, er selve det tekniske setup værd at dykke ned i. Martin har indtalt 25 timers rå erindringer på sin telefon, transskriberet dem lokalt via The MacWhisperer, brugt en finetunet ChatGPT som ghostwriter, sat Claude AI ind som kritisk forlagsredaktør, klonet sin egen stemme i ElevenLabs med specialbyggede fonetiske ordbøger til lydbogen, synkroniseret en engelsk oversættelse i realtid og ladet agenter håndtere alt fra ISBN-numre til trykkerikontakt. Alt sammen for en software-regning på under 2.000 kroner.

Som procesoptimering er det et klasseeksempel på moderne content engineering. Men som arkitektur for litterær produktion og menneskelig erkendelse hviler eksperimentet på en grundlæggende fejlslutning om, hvad sprogmodeller rent faktisk gør ved vores tænkning og vores sprog.

Når man sætter ChatGPT ind som ghostwriter og Claude ind som verdens bedste forlagsredaktør, har man ikke skabt et redaktionelt drømmehold. Man har bygget et statistisk ekkokammer, der systematisk dræner teksten for sjæl, modstand og dybere erkendelse.

RLHF som litterær spændetrøje

I sit efterskrift nævner Martin selv et slående eksempel på, hvorfor Jannie ikke kunne mærke ham i teksten. I en anekdote om hans datter Emma, der skulle bruge en sanglærer til MGP, hørte René Dif en optagelse af hende og udbrød: ”Hun er jo en hvid neger.” Et råt, autentisk og meget tidstypisk citat, som øjeblikkeligt tegner et billede af både personen og situationen. I ChatGPT’s hænder var citatet imidlertid blevet vasket rent til: ”Hvor er hun talentfuld.”

Som Martin tørt konstaterer, var der hundredvis af eksempler på, at AI’en havde gjort ham mere politisk korrekt, fjernet bandeord, luget ud i slagkraftige udtryk og slettet passager, der potentielt kunne krænke nogen.

Fra et AI-arkitektonisk synspunkt er dette ikke en fejl. Det er selve kernefunktionen i kommercielle sprogmodeller.Gennem Reinforcement Learning from Human Feedback (RLHF) og stramme sikkerhedsfiltre er modeller som GPT og Claude trænet til at udglatte kanter, undgå social friktion og søge mod den mest ufarlige fællesnævner.

Men god litteratur, stærk formidling og ærlige erindringer lever netop i afvigelsen. De lever i det skæve ordvalg, i det politisk ukorrekte, i rytmen og i fejlene. Når du lader en sprogmodel generere selve brødteksten ud fra 25 timers rå tale gennem 500 iterationer, laver modellen en statistisk fars ud af dit sprog.

Martin skriver, at han til sidst måtte bruge 20 timer på at læse det hele igennem og manuelt skrive om og tilføje kant, så bogen fik ”det sidste touch”. Men rent arkitektonisk svarer det til at ville genskabe en rå bøf ved at drysse lidt groft salt på en færdigstegt frikadelle. Når først tekstens syntaktiske DNA er genereret af en sandsynlighedsmodel, kan du godt skifte enkelte ord ud på overfladen, men den underliggende kadence forbliver algoritmisk.

Illusionen om den kritiske AI-redaktør

Et af de mest interessante greb i Martins proces er brugen af Claude som kritisk modspiller til ChatGPT. Han gav Claude instruksen om at agere ”verdens bedste forlagsredaktør på en kommende bestseller” og være ekstremt kritisk over for alt,hvad ChatGPT leverede. De to agenter var ofte uenige, hvilket tvang Martin til at tage stilling.

På overfladen lyder det som klassisk kvalitetssikring. Men der er en afgrundsdyb forskel på, hvordan en sprogmodel og en menneskelig redaktør læser en tekst.

Når en dygtig menneskelig forlagsredaktør læser et selvbiografisk manuskript, læser vedkommende ikke bare det, der står på linjerne – redaktøren lytter efter det usagte mellem linjerne. Når en forfatter skøjter lidt for hurtigt og elegant hen over en smertefuld skilsmisse, en fejlslagen investering eller et svigt i barndommen, mærker en menneskelig redaktør straks forsvarsmekanismen i sproget og spørger: ”Hvorfor skriver du udenom her? Hvad var det, der i virkeligheden gjorde ondt i den situation?”

Claude har ingen krop, intet levet liv og ingen empatisk resonans. Den ved ikke, hvordan sorg, forfængelighed eller fortrængning føles. Når du prompter Claude til at være ”kritisk redaktør på en bestseller”, evaluerer den blot ChatGPT’s output op imod en statistisk middelværdi for, hvordan succesfulde biografier er struktureret i dens træningsdata.

Når to sprogmodeller sættes til at revidere hinanden over 500 versioner, opstår der i teknisk forstand en form for strukturel mode collapse: Teksten konvergerer mod det hyper-polerede, letlæselige og dramaturgisk forudsigelige. De to agenter skændes ikke om den menneskelige sandhed i Martins liv; de forhandler om, hvilken sandsynlighedsfordeling af tokens der lyder mest som en arketypisk bestseller.

Når Martin sparer System 2-tænkningen væk

Det bringer os til det vigtigste kognitive paradoks i hele øvelsen. Martin beskriver det som ”befriende” blot at kunne tale frit ind i sin memo-app i 25 timer uden at skulle formulere sig pænt. Han skulle bare huske og fortælle.

I kognitionspsykologien skelner man mellem System 1 (den hurtige, associative, intuitive tænkning) og System 2 (den langsomme, anstrengende, analytiske tænkning). Når vi sidder med en diktafon og fortæller løs om gamle dage i Jubii eller barndommens gade, opererer vi næsten udelukkende i System 1. Vi genfortæller de anekdoter, vi har fortalt hundrede gange før over middagsbordet, i de selvsamme narrative spor, som vores hukommelse har slebet til gennem årtier.

Den virkelige værdi ved at skrive en bog ligger sjældent i at få tømt sin hukommelse ned på papir. Den ligger i selve den smertefulde, langsomme proces, det er at skulle bygge sætningerne selv. Når man sidder foran et blankt dokument og kæmper med at finde det præcise ord for en begivenhed (System 2), støder man på kognitiv friktion. Man opdager pludselig, at ens standard-anekdote ikke helt hænger sammen, eller at man i årevis har dækket over en ubehagelig sandhed med en sjov pointe. Skriveprocessen er ikke bare en dokumentation af, hvad vi tænker – skriveprocessen er selve tænkningen.

Ved at outsource selve tekstforfatningen til en ghostwriter-algoritme foretager man det, vi inden for AI-forskningen kalder kognitiv aflastning (cognitive offloading). Man slipper for besværet, men man snyder også sig selv for de dybe erkendelser, der kun opstår, når man tvinges til at kæmpe med sproget selv.

Syntetisk intimitet

Det samme fænomen går igen i lydbogen. Det er et teknisk svendestykke at træne ElevenLabs på tre timers podcast og bygge en udtaleordbog, så en syntetisk klon kan læse bogen højt med korrekt udtale af ”Gudhjem” og ”Dinero”.

Men en selvbiografi indlæst af forfatteren selv handler ikke om fejlfri diktion. Den handler om nærvær. Når et menneske sidder i en indtalingboks og læser højt om sin 89-årige mor eller sit livs nedture, sker der noget fysiologisk. Stemmen knækker måske umærkeligt. Vejrtrækningen ændrer sig. Tempoet sænkes et splitsekund, fordi mindet rammer kroppen i nuet.

En stemmeklon i ElevenLabs føler intet ved ordet ”mor”. Den beregner akustisk prosodi ud fra tegnsætning og kontekstuelle vektorer. Lytteren får en imponerende illusion af Martins stemme, men bliver efterladt med en syntetisk intimitet.

Længe leve det intetsigende AI-slop.

Sådan vender vi arkitekturen rigtigt

Skal man så holde fingrene helt fra kunstig intelligens, når man skriver bøger eller komplekse tekster? På ingen måde. Men hvis vi vil bevare vores autenticitet og kognitive skarphed, skal vi vende Martins arkitektur 180 grader rundt.

I stedet for at lade mennesket levere den ustrukturerede snak (System 1) og lade AI’en stå for selve skrivehåndværket og redigeringen, bør rollefordelingen se sådan her ud:

1. AI som sokratisk modspiller og researcher: Brug gerne de 25 timers lydoptagelser som rådata i et lukket Retrieval-Augmented Generation (RAG) system. Men forbyd AI’en at skrive et eneste afsnit af bogen. Brug den i stedet til at krydsforhøre dit materiale: ”Her er 25 timers optagelser. Hvor modsiger jeg mig selv? Hvilke perioder i mit liv skøjter jeg påfaldende hurtigt hen over? Stil mig 20 ubehagelige spørgsmål, jeg har undgået at besvare i mine optagelser.”
2. Mennesket ved tastaturet: Behold den kognitive friktion. Skriv teksten selv. Det er i modstanden mellem tanke og tastatur, at din personlige tone, dine sproglige kanter og dine nye erkendelser opstår.
3. AI som teknisk produktionsapparat: Brug alt det, Martin mesterligt har demonstreret i periferien af bogen – fra strukturering af tidslinjer og faktatjek mod egne kilder til opsætning, ISBN-håndtering og kode til websitet. (de svar kunne man nok have fundet hos Google, fremfor at brænde tokens af i en sprogmodel).

Martin Thorborg har bevist, at én person i dag kan bygge et komplet forlag og en ekstremt effektiv bogfabrik for 2.000 kroner på en måned – uanset om det har taget 100 eller 300 timer.

Men eksperimentet står samtidig som en vigtig påmindelse til os alle i en tid, hvor vi har så travlt med at automatisere alt, der føles besværligt: Pas på med at optimere selve friktionen væk. For når vi fjerner besværet med at finde vores egne ord, fjerner vi i sidste ende os selv fra bogen.

Martin, tillykke med din AI-pølsefabrik. Jeg håber du får den op og stå