"Jeg glemmer, ergo er jeg" versus AI’s evige hukommelse

Udviklingen henimod personlige kunstige assistenter går hurtigere og hurtigere. En variant af den udvikling forsøger at dataficere hverdagens samtaler for at kunne hjælpe en med at huske, administrere og effektivisere ens liv.

Ud over et ekstremt nyttemaksimerende effektivitetsparadigme, som gennemsyrer denne tech-drøm, så er der også noget på spil ift. det grundlæggende menneskelige i at glemme.

Tit fremhæver vi glemsel som et problem. Men det er faktisk grundlæggende menneskeligt, og rummer mange fordele for os som vi må holde fast i.

I fremtidens AI-assistent-verden risikerer at vi, at der ikke længere er noget der hedder “tiden læger alle sår”, fordi tidens handlinger bliver fastlåst i AI’ens evige hukommelse. Derfor er det også vigtigt at holde fast i “retten til at blive glemt” og til at ”leve i lykkelig uvidenhed”, som det egentlig længe er blevet diskuteret i etiske forummer. 

Pointen er ikke, at vi nu pludselig får hjælp til hukommelsen. Det har vi haft i tusinde år (objekter, kuglerammen, papir, lommeregnere, landkort, osv. osv.). Menneskets udvikling hænger uløseligt sammen med anvendelsen af teknologi og objekter (se fx 4E cognition (embodied, embedded, enacted, extended cognition). Det er snarer et spørgsmål om en forskel der gør en forskel: fra at have hjælpemidler til helt at outsource; fra at glemme de noter vi skrev på do-do-listen, eller glemme at bringe det rigtige kort til vandreturen, til aldrig mere at kunne glemme noget som helst når AI'en i baggrunden husker alt.

AI's evige hukommelse  

Anledningen er teknologier som Rabbit R1, Humane AI Pin og Bee der kan optage alle ens handlinger og samtaler i løbet af en dag, og forvandler dem til transskriptioner, som dermed udgør en ”komplet” database over det, der er sket i løbet af dagen.

Drømmen er, at teknologien dels skal gøre det muligt for en senere af sikre sig opsummeringer og facts om det der er sket, og dels over tid at opbygge en profil omkring ens præferencer, personlighedstype, handlemønstre, osv.

På den måde er tanken, at AI’en ikke bare lærer fra de prompts man giver den, men konstant lærer fra ens verbale måde at være i verden på. 

Ud over de dataetiske og GDPR-problemer med en device der optager alt fra sit nærmiljø, rejser der sig også nogle interessante mere filosofiske spørgsmål om hvorvidt det egentlig er et problem med al den menneskelige glemsel til at starte med, som er disse devices synes at ville være en løsning på.  

Case med Bee 

Victoria Song, skribent hos The Verge, beskriver detaljeret hvordan hun over en hel måned testede Bee Pioneer, der fungerer som en digital assistent og “ekstra hukommelse” for brugeren.

Bee koster omkring $50 USD og ligner til forveksling en simpel fitness-tracker fra 2015. Den består af en lille enhed (der kan bæres som armbånd eller clip-on), med indbyggede mikrofoner og en knap til at mute optagelser, og den forbindes til en iOS-app med en chatbot. Bee er designet til at optage og analysere alt, hvad brugeren siger og hører i løbet af dagen. Enheden og dens AI-software omsætter dagens samtaler og hændelser til resuméer, foreslår opgaver (to-do’s) baseret på det, den opfanger, og gemmer transskriptioner af dialogerne.

Målet er, at Bee skal fungere som en ”sekundær hukommelse”. Altså huske ting, brugeren selv glemmer, og give personlige indsigter og påmindelser. Via en app kan man få daglige opsummeringer af sine oplevelser, få foreslåede to-do punkter ud fra samtaler man har haft, og søge i eller spørge Bee’s chatbot om detaljer fra tidligere dialoger. Kort sagt er tanken altså, at Bee skal være en slags automatisk dagbog og assistent i én enhed, der arbejder i baggrunden uden direkte input fra brugeren det meste af tiden. 

Meget fungerer overraskende godt ifølge Victoria Song. Den opfanger vigtige detaljer, man selv kunne have glemt, og kan minde én om opfølgninger eller to-do’s baseret på dagens dialog. I testen fandt Song det bekvemt at få automatiske resuméer af f.eks. arbejdsrelaterede møder, så hun slap for selv at tage notater. Men ud over at Bee også er fyldt med fejl som for eksempel at den misforstår det den hører og hallucinerer, og ud over den er creepy overvågningsteknologi, så rejser den også en række spændende diskussioner om, hvad hukommelse er og hvad det gør for mennesker at glemme noget, som Song her bemærker: 

Hvad kan glemsel?

Lad os prøve at stoppe lidt op ved hvad glemsel egentlig er og kan. Vi betragter ofte glemsomhed som en svaghed. Vi irriteres, når vi glemmer en aftale eller et navn. Men evnen til at glemme spiller en afgørende rolle for vores velbefindende og frihed. Filosoffer som Nietzsche og Arendt har på hver deres måde belyst hvorfor glemsel er nødvendig for menneskets eksistens, identitet og frihed. 

For Nietzsche er aktive glemsel livsnødvendig: Den frigør os fra at være tynget af alle minder og sorger og giver os et frirum til at handle og skabe nyt. Nietzsche argumenterer for, at mennesket må kunne glemme for at leve lykkeligt og kreativt i nuet. Hvis vi konstant var fuldstændig bevidste om fortidens byrder, ville vi blive svimle og handlingslammede. Uden evnen til at glemme ville livet ganske enkelt kvæles af en overdosis af historisk bevidsthed. 

Total glemsel ville selvfølgelig opløse vores selvforståelse: uden erindringer om, hvor vi kommer fra, og hvad vi har oplevet, ville vi mangle et kontinuerligt jeg over tid som Hannah Arendt fx gør opmærksom på. Arendt, der studerede totalitarismens fremkomst, advarede mod den totale ødelæggelse af hukommelsen i undertrykkende regimer. Nogle ting skal huskes for at bevare identitet og frihed. Men uden evnen til at glemme visse ting risikerer vi at miste vores personlige frihed. 

At dvæle ved krænkelser og nederlag gør os bitre og ufri, fanget i fortidens nag. Hannah Arendt skriver, at uden tilgivelse ville vores handleevne indskrænkes til én enkelt handling, som vi aldrig kunne slippe fri af. Hvis intet glemmes eller tilgives, forbliver vi evigt bundet af tidligere fejltagelser. Vi ville være ofre for fortidens konsekvenser.

Arendt og Nietzsche minder os altså om, at menneskets frihed fordrer en balance mellem erindring og glemsel: Vi må huske det, der definerer os, men også kunne glemme det, der tynger os unødigt. Uden glemsel ingen tilgivelse, og uden tilgivelse ingen virkelig ny begyndelse for hverken individet eller samfundet.

AI’s evige hukommelse som trussel

Den kunstig intelligens’ ”perfekte hukommelse” er dermed en potentiel trussel mod de menneskelige vilkår for identitet og frihed. AI-systemerne kan optage og lagre ufattelige mængder data om hver enkelt af os og i modsætning til mennesker glemmer de intet (medmindre de programmeres til det).

AI’ens totale hukommelse skelner ikke mellem det, vi bør huske, og det, vi med fordel kan glemme. Hvor vores biologiske hukommelse er begrænset og selektiv, er den digitale hukommelse potentiel uendelig og omfattende.

Vi begår alle fejltagelser men vi trøster os med, at “tiden læger alle sår”, og at fortidens tåbeligheder med tiden går i glemmebogen. Med allestedsnærværende digitale minder risikerer vi, at fortidens fejltrin aldrig forsvinder.

Identitet er ikke statisk. Vi skabes og skaber os selv løbende, og det kan indebære at lægge afstand til vores fortid. Men hvis fortiden altid hænger ved bliver det sværere at skabe en ny fortælling om sig selv. 

Gamle forseelser eller dumme udtalelser bliver glemt af venner og familie medmindre de var virkelig graverende. Men forestil dig en verden, hvor alle dine ord og handlinger til enhver tid kan genkaldes og fremvises af en AI. Det skaber en form for permanent hukommelses-overvågning. Man vil måske begynde at censurere sig selv af frygt for, at enhver handling gemmes og kan bruges imod én senere. Friheden til at fejle og gå videre indskrænkes, hvis hver fejl hænger ved som et digitalt “evighedsarkiv”. Det er fx det, som Victoria i The Verge artiklen erfarer. 

De altid fantastiske Black Mirror-serier har også en forudsigelse af scenarie, hvor vi optager og lagre alt (filmer), og hvordan det kan smadre menneskeliv.

Arendt bemærkede, hvordan totalitære regimer forsøgte at kontrollere fortiden og folks erindring for at fastholde magten. Ironisk nok kan en alvidende AI-hukommelse blive et lignende magtinstrument: I stedet for at slette historien (som i Orwells dystopi) kan man fastholde hele historikken om individer og bruge den til kontrol eller pres. 

Hvis vi ukritisk lader AI registrere og gemme alt om os, risikerer vi at miste noget dyrebart menneskeligt: muligheden for at være ufuldkommen i det skjulte, for at blive tilgivet og gå videre, for at glemme og blive glemt. Det er altid vores opgave som samfund at sikre, at teknologien indrettes efter menneskets behov og ikke omvendt.