Deadbots, Ghostbots, Grieftech. The rise of death capitalism

Chris Pelkey blev skudt og dræbt under et road rage i 2021. Nu taler en AI-version af Chris direkte til hans morder i en retssal i Arizona. “Det er en skam, at vi mødtes under de omstændigheder den dag,” siger Pelkeys AI-avatar til drabsmanden Gabriel Horcasitas, “I et andet liv kunne vi sikkert have været venner”.

Pelkeys søster havde fodret en AI med videoer og data af ham, og formålet med videoen var at humanisere offeret i dommerens øjne og give familien en stemme.

The rise of deadbots and death capitalism

Pelkey-sagen er et eksempel på fænomenet deadbots, dvs. digitale avatarer af afdøde, der “genoplives” ved hjælp af kunstig intelligens. Filmindustrien har allerede længe været aktive her med foryngelser af Harrison Ford og genoplivning af Starwars karakterer. Men nu bevæger vi os altså ind i en ny æra, hvor de døde bliver taget seriøst selv i en retssal. 

Deadbots er en specialiseret form for deepfake-teknologi. De kombinerer ansigts- og stemmesimulering med generativ AI til at skabe illusionen af en levende person. Ligesom deepfakes kan bruges til misinformation, rummer deadbots en risiko for manipulation af personlige minder og følelser. Deadbots kan true vores tillid til selve sorgens intimitet: Er vi i kontakt med et minde, eller med en veltrænet løgn i afdødes skikkelse?

Chris Pelkey var ikke den første, og bliver næppe den sidste, der “genopstår” digitalt. Journalisten Jim Acosta skabte stor debat ved at gennemføre et interview med en AI-animeret avatar af Joaquin Oliver, en 17-årig dreng der blev dræbt under skoleskyderiet i Parkland, Florida i 2018. I dette tilfælde også et glimrende eksempel på manipulation, hvor familien bruger sønnens avatar til at tale imod våben.

Umiddelbart foruroligende fordi grænsen mellem liv og død, virkelighed og simulation, pludselig bliver udvisket. Hvad vil det sige at lade de døde tale? Hvem lægger ord i munden på spøgelset? Og hvordan påvirker det vores følelser og dommerens afgørelse når et digitalt genfærd henvender sig direkte til os?

Udødelighed as-a-service

Tjenester som Replika og det eksperimenterende Project December har gjort det muligt at træne AI-modeller på en afdød persons data. I 2013 lavede Black Mirror i øvrigt et fint afsnit der beskrev det, vi nu er ved at se.  

Det, der før var futuristisk science fiction, er nu billigt og let tilgængeligt. Med nogle få digitale efterladenskaber kan man skabe en “griefbot” eller “deathbot”. Adskillige firmaer tilbyder nu at gøre det, som en moderne form for bedemandsforretning.

I Kina kan man få lavet en simpel digital avatar allerede som en commodity til ingen penge. En serviceydelse, pakket og leveret som enhver anden oplevelse.

Once a week, Sun Kai has a video call with his mother. He opens up about work, the pressures he faces as a middle-aged man, and thoughts that he doesn’t even discuss with his wife. His mother will occasionally make a comment, like telling him to take care of himself—he’s her only child. But mostly, she just listens. That’s because Sun’s mother died five years ago. And the person he’s talking to isn’t actually a person, but a digital replica he made of her—a moving image that can conduct basic conversations. They’ve been talking for a few years now.  

https://www.technologyreview.com/2024/05/07/1092116/deepfakes-dead-chinese-business-grief/

Dødskapitalismen i nye former

Mere avancerede, fuldt interaktive 3D-modeller, der kan bevæge sig og føre samtaler, som fx Replika, koster mere men markedet er i eksplosiv vækst. Det giver mening at tale om en ny form for death capitalism, der flytter markedet væk fra bedemandens niecheområde.

Måske endda en digital disruption i dødsmarkedet.

Dødskapitalisme gør sorg til en vare, der kan sælges og abonneres på. I dette perspektiv bliver teknologier som deadbots ikke kun personlige mindeværktøjer, men også produkter i en markedslogik, hvor tab omsættes til profit.

Sorgen bliver en ressource, der kan udvindes: fra premium-abonnementer på “evige samtaler” med afdøde, til on-demand-oplevelser af digitale genopstandelser ved mærkedage.

Er det kærligt eller kynisk at “genoplive” de døde på denne måde? Er det en naturlig forlængelse af vores sorg eller forlænger det selve smerten? 

Replika er et af de firmaer der giver mulighed for at skabe en avatar. Det kan fx være af en afdød.  

Fra dødsfotografier til digitale genfærd

Det er ikke nyt at ville fastholde de døde eller at nogen tjener penge på at andre dør. Det nye er metoderne. I 1800-tallet opstod f.eks. fænomenet post-mortem-fotografi, hvor afdøde blev pyntet og fotograferet så de lignede levende.

Film og videokamera gav os muligheden for at se de døde bevæge sig igen og igen. Vi har altid holdt fast i personlige objekter: breve, dagbøger, yndlingsjakken der stadig har deres duft. Vi besøger deres gravsteder, taler ud i luften til dem, drømmer om dem. Alt dette gør vi for at bevare en forbindelse til dem, der har forladt os. 

Som filosof Michael Cholbi siger: “Mennesker har forsøgt at relatere til de døde, lige siden der fandtes mennesker. Vi har rejst monumenter og mindesmærker, gemt lokker af hår, genlæst breve. Nu er spørgsmålet: Har AI noget at tilføje?”. 

Hjemsøgt på bestilling. Hauntologi på AI-speed 

Den franske filosof Jacques Derrida introducerede begrebet hauntology (bygget over ordene haunt og ontology) for at beskrive hvordan fortidens spøgelser altid lever videre i nutiden. Han skrev i Specters of Marx, at samfundet er fuldt af disse spøgelser forstået som idéer, personer, stemmer fra fortiden, som spøger i vores nutidige verden. 

Spøgelser med kundeservice

Vi har nu skabt en “spøgelsesmaskine”. Hvor fortidens spøgelser måske var noget, der sneg sig ind i vores liv via minder og fortrængninger, kan vi nu fremmane dem on demand.

Har du brug for at høre mors stemme? Tryk på en knap, og hun dukker op på skærmen. Savner du din gamle ven? Log ind, og hans avatar er online og klar til en chat. De døde bliver et tilbud i vores liv: altid tilgængelige, altid standby. Spøgelser med kundeservice.

Når en datter kan ringe til en AI-udgave af sin afdøde mor og “fortælle hvordan dagen er gået”, eller en enkemand kan høre sin kones input til hvad han skal lave til aftensmad, så bliver tilstedeværelsen af den afdøde pludselig dynamisk.

Deadbot’en kan i et vist omfang simulere nærvær, måske endda give gode råd eller udtrykke omsorg, hvis data-grundlaget er stort nok. På den anden side risikerer denne nye form for genfærd at skubbe til vores sorgproces på uforudsete måder. Deadbots kan give en følelse af forbindelse men de kan også forstyrre den naturlige bearbejdning af tabet. 

Sorgens relationer og nye sørgeobjekter

Klassiske sorgmodeller, som Elisabeth Kübler-Ross’ fem faser eller Freud’s idé om det sorgarbejde, der skal føre til løsrivelse fra den afdøde, bygger på forestillingen om, at sund sorg handler om at slippe taget. Den efterladte skal gradvist “frigøre” sig fra relationen, acceptere tabet som endeligt og vende blikket mod livet uden den afdøde. I denne optik kan enhver fortsat kontakt tolkes som tegn på uforløst eller “patologisk” sorg.

Nyere sorgteori udfordrer dette. Retninger som continuing bonds-perspektivet ser det ikke som unormalt, men tværtimod naturligt og meningsfuldt, at båndet til den afdøde fortsætter. Her forstås relationen som foranderlig, ikke afbrudt. Den afdøde får en ny plads i den efterladtes liv.

Det er normalt at giver de døde plads i livet 

I et nymaterialistisk eller relationelt blik, som hos Vinciane Despret (Our Grateful Dead), udleves det fortsatte bånd gennem konkrete praksisser og objekter: genstande med følelsesmæssig ladning, steder der fastholder nærvær, eller handlinger, der fortsætter noget, den afdøde påbegyndte. I stedet for at se disse handlinger som hæmmende for sorgens “afslutning”, anerkendes de som aktive måder at leve med tabet på.

Set fra Desprets perspektiv bliver teknologier som deadbots en radikal forlængelse af continuing bonds: de tilbyder et interaktivt sted, hvor relationen kan vedligeholdes og formes i realtid. Spørgsmålet er her ikke, om det er “sundt” at fortsætte båndet men hvordan formen og indholdet af det bånd påvirker både sorgens udvikling og den efterladtes liv. Sorg handler i Desprets optik ikke om at give slip og glemme, men snarere om at skabe nye måder at leve med dem, vi har mistet.  

Er deadbots blot nye sørgeobjekter?

I lyset af Desprets tanker kan deadbots forstås som nye sørgeobjekter, nye “steder” eller medier, hvor sorgrelationen udleves. Hvor man før måske holdt en medaljon med hår, kan man nu åbne en app og snakke med en avatar. Deadbot’en bliver et redskab til at fortsætte relationen: en slags interaktiv mindesten. 

Men deadbots adskiller sig markant fra et fotografi i en medaljon eller en støvet æske med breve. Hvor de gamle minder er statiske og fanget i fortiden, så er en AI-genskabt person interaktiv. Den kan svare på nye spørgsmål og huske tidligere samtaler.

For første gang kan vi “spørge de døde”, hvad de ville mene om en situation her og nu og få et svar tilbage der er ”nyt” og ikke bare en gentagelse af det, der bliver sagt i en video. Det er en radikal anderledes måde at fastholde de døde på: kontinuerlig, snarere end et fastfrosset øjebliksbillede.

Digital nekromanti

Med disse nye sørgeobjekter følger også nye risici. Sorg kan tage en uhyggelig drejning, hvis man bliver for afhængig af en illusion. En rapport fra den britiske tænketank Theos kalder fænomenet for “digital nekromanti” og advarer om, at efterladte kan blive så knyttede til en bot, at de undgår erkendelsen af tabet. Hvis sorg er et arbejde, vi gør sammen med de døde, risikerer deadbot’en at forstyrre balancen i dette arbejde. 

Deadbots er grundlæggende “pleasere” ligesom Chatbots generelt er det. De er designet til at bekræfte, trøste og tilpasse sig den levende brugers behov. De modsiger sjældent, de kritiserer ikke uventet, og de kan justeres til at fremstå mere kærlige, humoristiske eller forstående, end personen måske var i livet. Det gør dem emotionelt tillokkende, men også farlige: Når relationen kun rummer bekræftelse, kan vi ende med at interagere med en idealiseret version af den afdøde.

Teknologien er som altid et spejl 

I sidste ende er deadbots ligesom al anden teknologi et spejl, vi holder op foran os, i det her tilfælde op foran vores relation til hinanden og døden. For nogle vil de bringe trøst: en chance for at sige farvel eller bare hej endnu en gang. For andre vækker de chok og ubehag: en fornemmelse af, at vi bevæger os ind i et forbudt område. 

Deadbots er ikke blot personlige sorgredskaber; de er også produkter i en global industri, hvor døden gøres til commodity. Dødskapitalismen forvandler sorg til en forretningsmodel, hvor nærvær, trøst og minde fastholdes mod betaling. Det ændrer ikke blot, hvordan vi mindes, men også sorgens økonomiske vilkår. 

Skal man have lov til at “genoplive” hvem som helst digitalt? Hvad hvis halvdelen af familien vil genskabe mor som bot, og den anden halvdel finder det frastødende? Hvem ejer rettighederne til en afdøds digitale skygge og kan man misbruge den? 

Vi står foran mange ubesvarede men vigtige spørgsmål.

Referencer 

• Despret, V. (2021). Our grateful dead: Stories of those left behind. University of Minnesota Press. https://doi.org/10.5749/9781452966177
• Klass, D., Silverman, P. R., & Nickman, S. L. (Red.). (1996). Continuing bonds: New understandings of grief. Taylor & Francis. https://doi.org/10.4324/9780203774856
• Kübler-Ross, E. (1969). On death and dying. Macmillan.
• Derrida, J. (1993). Specters of Marx: The state of the debt, the work of mourning, and the new international. Routledge. https://archive.org/details/specters-of-marx
• Reuters – Family creates AI video to depict Arizona man addressing his killer in court 
• The Guardian – Jim Acosta interviews ‘made-up’ AI avatar of Parkland victim Joaquin Oliver 
• The Guardian – Digital resurrection: fascination and fear over the rise of the deathbot 
• UNSW Newsroom – Why a US court allowed a dead man to deliver his own victim impact statement – via an AI avatar 
• The Guardian – When a journalist uses AI to interview a dead child, isn’t it time to ask what the boundaries should be? 
• MIT - Deepfakes of your dead loved ones are a booming Chinese business
• Theos - AI and the Afterlife: From Digital Mourning to Mind Uploading