Da deepfakes blev alment accepteret

Det interessante spørgsmål er ikke hvornår teknologien gør det umuligt at skelne kunstige, syntetiske billeder fra virkelige billeder. Det er allerede tilfældet.

Det interessante spørgsmål er derimod hvornår og hvordan selve spørgsmålet om sandhed og virkelighed bliver alment accepteret som et ligegyldigt spørgsmål.

Billedet af pigen med hunden er udelukkende fremstillet af AI. Det blev hurtigt et symbol på stormens ødelæggelse. Det florerede på sociale medier. Højprofilerede personer, herunder Utah-senator Mike Lee og den republikanske nationale komitékvinde Amy Kremer, delte billedet på deres sociale medie-konti. Vi har set Trump gøre det før. Men nu gør alle det åbenbart. Da Kremer blev konfronteret med billedets ægthed svarede hun:  

 'I don't know where this photo came from and honestly, it doesn't matter. It is seared into my mind forever. There are people going through much worse than what is shown in this pic. So I'm leaving it because it is emblematic of the trauma and pain people are living through right now.'

Indkapsler denne udtalelse mon en voksende følelse i vores digitale tidsalder – prioriteringen af ​​følelsesmæssig resonans frem for faktuel nøjagtighed? 

Se lige det her fantastiske klip med Keanu Reeves og Carrie-Anne Moss (spol frem til 7.08). Spørgsmålet for flere og flere mennesker er åbenbart ikke om det er virkeligt eller ej, men om det betyder noget.  

Sandhedens skiftende paradigme

Efterhånden som AI-genereret indhold bliver mere og mere sofistikeret og allestedsnærværende, bliver grænsen mellem ægte og kunstig mere og mere udvisket. Der findes mange eksempler på det. Det nye er, at folk synes at begynde at acceptere den syntetiske virkelighed, så længe de kan lide den. 

Matrix-filmens spørgsmål om man vil tage den røde pille, så man kan lære sandheden, bliver i mindre grad besvaret med et ”ja tak”.

Hellere leve i illusionen, i Baudrillards simulacra og simulation, så længe den skaber de rigtige følelser. Det er ikke længere bare en obskur mikrotendens, men en holdning der mere mainstream breder sig. 

Teknologien vil tvinge os til at se sandheden i repræsentationen  

Se fx hvordan Googles kommende mainstream versioner af Googles Pixel Camera bliver til rene AI-maskiner. Wired talte med Isaac Reynolds, Googles produktchef. Han foreslår, at ægtheden af ​​et billede ikke ligger i dets pixel-perfekte repræsentation af virkeligheden, men i dets evne til at fange essensen af ​​et øjeblik, som vi husker det. 

"It's about what you're remembering. When you define a memory as that there is a fallibility to it — you could have a true and perfect representation of a moment that felt completely fake and completely wrong. What some of these edits do is help you create the moment that is the way you remember it, that's authentic to your memory and to the greater context, but maybe isn't authentic to a particular millisecond."

OKAY! Det er en vild definition af ægthed.  

Dette perspektiv udfordrer traditionelle forestillinger om fotografisk sandhed og antager, at et følelsesmæssigt autentisk billede kan have mere værdi end et faktuelt nøjagtigt. Tidligere har vi kæmpet imod. Men ikke mere?  

Se i øvrigt mange andre deepfake-billeder ift. orkanen der florerede her.

Hvad er brand autenticitet så?

På den ene side kan disse billeder fremkalde empati og øge bevidstheden om vigtige problemer. Klart nok. På den anden side kan de vildlede, manipulere og potentielt underminere tilliden til ikke bare visuelle medier men til andre mennesker og medier i det hele taget.

Begrebet brand autenticitet skal muligvis omdefineres i en verden, hvor "autentisk" i stigende grad betyder følelsesmæssigt sandt frem for faktisk virkelig begivenhed. 

For bare et halvt år siden blev Amnesty International kritiseret for deres brug af AI-generede billeder. Allerede nu vil flere og flere mennesker måske sige, at så længe et billede skaber de rigtige følelsesmæssige reaktioner, så er det godt nok. Målet helligere midlet.

Er det en ny virkelighed vi skal acceptere?

I stedet for at se udbredelsen af AI-genererede billeder som et problem, der skal løses, skal vi så følge flokken og se det som en ny virkelighed, der skal navigeres i?

I så fald er spørgsmål kommunikationsfolk skal stille sig selv ikke, om et billede er ægte eller falsk, men om det effektivt kommunikerer en følelsesmæssig eller oplevelsesmæssig eller (syntetisk) erindring.

Personligt tror jeg det er vejen til kaos. 

Kilder

AI ‘deepfakes’ of Hurricane Helene victims circulate on social media, ‘hurt real people’

In the wake of deadly Hurricane Helene, a deluge of misinformation has flooded the web, including two apparently doctored AI images of a desperate, sobbing child aboard a boat in supposed floodwate…

New York PostDeirdre Bardolf

https://www.npr.org/2024/10/18/nx-s1-5153741/ai-images-hurricanes-disasters-propaganda

How Hurricane Helene Deepfakes Flooding Social Media Hurt Real People

In the aftermath of Hurricane Helene, AI generative deepfake images of destruction and human suffering flooded social media, and this hurts real people now and in the future.

ForbesLars Daniel

Fake? Altered? Uncoupled from reality, photos function as emblems of emotions and memories

Soon, the question may not be whether an image is real or fake, but whether it effectively communicates a truth — emotional, experiential, or otherwise.

TrendWatchingLiesbeth den Toom