Kognitiv suverænitet: Den tænksomme kamp for din egen tænkning

af Cecilie Steenbuch Traberg, PhD

Det handler om at forstå hvordan propaganda, desinformation, algoritmisk kuratering og kunstig intelligens kan alle påvirke de betingelser, vores holdninger og beslutninger bliver til under.

Digital suverænitet er rykket højt op på den europæiske dagsorden. Begrebet samler diskussioner om ejerskab over data, cloud-løsninger, kunstig intelligens, digitale platforme og kritisk infrastruktur. Afhængigheden af få globale teknologivirksomheder har gjort kontrollen over digitale systemer til et anliggende om sikkerhed, økonomi og geopolitisk handlekraft.

En beslægtet form for suverænitet vedrører vores mulighed for at orientere os selvstændigt i den informationsvirkelighed, vi befinder os i: Kognitiv suverænitet.

Kognitiv suverænitet betegner menneskers mulighed for at orientere sig i deres informationsmiljø, vurdere information og sociale signaler og danne holdninger og træffe beslutninger på et oplyst og selvstændigt grundlag. Kognitiv suverænitet har både individuelle og samfundsmæssige betingelser. Vores dømmekraft udøves af den enkelte, mens informationsmiljøet omkring os formes af teknologier, platforme, medier, institutioner og politiske beslutninger.

Vores tanker opstår i et informationsmiljø

Menneskelig dømmekraft eksisterer aldrig i et vakuum. Det, vi tror på, vurderer som sandsynligt og opfatter som normalt, formes af den information, vi har adgang til, og de sociale omgivelser, vi befinder os i. Årtiers psykologisk forskning viser, at mennesker orienterer sig gennem andre mennesker. Vi bruger eksperter og institutioner som kilder til viden. Vi aflæser normer og social konsensus. Vi observerer, hvad andre mennesker tror på, deler og gør. Under usikkerhed kan andre menneskers vurderinger få særlig betydning. Disse mekanismer er grundlæggende for menneskelig tænkning. De gør det muligt at navigere i en verden, der er langt mere kompleks, end noget enkelt menneske kan overskue eller efterprøve selv.

Informationsmiljøets struktur har derfor betydning for vores mulighed for at udøve selvstændig dømmekraft. Denne sammenhæng har eksisteret længe før internettet. Stater har gennem historien forsøgt at forme borgeres verdensbilleder gennem propaganda, censur og kontrol med medier. Reklameindustrien har udviklet stadig mere sofistikerede metoder til at styre opmærksomhed og påvirke adfærd. Sociale medier har siden gjort algoritmisk kuratering, personalisering og målrettet kommunikation til en integreret del af hverdagen. Teknologierne ændrer sig, og med dem ændrer mulighederne for at forme de omgivelser, menneskelig dømmekraft udfolder sig i.

Suverænitet i en social verden

Kognitiv suverænitet forudsætter ikke et menneske, der tænker uafhængigt af sine omgivelser. Psykologisk og biologisk er en sådan uafhængighed umulig. Menneskelig tænkning er grundlæggende social. Vi lærer fra andre. Vi ændrer mening. Vi lader os overbevise af argumenter. Vi stoler på mennesker, der ved mere end os selv. Vi bruger sociale normer og andre menneskers adfærd som information om verden.

Kognitiv suverænitet vedrører betingelserne for denne påvirkning: adgangen til forskellige informationskilder, muligheden for at vurdere informationens ophav, synligheden af påvirkningsforsøg, kendskabet til interesserne bag den information, vi møder, og graden af kontrol over informationsstrømme.

Det omfatter også vores mulighed for at fortolke de sociale signaler omkring os. En oplevelse af bred folkelig opbakning har en anden betydning, hvis opbakningen er konstrueret af en organiseret aktør. En anbefaling har en anden betydning, hvis afsenderen har en skjult økonomisk interesse. Et informationsflow ser anderledes ud, når det er resultatet af en personaliseringsalgoritme frem for en kronologisk gengivelse af det publicerede indhold.

Kognitiv suverænitet knytter sig dermed til relationen mellem mennesket og informationsmiljøet. Selvstændig dømmekraft afhænger delvist af den informationsmæssige arkitektur, som denne dømmekraft udøves inden for.

Fra propaganda til algoritmisk påvirkning

Trusler mod kognitiv suverænitet kan antage mange former. Censur begrænser adgangen til information. Propaganda former bestemte fortolkninger af virkeligheden. Desinformation fylder informationsmiljøet med falske eller vildledende påstande. Algoritmiske anbefalingssystemer påvirker, hvilke dele af verden der bliver synlige for den enkelte bruger. Microtargeting gør påvirkning individuel og vanskelig at observere udefra.

Digitale platforme har samtidig gjort sociale signaler særligt synlige. Likes, delinger, kommentarer, følgertal og rangeringer fortæller os noget om, hvad andre mennesker tilsyneladende finder interessant, troværdigt eller populært. Kommentarspor giver et indtryk af den offentlige reaktion på en begivenhed. Trends signalerer, hvad mange andre mennesker interesserer sig for.

Platformenes design bliver på den måde en del af det miljø, vi bruger til at forstå samfundet og hinanden. Valg om rangering, anbefaling, moderation, personalisering og synlighed påvirker den informationsvirkelighed, der præsenteres for brugeren. Kognitiv suverænitet gør denne form for informationsmagt synlig: magten til at organisere, prioritere, begrænse og konstruere de signaler, mennesker bruger til at orientere sig.

Når det sociale informationsmiljø kan syntetiseres

Generativ kunstig intelligens udvider mulighederne for at forme informationsmiljøet yderligere. Tekst, billeder, lyd og video kan fremstilles hurtigt og i stor skala. AI-systemer kan også optræde som sociale aktører: føre samtaler, have profiler, reagere på andre brugere og koordinere aktivitet. Dermed bliver menneskelignende social aktivitet stadig lettere at producere syntetisk.

Forestil dig et kommentarspor under en politisk nyhed. Et bestemt synspunkt bliver gentaget af mange profiler. Nogle kommentarer får stor opbakning. Andre bliver mødt af massiv kritik. For den enkelte bruger skaber aktiviteten et billede af, hvad andre mennesker mener, hvor polariseret et emne er, og hvilke positioner der har social opbakning. Hvis en betydelig del af disse profiler og reaktioner er genereret af AI-systemer og kontrolleret af én aktør, har det sociale signal en anden oprindelse end den, brugeren oplever.

Det enkelte udsagn kan være faktuelt korrekt. Påvirkningen kan ligge i det samlede sociale billede: oplevelsen af konsensus, konflikt, popularitet eller marginalisering. Her rammer AI en central mekanisme i menneskelig informationsbearbejdning. Vi bruger andre mennesker som information om verden. Når tegnene på andre menneskers tilstedeværelse kan fremstilles syntetisk, bliver muligheden for at forstå disse signalers oprindelse central for vores kognitive suverænitet.

Tillid er en del af infrastrukturen

Kognitiv suverænitet hænger tæt sammen med tillid. Moderne samfund kræver en omfattende arbejdsdeling af viden. Ingen kan selv kontrollere kvaliteten af al medicinsk forskning, efterprøve enhver økonomisk statistik eller verificere hver international nyhed. Vi er afhængige af forskere, journalister, myndigheder, institutioner og andre mennesker. Tillid fungerer derfor som en del af vores informationsinfrastruktur. Den gør det muligt at anvende viden, som andre har produceret.

Manipulation, skjult påvirkning og syntetisk aktivitet kan gøre denne tillid vanskeligere at kalibrere. Usikkerhed om, hvorvidt en profil repræsenterer et menneske, om popularitet er organisk, eller om en tilsyneladende konsensus er konstrueret, reducerer pålideligheden af de signaler, vi normalt bruger til at navigere. Muligheden for at identificere afsendere, forstå interesser, genkende automatiseret aktivitet og vurdere informationskilders troværdighed bliver dermed en del af den infrastruktur, som kognitiv suverænitet hviler på.

Et begreb for informationsmagt

Kognitiv suverænitet samler en række fænomener, der ofte behandles hver for sig: propaganda, censur, misinformation, algoritmisk kuratering, microtargeting, platformdesign, syntetiske medier og AI-agenter. Fællesnævneren er magt over de informationsmæssige betingelser, som menneskelig dømmekraft udfolder sig under.

Begrebet rækker langt ud over kunstig intelligens. AI tydeliggør samtidig problemets omfang, fordi indhold, afsendere, sociale relationer, popularitet og konsensus i stigende grad kan konstrueres teknologisk og produceres i stor skala.

Digital suverænitet beskriver vores handlekraft i forhold til de teknologiske infrastrukturer, som samfundet er afhængigt af. Kognitiv suverænitet beskriver menneskers handlekraft i forhold til de informationsmiljøer, som disse infrastrukturer skaber og organiserer.

I en digital offentlighed giver kontrol over informationsmiljøet mulighed for at forme de betingelser, mennesker bruger til at forstå verden, hinanden og deres egen placering i samfundet. Kognitiv suverænitet giver denne form for informationsmagt –-og vores handlekraft over for den - et navn.