Övermänsklig påverkan

Året är 1933. Adolf Hitler, nyligen utsedd till kansler, beordrar folkräkning i Tyskland. Bland annat ska invånarnas religion registreras; nationalsocialisterna är redo för nästa steg i sitt politiska projekt. Men den storskaliga sorteringen av människor kräver datorstöd. Så Hitler kallar in amerikanska IBM med grundaren och vd:n Thomas J. Watson i spetsen. IBM tar glatt jobbet, och vid en ny folkräkning 1939 fyller de på med information om ”ariskt blod” med mera. Historien har visat vad dessa databaser användes till.

I koncentrationslägren fortsätter den digitala dimensionen av den nazistiska ideologin. Fångvaktarna tatuerar in ett sexsiffrigt nummer i huden på fångarna. Sifferkombinationen motsvarar numret på ett IBM-hålkort. På kortet finns information om bland annat ras, sexualitet och fysisk kapacitet. Något namn registreras inte. De som hanterar datorerna i koncentrationslägren får inte lockas att agera som annat än maskiner bredvid maskinerna.

I Edwin Blacks bok ”IBM and the Holocaust” från 2001 beskrivs det multinationella datorföretagets samarbete med nazisterna och Adolf Hitler. IBM är fortfarande ett av världens ledande dator- och it-företag. 2011 tillverkade man en dator kallad Watson efter IBM:s grundare. Datorn och dess programvara var en av de första att använda det som kallas Natural Language Processing (NLP). Denna del av datavetenskapen syftar till att härma mänsklig kommunikation. Watson-datorn tävlade 2011 hyfsat framgångsrikt mot människor i Jeopardy. NLP är nu, ett decennium senare, det mest uppmärksammade området inom artificiell intelligens.

Dagens mest kända motsvarighet till Watson är konversations-AI:n ChatGPT. Den används av såväl privatpersoner som företag och myndigheter. Produkten är exempelvis integrerad med Office-paketet och således tillgänglig för hundratals miljoner tjänstemän världen över. Den skapar redan i dag artiklar, bloggposter, programmeringskod, instruktioner, juridiska dokument, myndighetsbeslut och så vidare.

Denna typ av AI går såklart att påverka politiskt. Datavetaren David Rozado skapade RightWingGPT – en chatbot som programmerats att författa med stark politisk högerlutning. Motsvarande framgångsrika försök har gjorts att ge AI:n nazistiska värderingar bland annat i form av appen Historical Figures. Experimenten visar att de som skapar och förvaltar tjänster som ChatGPT får mycket stor makt.

Totalitära regimer tvingar sedan länge Google och andra företag att exkludera information från deras tjänster. Men även statliga Svenska Post och Telestyrelsen (PTS) har en lista på webbsajter de vill att internetleverantörerna blockerar vår tillgång till. Hela listan är hemlig, men innehåller bland annat ryska, statliga medier. PTS motiverar detta med att EU beslutat om sanktioner mot rysk desinformation. Det är därför rimligt att tro att framtida regeringar kommer försöka styra över vad AI-tjänsterna spottar ur sig.

ChatGPT och liknande textproducerande-AI:n används också för desinformation. Genom att instruera programvaror att skriva text om ett kontroversiellt ämne och sedan koppla det till en farm av köpta sociala medie-konton, fylls sociala plattformar med innehåll designat för att vilseleda och polarisera. Enkla och billiga verktyg finns för den som vill posta automatiskt genererad desinformation på hundratals köpta sociala medie-konton simultant. Dygnet runt. Funktioner finns för att få fejkade konton att dela innehåll och på andra sätt interagera som om det vore verkliga personer bakom dessa konton.

Mängden AI-genererat innehåll online växer i takt med verktygens tillgänglighet.

Norbert Kleinwächter sitter i den tyska riksdagen för det högerextrema partiet AFD, Alternativ för Tyskland. I mars 2023 delade han en uppmärksammad, AI-genererad bild på Instagram. Bilden, som har bildtexten “Nej till ännu fler flyktingar!”, föreställer arga män med mörkt hår och möjligen utomeuropeiskt ursprung.

Kleinwächter har publicerat många fler bilder skapade av AI-verktyget MidJourney, och han hymlar inte med att de är syntetiskt genererade. Bilderna illustrerar ”verklighetens brutalitet” menar han, och sällar sig till en allt starkare trend i den populistiska propagandasfären på högerkanten.

I Sverige använder Jimmie Åkesson AI för att hålla ett hatiskt och hotfullt tal på arabiska. I USA har den republikanska lobbyorganisationen RNC, Republican National Committee, fått stor spridning – även i nyhetsmedier – för en AI-genererad, dystopisk video om ett USA, styrt av Joe Biden, invaderat av kriminella flyktingar.

De partifunktionärer och andra som sprider bilderna hymlar inte med att filmen är AI-genererad, vilket de anser gör att den inte kan klassas som desinformation. Syftet är, som i många kampanjer av denna karaktär, att andra ska sprida bilderna vidare som om de vore verkliga. Denna typ av iscensatt visklek är effektiv; sociala medier är perfekta för att få medveten desinformation att eskalera till mer eller mindre omedveten misinformation.

På samma sätt produceras syntetisk, högerextrem propaganda som är uppenbart artificiell och nästan konstnärlig. Memes och pastischer på välkända bilder som exempelvis Disney-filmer med nya och övertydliga politiska budskap. Syftet är inte att de ska läsas som ”äkta”, styrkan ligger i hur snabbt budskap kan produceras och hur enkelt de kan spridas.

Fler exempel finns och trenden är att man inte försöker dölja att AI använts för propaganda. Tvärtom är man ganska stolt över det. I en text i tidningen Freilich lyfter Kleinwächters AFD-partikollega, Joachim Paul, AI som strategiskt viktigt för extremhögern. Han rekommenderar AI-stödd propaganda via sociala medier, men fokuserar egentligen mer på hur AFD:s politik och budskap kan knyta an till AI-utvecklingen. Partiets migrationspolitik bör fokusera på hur AI raderar ut behovet av arbetskraft från utlandet.

Han varnar också för AI som ett ”jämställdhetsmedium”. När programvaror och appar hjälper invandrare att enklare förstå och kommunicera i arbetsliv och samhällsliv, raderas ett naturligt försprång för de etniska tyskarna. Paul menar att partiet måste förbereda sig för den ”konfrontation” som uppstår när de som inte behärskar språket lika bra som de tysklandsfödda ”kan komma ikapp”.

I Friedrich Nietzsches klassiker ”Also Sprach Zarathustra” från 1883 etablerar Zarathustra begreppet ”Übermensch”. Ett mänskligt ideal där rena, naturalistiska kvalitéer och värderingar ska premieras. Liberala påfund och mysticism av olika slag hotar den önskade världsordningen. Nietzsche var inte nazist, men nazisterna förenklade och inspirerades av Zarathustras ord. Människor skulle tas bort ur ekvationen, risken var annars att de liberala värderingar som Zarathustra varnade för skulle förstöra nationalsocialisternas projekt.

Redan när AI-termen myntades var målbilden mycket mer än enbart teknisk innovation. De ledande forskarna visionerade om maskiner vars förmågor översteg människans och kunde effektivt rationalisera samhället och kulturen. Samtidigt var idealet även maskiner som betedde sig mänskligt; de skulle verkar vara som oss – fast bättre. Övermänniskor, helt enkelt.

Samtidigt är AI som verktyg för styrningen av samhället underbevakat i förhållande till hur mycket pengar som plöjs ned i just detta fält. Utvecklingen kan komma att få enorma konsekvenser för oss medborgare.

Redan i dag är AI en allt viktigare del av samhällsstyrningen. Socialtjänster i Sverige använder AI för beslut. Regeringen vill att den ska effektivisera och ”öka lönsamheten” ännu mer. Arbetsförmedlingen använder alltmer AI-stöd när de ska avgöra vem som ska få vilken åtgärd. Inom sjukvården används programvaror för att välja vilka patienter som ska prioriteras. Exemplen kan listas i oändlighet och internationellt pågår samma utveckling.

Den politiska styrningen av de mer eller mindre autonoma system som i framtiden kommer utgöra byråkratin är mycket mer avgörande än den desinformation som distribueras på exempelvis X, tidigare Twitter.

Om en framtida regering beordrar nietzscheansk omprogrammering, kommer det att märkas överallt i samhället; i sociala medier så väl som i vårdkön. Den nya politiska ledningens ideologi styr AI:ns censur, prioriteringar och beslut. Men om så önskas kan beslutsgrunderna hållas hemliga. Ingen behöver få veta hur maskinen ”tänkt”.

Frågan är: kommer vi att protestera? Nietzsche menade att vi föredrar illusionen före sanningen; den välgjorda lögnen stryker medhårs och bekräftar våra befintliga uppfattningar. Sanningen är ofta för komplex, precis som AI:n som sådan. Vi vill att saker ska vara som vi redan vet att de är.

När detta skrivs, förhandlas fortfarande EU:s ”AI Act” – en lagstiftning som ska reglera användandet av artificiell intelligens i unionen. I slutet av oktober signerade president Joe Biden en presidentorder om AI – ett första steg avseende en liknande lag. Detta och andra initiativ ger ett visst hopp; det är dags att sluta tro att vägen leder sig själv. Den leder dit vi väljer att dra den.

Texten är ursprungligen publicerad i Expo #4-23.