Kultur

Å se oss selv i speilet

– Hva er de moralske konsekvensene av teknologien vi utvikler, spør Lars Viko Gaupset.

Bilde: Pixabay

Elon Musk frykter at robotene vil ta over verden. Men i stedet for å frykte bør vi gå i oss selv: Hva er konsekvensene av teknologien vi utvikler?

Et kjærestepar fra middelklassen har nettopp kommet hjem fra et middagsselskap med venner, og stemningen er trykkende – alt er ikke som det skal.

Mannen, Liam, mistenker at kona – Ffion – har et forhold til en av gjestene. Han henger seg opp i konas kroppsspråk og utveksling av blikk: Ny teknologi har gjort det mulig å installere et slags live-kamera i kroppen, slik at alt øynene våre ser tas opp og kan spilles av på nytt rett foran øynene våre. Liam spiller scenen fra middagsselskapet om og om igjen, og konfronterer Ffion. Har kjæresten vært utro?

Scenen er hentet fra tv-serien Black Mirror (2011-), som utforsker hvordan teknologien blir brukt som et verktøy for å fremme våre mindre flatterende sider. Som vi vet har teknologiske fremskritt ført til at levestandarden har økt dramatisk, at dødelige sykdommer har blitt utryddet og at vi er blitt langt mer produktive enn før. De fleste vil være enig i at samfunnet vi i dag lever vi er bedre enn det før-industrielle jordbrukssamfunnet eller det nomadiske samler- og jegersamfunnet i steinalderen. De raske endringene min egen generasjon har vært vitne til savner sidestykke i historien – og utviklingen kommer ikke til å gå noe saktere de neste 10-20 årene.

Et ambivalent forhold til teknologi

Men er den automatiseringen og digitaliseringen vi har sett de siste årene bare et gode? Meningene er delte: Finansmannen og Tesla-gründeren Elon Musk er bekymret for at vi er ferd med å miste kontrollen, og at kunstig intelligens vil ta over verden. Yuwal Harari, forfatteren av boka “Homo Deus”, ser ut til å mene at kunstig intelligens vil gjøre mennesket overflødig. I hans fortelling er Homo Sapiens i ferd med å bli erstattet av “Homo Deus” – en kyborg med gudelignende egenskaper og en krysning mellom menneske og maskin.

Spørsmålet er om det egentlig er robotene vi trenger å være redd for. Ser man på historien, er det snarere menneskenes bruk eller misbruk av nye oppfinnelser som har vært problemet, og ikke teknologien i seg selv. Det var på ingen måte uunngåelig at amerikanerne måtte utvikle og anvende atombomben mot japanerne i 1945. Den var drevet fram av frykten for at Nazi-Tyskland ville skaffe seg bomben først, og for å tvinge Japan i kne uten å måtte ofre amerikanske soldatliv.

Kunnskapen om at menneskeskapte klimaendringer er nettopp menneskeskapte har ikke hindret oss i å fortsette å utvinne fossilt brennstoff, til tross for at teknologien og alternativene som trengs for å løse problemet finnes.

Kunnskapen om at menneskeskapte klimaendringer er nettopp menneskeskapte har ikke hindret oss i å fortsette å utvinne fossilt brennstoff, til tross for at teknologien og alternativene som trengs for å løse problemet finnes. Det er ikke nytt at mennesket har hatt et ambivalent forhold til teknologi, ei heller at motiver som frykt, mistenksomhet og grådighet styrer atferden vår. Det som er nytt i den digitale tidsalderen er at konsekvensene blir mye mer omfattende, fordi verden er mer sammenvevd og endringer skjer mye raskere enn tidligere.

Lar seg frivillig overvåke

Den nevnte Black Mirror-episoden, The entire history of you, viser oss at selve grunnmuren i et forhold – nemlig å kunne stole på hverandre – kan brytes ned når det blir mulig å studere og analysere all sosial interaksjon i detalj.

Kanskje vil ikke en sjalu kjæreste nøye seg med å kreve å vite hvor partneren har vært og møtt, men å legge fram videobevis om at han eller hun ikke har vært utro?  

Vi ser allerede hvordan enkelte foreldre ønsker å installere en GPS i klokken til barn, for å vite hvor de befinner seg til enhver tid.

Vi ser allerede hvordan enkelte foreldre ønsker å installere en GPS i klokken til barn, for å vite hvor de befinner seg til enhver tid. I motsetning til i George Orwells 1984 virker det mer sannsynlig at vi får et samfunn hvor borgerne frivillig overvåker hverandre enn at en totalitær stat gjør det.

Et grunnleggende trekk med den digitale informasjonsalderen er hvordan hendelser og uttalelser i løpet av minutter kan forstørres og spre seg til millioner av mennesker. En klossete uttalelse fra en politiker kan legge en karriere i grus, og omdømmet til en bedrift som det har tatt årtier å bygge opp kan pulveriseres på et øyeblikk.

Risikerer livet på live-stream?

Flere av episodene i Black Mirror viser hvordan massesuggesjonen som kan oppstå i sosiale medier kan manipuleres og utnyttes av de som har motiv og vilje til å gjøre det. I en av episodene bruker en terrorist Twitter for å piske opp en lynsjemobb-stemning mot profilerte personer, og indirekte som en måte å likvidere dem på. I en annen blir den britiske statsministeren stilt overfor et umulig dilemma når et medlem av kongefamilien blir kidnappet. Han får valget mellom å utføre ydmykende seksuelle handlinger på direktesendt tv, eller indirekte bli sittende med ansvaret for at prinsessen blir halshugget.

Sosiale medier kan fort bli en like dødelig trussel i et demokrati som å få en pistol rettet mot tinningen i et autoritært regime.

Dette minner om hvordan IS bevisst bruker sosiale medier og Youtube som en slagmark for å påvirke opinionen i vestlige land. Men det er ikke bare ikke-statlige aktører som benytter seg av sosiale medier som et våpen. I USA har president Donald Trump brukt Twitter til å egge opp sine tilhengere, noe som kan sees på som en oppfordring til trakassering og vold mot journalister og Trump-kritikere. Sosiale medier kan fort bli en like dødelig trussel i et demokrati som å få en pistol rettet mot tinningen i et autoritært regime.

Også underholdningsindustrien og reality-show fortsetter å sprenge grenser og krysse etiske gråsoner. Mens man under den franske revolusjonen kom for å se hoder falle under giljotinen, og romerne så menn nedkjempe hverandre til døde i Colosseum, har det moderne mennesket funnet nye måter å underholde seg på. Det mangler ikke på tv-konsepter som bevisst spiller på å bygge opp under konflikter, sjalusi og intriger. Selv om vi kanskje ikke vil se deltakere risikere livet sitt på livestream som i japanske Battle Royale eller Hunger Games-triologien, har vi ikke noe problem med å fråtse i menneskers mest intime og sårbare øyeblikk.

Opp til oss

Men alt er ikke bare mørkt. Først og fremst gir teknologi – når den blir brukt riktig – mange mennesker muligheten til å leve kvalitativt bedre liv. Selv i den dystopiske Black Mirror er det enkelte lyspunkt. I den rørende og optimistiske episoden San Junipero  får eldre og døende pasienter mulighet til å leve ut sine drømmer og lengsler i en alternativ virkelighet ved hjelp av en slags VR-teknologi.  Episoden viser frigjøringskraften som kan ligge i teknologien, i en tid der mange er ensomme og isolerte og savner menneskelig kontakt.

Musk og Harari kan ha rett i at mennesket kan ende opp med å bli fanger av teknologien vi selv har skapt. Men snarere enn å frykte kunstig intelligens som gjør oss overflødige, bør vi konsentrere oss om å holde vår egen menneskenatur i sjakk – og forsvare de verdiene som samfunnet vårt er bygd på når de kommer under press. Hvem har nytte av teknologien vi utvikler – er det bare oss selv, eller kan den gagne flere? Hva er de moralske konsekvensene? Hvordan skal den reguleres? Hvem får tilgang til den? Alt dette er opp til oss – og tv-serier som Black Mirror viser hva konsekvensene av valgene våre kan bli.

Det som er sikkert og visst, er at vi får det framtidssamfunnet vi fortjener – verken mer eller mindre.  

Fra forsiden