Her er et plausibelt scenarie, der snart kan finde sted i metaverset, online virtual reality-miljøer under hastig udvikling af Mark Zuckerberg og andre tech-iværksættere: En politisk kandidat holder en tale til millioner af mennesker. Mens hver seer tror, de ser den samme version af kandidaten, ser de faktisk hver især en lidt anderledes version i virtual reality. For hver eneste seer er kandidatens ansigt blevet subtilt modificeret til at ligne seeren.
Dette gøres ved at blande træk fra hver seers ansigt ind i kandidatens ansigt. Seerne er uvidende om nogen manipulation af billedet. Alligevel er de stærkt påvirket af det: Hvert medlem af publikum er mere positivt indstillet over for kandidaten, end de ville have været uden nogen digital manipulation .
Dette er ikke spekulation. Det har længe været kendt, at mimik kan udnyttes som et stærkt værktøj til indflydelse. En række eksperimenter ( PDF ) af Stanford-forskere har vist, at en lille ændring af funktionerne hos en ukendt politisk figur for at ligne hver enkelt vælger fik folk til at vurdere politikere mere positivt.
Forsøgene tog billeder af studiedeltagere og rigtige kandidater i en mock-up af en valgkamp. Billederne af hver kandidat blev ændret til at ligne hver enkelt deltager. Undersøgelserne viste, at selvom 40 procent af deltagerens træk blev blandet ind i kandidatens ansigt, var deltagerne fuldstændig uvidende om, at billedet var blevet manipuleret.
I metaversen er det let at forestille sig denne type mimik i massiv skala.
Kernen i alt bedrag er følelsesmæssig manipulation. Virtual reality-miljøer, såsom Facebooks (nu Metas) metaverse, vil muliggøre psykologisk og følelsesmæssig manipulation af sine brugere på et niveau, der er utænkeligt i nutidens medier.
Jeg har arbejdet med problemer med bedrag, desinformation og kunstig intelligens i næsten fire årtier, herunder to perioder som programleder hos Defence Advanced Research Projects Agency (DARPA). Vi er ikke engang tæt på at kunne forsvare brugerne mod de trusler, som dette kommende nye medie udgør. I virtual reality vil ondsindede aktører være i stand til at tage de ældgamle mørke kunster af bedrag og indflydelse til nye højder – eller dybder.
De samme funktioner, der gør virtual reality-miljøer så attraktive som kommunikationsmiljøer – følelsen af at du har teleporteret ind i en syntetisk verden – kan også skade deres brugere. Når det kommer til følelsesmæssig manipulation, er to træk ved metaversen særligt vigtige – tilstedeværelse og legemliggørelse.
“Tilstedeværelse” betyder, at folk føler, at de kommunikerer direkte med hinanden uden nogen form for computergrænseflade. “Embodiment” betyder, at brugeren har følelsen af, at deres avatar eller virtuelle krop er deres faktiske krop.
Selv i virtual realitys nuværende, primitive tilstand er disse to fornemmelser det, der gør VR så kraftfuld. De er også det, der gør følelsesmæssig manipulation i VR så farlig.
I VR kan kropssprog og nonverbale signaler såsom øjenblik, fagter eller ansigtsudtryk bruges til at kommunikere hensigter og følelser. I modsætning til verbalt sprog producerer og opfatter vi ofte kropssprog ubevidst.
Virtual reality-miljøer tillader interaktion mellem mennesker, der udnytter hele spektret af menneskelig kommunikation. Person-til-person interaktion i denne intensitet og skala har ikke været mulig i traditionelle sociale mediemiljøer.
Det er både gode nyheder og frygtelige nyheder. Godt, fordi det giver mulighed for bedre kommunikation. Forfærdeligt, fordi det vil åbne brugerne for hele rækken af vildledende påvirkningsteknikker, der bruges i den fysiske verden – og for hvad der kan være endnu mere intense, virtuelle versioner af dem.
Metaverset vil indlede en ny tidsalder med massetilpasning af indflydelse og manipulation. Det vil give et kraftfuldt sæt værktøjer til at manipulere os effektivt og effektivt. Endnu mere bemærkelsesværdig vil være evnen til at kombinere skræddersyet individuel og massemanipulation på en måde, som aldrig før har været mulig. 
En brugers virtuelle oplevelser som avatar forventes at smelte sammen med hans eller hendes oplevelser, minder og forståelse fra den fysiske verden. Dette vil næsten helt sikkert ændre den måde, en person ser verden på, forstår den og opfører sig i den.
Vi må ikke vente, indtil disse teknologier er fuldt ud realiseret med at overveje passende autoværn til dem. Vi kan høste fordelene ved metaverset, mens vi minimerer dets potentiale for stor skade.
Det første skridt mod at designe disse autoværn er at lave en omfattende undersøgelse og evaluering af den eksisterende omfattende psykologilitteratur om anvendelser og virkninger af VR, og overveje, hvordan det kan bruges til ondsindede, manipulerende formål. Denne undersøgelse skal beskrive de typer af følelsesmæssige manipulationsteknikker, der er mulige i dag, men også undersøge teknikker, der sandsynligvis vil være mulige i mere sofistikerede versioner af metaversen. Dette er ikke blevet gjort. Vi kan ikke gardere os mod noget, vi ikke helt forstår.
Det andet trin er at udvikle teknologien til at detektere, hvornår disse teknikker bliver anvendt. For eksempel kunne vi bygge en type følelsesmæssig kanariefugl i en kulmine – en kunstig karakter, der kunne cirkulere i virtual reality-miljøer, fornemme en bred vifte af forsøg på følelsesmæssig manipulation og sende en advarsel ud, når en bliver indsat.
Samfundet begyndte ikke at være seriøst opmærksom på klassiske sociale medier – altså Facebook, Twitter og lignende – før tingene gik helt ud af kontrol. Lad os ikke begå den samme fejl, når sociale medier blomstrer op i metaversen.
Source: https://www.rand.org/blog/2022/08/facebook-misinformation-is-bad-enough-the-metaverse.html
