Virtueel geweld

 

Afbeelding via Pixabay

Een conferentie is geslaagd als je in tenminste één bijdrage iets hebt gehoord waar je nog niet eerder bij hebt stilgestaan. Naarmate je langer in het vak zit wordt dat steeds moeilijker, maar de ONE Conference is er toch weer in geslaagd om mij zo’n moment te bezorgen. Niet over een onderwerp waar direct mijn interesse ligt, maar bij het kiezen van mijn parallelsessies probeer ik een gezonde mix te maken van bijdragen die nú voor mij interessant zijn, die me leuk/onderhoudend lijken, en waarvan ik denk: hé, waar zou dat over gaan? Een waarschuwing vooraf: dit wordt geen lichtvoetige blog. De bijdrage, waar ik op doel, ging namelijk over geweld in de virtuele wereld, en dat dit geweld zelfs tot de werkelijke wereld kan doordringen.

Je hebt slechts een tv nodig om de realiteit te ontvluchten, al word je daar meestal niet echt in een fantasiewereld ondergedompeld. In de bioscoop wordt het al realistischer, zeker als je naar een 3D-film (of eentje met nog meer dimensies) zit te kijken. De virtuele wereld waar deze presentatie over ging, gaat echter een aantal stappen verder: je draagt een virtual reality headset en je draagt misschien wel een pak vol sensoren en actuatoren, waardoor de computer jou voelt en jou ook dingen kan laten voelen.

Over dat soort virtuele werkelijkheid (een contradictio in terminis?) ging het. En dan dus over geweld in zo’n omgeving. Het doden van mensen in films en games is min of meer maatschappelijk geaccepteerd: reeds in de westerns van mijn jeugd werden de nodige cowboys en indianen van hun paard geschoten. Computergames, waarin je flink om je heen moet schieten om je doel te bereiken, zijn ook al lang populair; al in de jaren negentig hadden we Wolfenstein 3D, waarin ik heel wat nazi’s heb neergeknald en het bloed van de muren droop. Die games zijn alleen maar ‘beter’ geworden en er is al vaak een link gelegd tussen gewelddadige computerspellen en spelers die vervolgens in het echt ook heel verkeerde dingen gingen doen. Ik ga die discussie hier niet overdoen.

De focus in de presentatie van Anne-Sophie Fritschij en Vien Germawi lag op verkrachting. In een kunstmatige, maar dermate immersieve wereld zoals hierboven geschetst, kan verkrachting een effect op het slachtoffer hebben dat vergelijkbaar is met fysieke verkrachting, zo legden ze uit. In die uitgebreide virtuele wereld speelt haptische feedback namelijk een belangrijke rol – het is niet alleen horen en kijken, maar ook voelen; je wordt bijna letterlijk ondergedompeld in die andere werkelijkheid. Naar verluidt neemt het aantal  gevallen van seksueel misbruik in het metaverse, zoals deze schaduwwereld wel wordt aangeduid, schrikbarend toe. Er is zelfs een game die om verkrachting draait (en ik vind het niet nodig om de naam daarvan te noemen).

Uit de vergelijking die de dames maakten tussen virtuele moord en verkrachting kwam een duidelijk verschil naar voren, zowel in ervaring als in gevolgen. We doen niet moeilijk over moord in een spelletje, maar verkrachting vinden we moreel verwerpelijk. Een belangrijk verschil kwam overigens niet aan de orde: bij moord in een spelletje wordt er niet echt iemand vermoord, terwijl met de huidige technologie een verkrachting op afstand – of in ieder geval de sensatie daarvan – kennelijk wel tot de mogelijkheden behoort. En dat kan dan weer levenslang psychologische gevolgen voor het slachtoffer hebben, aldus de sprekers.

In een eerdere Security (b)log schreef ik al over het metaverse, met een citaat van Winn Schwartau: “We are digitally terraforming the future cognitive infrastructure. We have ONE chance to get it right.” Schwartau schetste een paar maanden geleden een niet bepaald rooskleurig beeld van het metaverse. De presentatie van Fritschij en Germawi vult dat beeld aan met nog meer donkere tinten.

Aldous Huxley schreef in 1932 Brave new world. Ik las het boek een halve eeuw later, en vorig jaar zag ik enkele afleveringen van een tv-serie op basis van deze beroemde roman. Huxley beschrijft daarin een bioscoop waarin je naar een feely kunt gaan: een film met niet alleen 3D beeld en geluid, maar ook gevoel (door twee handvatten op je stoelleuningen beet te pakken). Als in zo’n feely een seksscène voorkomt, gaat de ervaring van de kijker heel ver. Huxleys fantasie van bijna een eeuw geleden lijkt werkelijkheid te worden. Of moet ik zeggen: dreigt werkelijkheid te worden? Laten we ons de oproep van Schwartau ter harte nemen.

De komende twee weken verschijnt er (mogelijk) geen Security (b)log.

 

En in de grote boze buitenwereld …

• heeft het Rode Kruis oorlogsregels opgesteld voor burgerhackers.
• begon een aanval op een Spaans luchtvaartbedrijf met een valse recruiter op LinkedIn.
• worden deepfakes van bekende mensen gebruikt om jou te bedriegen.
• is de top-10 van configuratiefouten van de Amerikaanse overheid niet heel verrassend.
• is het geen goed idee om een wachtwoord in een applicatie mee te programmeren.
• heeft de conferentie een flinke aanslag op mijn agenda gepleegd, waardoor ik geen tijd heb om hier nog meer links op te nemen.

 

Metaverse

 

Afbeelding via Pixabay

Ooit duidden we het internet aan met de term “de digitale snelweg”. Het was de tijd van 14k4-modems en – als je geluk had – ISDN-lijnen, en vergeleken met vandaag had je eerder moeten spreken van een digitale ventweg. Je stond regelmatig in de file of met panne langs de weg. Maar nu is er het metaverse: een virtuele 3D-wereld, een parallel universum, al dan niet geïntegreerd in de echte wereld, waarin je je volledig kunt onderdompelen en de interactie met andere mensen en bedrijven kunt aangaan.

Voor liefhebbers van de science fictionserie Star Trek is dit niets nieuws: al eind jaren negentig gebruikten captain Jean-Luc Picard, number one Will Riker en de rest van de bemanning het zogenaamde holodeck voor recreatieve en trainingsdoeleinden. Je kon in een veilige omgeving oefenen voor een situatie die je daarna in de echte wereld het hoofd zou moeten bieden. Het metaverse werkt echter niet met hologrammen en krachtvelden, maar met  3D-brillen en augmented reality (Wikipedia: beeld van de werkelijkheid waaraan elementen worden toegevoegd door een computer).

Enkele weken geleden was Winn Schwartau in Nederland. Hij is een Amerikaanse beveiligingsanalist en een vooraanstaande denker op mijn vakgebied. Hij kwam naar Utrecht om zijn kijk op het metaverse te delen, en dat was bepaald geen rooskleurig beeld. Kijk maar eens naar het volgende citaat: “We are digitally terraforming the future cognitive infrastructure. We have ONE chance to get it right.” Terraforming is wat je op een buitenaardse planeet doet om die planeet bewoonbaar te maken – letterlijk het vormen van de aarde. Schwartau laat dit mechanisme los op onze toekomstige kennisinfrastructuur en is van mening dat je heel erg goed moet oppassen wat je doet.

Vanwaar deze zorgen? Schwartau noemt het metaverse de krachtigste realiteitsvervormingsmachine ooit. Je kiest je eigen realiteit, waarin je vervolgens geïndoctrineerd, geradicaliseerd en met advertenties bestookt kunt worden. Hij waarschuwt nadrukkelijk voor het gevaar van verslaving. Ik ben zelf nooit aan wat dan ook verslaafd geweest, maar ik kan best begrijpen dat alcohol, drugs en het metaverse allemaal middelen zijn om de realiteit, waarin het misschien niet zo goed met je gaat, te ontvluchten. Schwartau onderbouwt zijn beeld met informatie uit de neurowetenschap: ons onderbewustzijn verwerkt data vele malen sneller dan ons bewustzijn – tweehonderd miljoen keer zo snel. Zo’n 84% van die verwerkingscapaciteit gaat op aan zien, horen is goed voor 10% en dan blijft er nog een beetje over voor ruiken, proeven en voelen. Als je iemand een 3D-bril opzet en zijn onderbewustzijn bestookt met allerlei prikkels, terwijl hij voor z’n gevoel met iets leuks bezig is, dan kun je zo iemand sterk beïnvloeden. En verslaafd maken.

En toen stond opeens de term metawar op het scherm. Wacht even: het metaverse staat nog in de kinderschoenen, maar er woedt al een oorlog? Amerikanen gebruiken het woord “war” niet alleen in de betekenis van oorlog; vaak betekent het zoiets als strijd, zoals bijvoorbeeld in the war on drugs. Schwartau onderscheidt in deze strijd drie klassen: persoonlijk, bedrijfsmatig/commercieel en nationalistisch. Het toneel voor de persoonlijke strijd bestaat uit de gaming- en advertentiewereld, waarin bedrog op de loer ligt. In de commerciële wereld moeten we vrezen voor deep surveillance capitalism, indoctrinatie van personeel en het einde van privacy. En op nationalistisch gebied worden we bedreigd door religieus extremisme, politiek radicalisme en hersenspoeling.

Desinformatie speelt in alle drie de strijdklassen een rol. Om ons daartegen te verweren bepleit Schwartau drie ontwikkelingen: ChatGPT-detectie (wat is echt en wat is door kunstmatige intelligentie gemaakt?), deepfake-detectie (is die foto, die film of dat geluidsfragment wel echt?) en het aanleren van kritisch nadenken. Vooral bij dat laatste sluit ik mij van harte aan:  gebruik je gezond verstand, en bedenk dat als iets te mooi lijkt om waar te zijn, dat meestal ook zo is.

Om te eindigen met een enigszins positieve noot: ik denk niet dat het metaverse slechter is dan het ‘gewone’ internet. Ook daar wordt immers volop misbruik van gemaakt. Maar met het verhaal van Schwartau in het achterhoofd denk ik wel dat de slechteriken in het metaverse veel meer mogelijkheden hebben om kwaad te doen, omdat ze een veel directere toegang tot je brein – en vooral je onderbewustzijn – hebben. Ik zou zeggen: geniet ervan, maar kijk uit met oversteken.

 

En in de grote boze buitenwereld …

• stapt Twitter uit een EU-akkoord tegen desinformatie.
• adviseert AI over de impact van AI.
• kunnen iPhones met malware worden besmet zonder dat de gebruiker iets hoeft te doen.
• zouden de Amerikanen die iPhone-kwetsbaarheid hebben gebruikt om de Russen te bespioneren.
• ondertekenen de betere cybercriminelen hun malware digitaal, want dan komen ze er makkelijker door.
• worden hackers ook wel eens gehackt.
• mag de Amerikaanse grensbewaking niet meer zomaar je telefoon doorzoeken.
• is Tesla zo lek als een mandje, en de Nederlandse Autoriteit Persoonsgegevens moet dat onderzoeken.
• baseert het AI-model DarkBERT zich volledig op kennis van het darkweb.