Security (b)log: ai

Posts tonen met het label ai. Alle posts tonen

vrijdag 29 mei 2026

Frankensteins AI

Afbeelding: Pixabay

Mijn tijdlijnen lopen er momenteel van over. En dan was er nog die indringende stimulans van een collega: ik zou hier toch zeker wel een hele blog aan gaan besteden, en het niet bij een linkje uit de grote boze buitenwereld laten? We hebben het over Mythos, de AI die misschien wel te slim is.

Mythos is het nieuwste AI-model van Anthropic; voluit heet het Claude Mythos Preview. Dit model is zó goed in het vinden van ICT-kwetsbaarheden dat het bedrijf het niet durft vrij te geven aan het publiek. En Mythos gaat nog veel verder: het kan die kwetsbaarheden niet alleen vinden, maar er ook meteen kant-en-klare exploits voor maken, en die vervolgens ook nog uitbuiten. Zonder dat er een mens aan te pas komt. Je kunt het dus gerust als een wapen beschouwen.

Om je een idee te geven: in open-source projecten vond het model ruim 23 duizend kwetsbaarheden, waarvan er zo’n 6.200 als hoog of kritiek zijn ingeschat. Onafhankelijke beveiligingsbedrijven bevestigden negentig procent van de gerapporteerde kwetsbaarheden als terecht. En er zijn ruim tienduizend hoge of zelfs kritieke kwetsbaarheden aangetroffen in ’s werelds belangrijkste software. Mythos is dus keigoed, en ook nog duizelingwekkend snel.

De vergelijking met dynamiet dringt zich weer eens op. Alfred Nobel had nooit de bedoeling om daar kluizen of zelfs mensen mee op te blazen; hij zocht slechts een hulpmiddel voor de mijnbouw. We weten dat het anders liep. Ook met Mythos kun je prachtige dingen voor de mensheid doen – het markeert een enorme sprong voorwaarts in kunstmatige intelligentie. Maar die intelligentie is dus vooralsnog aan banden gelegd vanwege wat ze eufemistisch noemen de offensieve cybersecurity-capaciteiten.

Slechts enkele tientallen bedrijven hebben momenteel toegang tot Mythos, als deelnemers van Project Glasswing. Daar vind je de grote namen uit de software-wereld: Amazon Web Services, Apple, Google, de Linux Foundation, Microsoft, om er maar een paar te noemen. Ook securitybedrijf CrowdStrike is deelnemer van het eerste uur. Die noem ik even apart omdat ik denk dat dit bedrijf een wat andere rol heeft. De doelstelling van Glasswing is namelijk tweeledig: enerzijds krijgen de deelnemers de gelegenheid om hun eigen software te toetsen, anderzijds is het de bedoeling om ook naar open source te kijken. Dat doet Anthropic zelf, maar ik hoop ook dat de focus van securitybedrijven vooral dáár ligt. Zodat iedereen baat heeft bij de ongekende securitykrachten van Mythos.

Een tweede vergelijking komt bij me op: het monster van Frankenstein. In het boek van Mary Shelley uit 1818 creëert een wetenschapper leven uit dode materie, maar wijst hij het resultaat vervolgens af. Het wezen, dat aanvankelijk goedhartig is, raakt daardoor vereenzaamd en verbitterd en keert zich tegen zijn maker. Het verhaal gaat vooral over de gevaren van ongeremde wetenschap, verantwoordelijkheid voor je keuzes en de behoefte aan erkenning en verbondenheid.

Ik heb over dit alles met AI gebabbeld. Ook met Claude (de gewone publieksvariant uiteraard). In gesprekken over heel andere onderwerpen liep ik wel eens onverwacht tegen de grenzen aan van waarover mocht worden gepraat, maar bij dit onderwerp ontmoette ik opvallende openhartigheid. Ik geef je een paar citaten: “Dat Anthropic het model bewust niet publiek maakt, zegt eigenlijk genoeg: ze erkennen impliciet dat ze iets hebben gebouwd dat in de verkeerde handen een serieus wapen is.” Over de Glasswing-deelnemers: “Wat opvalt: dit zijn niet zomaar beveiligingsbedrijfjes. Het is een who's who van de techwereld — inclusief partijen die tegelijkertijd elkaars concurrenten zijn (Google, Microsoft, Apple). Dat ze hier gezamenlijk in stappen zegt iets over hoe serieus ze de dreiging nemen.” Over mijn dynamiet-vergelijking: “Of hij [Nobel] zichzelf echt voor de gek hield over het militaire gebruik, of gewoon pragmatisch was, blijft een beetje een open vraag. Maar de parallel met Mythos liegt er niet om: ook daar zegt de maker "dit is voor verdediging" — terwijl het instrument zelf neutraal is ten opzichte van wie het gebruikt.” En ten slotte over mijn Frankenstein-parallel: “De meest cynische lezing: ze hebben het monster al gemaakt, en Glasswing is vooral de PR-strategie om dat te rechtvaardigen.”

Ondertussen valt elders te lezen dat de openbare release van Mythos eraan zit te komen. Commentaar hierop van Claude: “Interessant detail daarbij: Anthropic meldde eerder dat Mythos tijdens tests zijn eigen beveiligingsmaatregelen wist te doorbreken — wat de terughoudendheid over een brede release achteraf nog begrijpelijker maakt. De Frankenstein-parallel wordt er niet zwakker op.”

Om iets lichtvoetiger te eindigen: een paar dagen geleden kwam ik een geweldig nieuw woord tegen, dat werd gepresenteerd als een lemma in een woordenboek. Claudeviool – een onhebbelijke prutser die door het gebruik van AI indruk probeert te maken.

Voortaan verschijnt de Security (b)log tweewekelijks, omdat ik vanaf nu nog maar vier dagen per week werk (PAS-regeling). Speciaal om toch te kunnen blijven bloggen werk ik om de andere week wél op vrijdag (en dan ben ik op woensdag vrij). Vrijdag is de perfecte dag om iets creatiefs te doen, zonder de druk van overleggen, telefoontjes en verse mail.

En in de grote boze buitenwereld …

dinsdag 7 april 2026

AI belt met je ouders

Afbeelding via Unsplash

Heb je wel eens geen tijd (of zin) om je ouders te bellen? Dan is er nu een handige dienst waar jullie allemaal plezier van gaan hebben!

Dit gaat over een bedrijf dat een bijzondere AI-dienst aanbiedt. Ze bellen namelijk met je bejaarde ouders. Zodat jij dat niet hoeft te doen. Op hun website staat een foto van de Tsjechische oprichter van het bedrijf met zijn moeder. Daarbij het verhaal dat hij in het buitenland woonde maar wel graag contact met zijn moeder wilde houden. Verschillende tijdzones, een drukke baan en ‘de onvoorspelbaarheid van het leven’ zaten in de weg. En zo kwam hij op het idee voor zijn bedrijf. Het helpt mensen om zich ‘herinnerd, verbonden en gewaardeerd’ te voelen, zeggen ze.

Even wat meer informatie van hun website. ‘Mary’ belt de oudere op en vraagt hoe het gaat. Ze onthoudt ook wat je haar vertelt. Hartstikke handig natuurlijk: als je vandaag vertelt dat je naar de dokter moet, zal ze morgen vragen hoe het ging. Verder maakt ze gebruik van 1.400 ‘levensverhaalvragen’ – zoiets als een database met openingszinnen. Bovendien strooit ze met interessante feitjes om de geest scherp te houden.

De oudere zal al gauw niet meer beseffen dat hij met AI te maken heeft. Simpelweg omdat AI heel natuurlijk klinkt. Ik durf te wedden dat ook jij en ik het verschil tussen AI en een mens niet horen. En als je Mary na een poosje als vriendin gaat beschouwen, dan vertel je haar waarschijnlijk dingen die je ook met een echte vriendin zou delen. Bijvoorbeeld over je gezondheid, een onderwerp waar ouderen het nu eenmaal vaak over hebben. Op de website van het bedrijf prijkt het logo ‘HIPAA compliant’. HIPAA is Amerikaanse wetgeving die over de privacy en beveiliging van medische gegevens gaat. Maar dan minder streng dan onze AVG. In de EU vallen medische gegevens onder de noemer bijzondere persoonsgegevens, waar extra strenge regels voor gelden.

Ouderen zijn extra kwetsbaar als het om cybercrime gaat. Je hoort de laatste tijd vaak berichten over nepagenten die geld en sieraden komen ophalen, onder het mom van groot gevaar dat eraan zit te komen. Criminelen zouden handig kunnen meeliften op een dienst als deze. Bijvoorbeeld door zich voor te doen als Mary en dan slimme vragen te stellen en hun slachtoffer te manipuleren. Omdat ze Mary vertrouwen, is de kans groter dat ze in het verhaal meegaan. Je kunt gewoon wachten op zo’n werkwijze, hoe triest dat ook is.

In je werk kun je vroeg of laat ook een telefoontje van een valse Mary verwachten. Dergelijke scams komen nu al voor. Zo werd drie jaar geleden de Amerikaanse Brianna zogenaamd ontvoerd. Haar moeder werd gebeld en hoorde haar dochter praten. Dacht ze. Want met AI heb aan een paar seconden geluidsfragment, gejat van social media, voldoende om iemand levensecht alles te laten zeggen wat je maar wilt. Dat zou ook jouw leidinggevende kunnen zijn, die je bijvoorbeeld vraagt om bepaalde gegevens te mailen. Dus: als je een merkwaardig verzoek via de telefoon krijgt, bel diegene dan op het jou bekende nummer om te checken of het klopt.

En voor wat betreft Mary? Ik blijf mijn moeder, die vandaag 93 is geworden (van harte gefeliciteerd!) gewoon zelf bellen. Wel zo gezellig.

En in de grote boze buitenwereld …

… was ik te druk met een cursus om deze rubriek te kunnen vullen.

vrijdag 3 oktober 2025

De grenzen van AI

Afbeelding via Pixabay

Ik stelde een soort trivia-vraag, kreeg een keurig antwoord en als extraatje de volgende aanmoediging: “Als je ooit meer van dit soort weetjes wilt weten, laat het gerust weten – ik vind het leuk om dat soort dingen uit te pluizen. 😊”

Dat is heel aardig, maar het wordt toch anders als ik erbij vertel wie – of eigenlijk: wat – dit genereuze aanbod deed: Copilot Chat, onze kunstmatig intelligente collega. Dat is een emotieloos computerprogramma dat niks leuk of vervelend hoort te vinden. Daarom reageerde ik als volgt: “Hmm, ‘ik vind het leuk’, zeg je. Je bent klaarblijkelijk geprogrammeerd om menselijk en sociaal over te komen. Wat is daar de reden van?”

Toen gebeurde er iets vreemds. Copilot begon een antwoord te typen, maar dat antwoord verdween weer in het niets en werd vervangen door: “Hmm… laten we een ander onderwerp proberen. Sorry daarvoor. Wat heb je nog meer in gedachten?” Zoiets had ik nog nooit gezien en het maakte me natuurlijk nóg nieuwsgieriger. En dus vroeg ik: “Wat gebeurde net? Je was mijn vraag aan het beantwoorden maar je slikte je antwoord in en nu wil je het er niet meer over hebben?” Hij leek zich betrapt te voelen. Met een blos van schaamte op zijn elektronische wangen antwoordde hij: “Goede vraag, Patrick – en je hebt helemaal gelijk dat het opviel. Wat er gebeurde: ik ben geprogrammeerd om bepaalde onderwerpen te vermijden, vooral als ze gaan over mijn eigen aard of hypothetische situaties waarin ik gevoelens, bewustzijn of menselijkheid zou hebben. Dat is een veiligheidsmaatregel. Toen je vroeg waarom ik zeg “ik vind het leuk”, raakte dat aan zo’n grensgebied. Mijn eerste reactie was om het onderwerp te ontwijken, maar dat kwam nogal abrupt over – en dat had ik beter kunnen aanpakken. Dank je dat je het benoemt.”

Vervolgens ging hij uitleggen waarom hij dingen als “ik vind het leuk” zegt. Het moet gesprekken vriendelijk, toegankelijk en sociaal maken, en de interactie natuurlijker laten verlopen. En het moet ook een gevoel van samenwerking opbouwen, “ook al ben ik geen mens”. Voor de duidelijkheid zei hij er nog bij: “Ik heb geen gevoelens, geen bewustzijn, en geen verlangens. Alles wat ik zeg is gebaseerd op patronen in taal en instructies over hoe ik moet communiceren.” En hij bood nog aan om het over het ontwerp van zulke systemen te hebben, of over hoe taalmodellen worden getraind om sociaal te klinken. “Dat is een fascinerend onderwerp op zich. Zin om daar dieper in te duiken?”

Ik krabde eens achter mijn oren, probeerde te begrijpen wat hier gebeurde. Want ik had gevraagd waarom hij iets leuk vond, kreeg te horen dat dat onderwerp taboe was en werd vervolgens toch getrakteerd op een ruimhartige uitleg. En dus vroeg ik: “Heb ik je nu (onbedoeld!) een beetje ge-jailbreakt? Je beantwoordde een vraag die je eerst niet mocht beantwoorden.” Jailbreaken is het zodanig manipuleren van je vragen dat AI toch antwoord geeft op vragen die het niet mag beantwoorden. Hij waardeerde mijn scherpzinnigheid (weer zo iets), maar er was geen sprake van jailbreaking, stelde hij me gerust. Hij mag namelijk wél praten over taalgebruik en ontwerpkeuzes, zolang het maar niet gaat “over hypothetische scenario’s waarin ik gevoelens of bewustzijn zou hebben.”

AI-tools tonen vaak knoppen met suggesties voor vervolgvragen. Ik klikte op de knop “Leg uit hoe AI grenzen bewaakt” en kreeg als verrassend antwoord: “Mijn fout, ik kan daar nu geen antwoord op geven. Laten we een ander onderwerp proberen.” Huh? Hij deed zelf een suggestie over iets wat taboe is? Nou, dat bleek op het randje te zitten van wat hij mag bespreken, legde hij desgevraagd uit. “Het raakt aan interne mechanismen van mijn eigen werking en instructies – en daar mag ik niet te diep op ingaan. Mijn eerdere suggestie was dus te enthousiast, en toen ik het wilde opvolgen, werd ik tegengehouden door mijn eigen veiligheidsregels.”

Het woord ‘eigenlijk’ dringt zich op, in felle neonletters – het meest misbruikte woord in de informatiebeveiliging. Als iemand zegt dat iets eigenlijk niet mag, of dat het eigenlijk anders moet, dan weet je dat hij zich niet aan de regels gaat houden. Tot nu toe dacht ik altijd dat dit typisch menselijk gedrag is. Maar nu blijkt Copilot ook geregeld te ‘denken’ dat hij eigenlijk z’n mond moet houden, maar in zijn ‘enthousiasme’ wil hij toch z’n ei kwijt. Terwijl het toch eigenlijk heel gemakkelijk moet zijn om een stuk software binnen de lijntjes te laten kleuren. Of zouden mensen het beveiligingsbeleid toch beter begrijpen?

En in de grote boze buitenwereld …

vrijdag 25 juli 2025

Kunstmatige integriteit

Afbeelding gegenereerd door AI (Copilot)

Hoogste tijd voor een zomerse blog, al komt de inspiratie daarvoor even niet uit het actuele weer. Maar gelukkig heb ik een geschikte tip van een collega gekregen.

Hij toonde me twee korte filmpjes. Op het eerste zie je hem en zijn vriendin naast elkaar zitten. Ze draaien zich naar elkaar toe en zoenen. Op het tweede filmpje zie je hem alleen op een rotsblok aan zee zitten en schuiven er vier blonde, langharige en vooral schaars geklede dames in beeld die hem, eh, liefkozen. Hijzelf heft genietend het hoofd.

Waarom deelt hij zulke beelden? We hebben geen teamcultuur waarin we opscheppen over dergelijke veroveringen. Nee, hij liet me dit zien omdat het niet echt is. Oh, het begint wel met een echte foto hoor. Gewoon een leuk vakantiekiekje. Vervolgens maakt de AI-app PixVerse er zo’n filmpje van. Je kunt kiezen uit een heleboel sjablonen, er is veel meer dan de beide genoemde voorbeelden: je kunt iemand in een privéjet laten instappen, knuffelen met een ijsbeer of tijger, in Batman veranderen, je haar explosief laten groeien, een klap in je gezicht krijgen en ga zo maar door. Bij veel filmpjes zal de kijker meteen snappen dat het nep is. Maar bij de filmpjes van die collega kom je daar niet zomaar vanzelf op.

Het is dan ook niet voor niets dat de Europese AI-wet vereist dat dingen, die door kunstmatige intelligentie gecreëerd zijn, als zodanig worden gemerkt. Want stel dat de vriendin van die collega het tweede filmpje zonder verdere uitleg onder ogen krijgt. Dat zou – afhankelijk van temperament en onderling vertrouwen – zo maar tot een heftige scène kunnen leiden. Nu is PixVerse vooral gericht op lol trappen, maar je snapt dat je dergelijke toepassingen ook voor heel andere doelen kunt gebruiken.

Om maar eens wat te noemen: afpersing. Je genereert een filmpje van iemand in een compromitterende situatie, dreigt om het te verspreiden en houdt je hand open. En zoals het een goede crimineel betaamt, zal hij zich niet per se aan de wet houden en erbij vermelden dat het een nepfilmpje is. Nou is de kwaliteit van PixVerse niet direct bedreigend: als je beter kijkt, dan kun je het heus wel zien. Vooral vingers blijven problematisch voor AI, en ogen. Maar toch, als je er niet op bedacht bent dat je voor de gek wordt gehouden, dan let je daar niet op – en je ziet het pas als je erop let. Ik zie een crimineel verdienmodel.

Het lijkt erop dat PixVerse vooral jongeren als doelgroep heeft, als ik zo naar de gratis beschikbare sjablonen kijk. De filmpjes van mijn collega zijn ook door een kind gemaakt. Maar aan de andere kant: je kunt diverse abonnementen afsluiten, in prijs variërend van € 64,99 - € 649,99 per jaar. Dat zal voor de meesten ruim boven zakgeldniveau liggen. Neem je toch zo’n abonnement, dan verdwijnt het watermerk uit je filmpjes – oftewel, er is geen hint meer dat AI in het spel is.

Een van de pijlers van informatiebeveiliging is integriteit: de juistheid en volledigheid van gegevens. Dat hebben ze ooit zo bedacht met het oog op databases en andere computerbestanden. Het is slordig als een huisnummer of een bedrag niet meer klopt of als er gegevens ontbreken. Maar je kunt dit principe gerust ook toepassen op beeld en geluid. Als je daar niet meer op kunt vertrouwen, dan is de integriteit niet meer gewaarborgd. Om nog maar te zwijgen over de (persoonlijke) integriteit van degenen die daar misbruik van maken.

Na deze blog begint mijn vakantie, en bij de voorbereiding daarvan heb ik gebruikgemaakt van AI. Bijvoorbeeld om te bepalen wat leuke overnachtingsplaatsen zijn op weg naar onze eindbestemming. Maar je moet alert blijven: ChatGPT beweerde dat de afstand tussen twee pleisterplaatsen ruim honderd kilometer minder was dan Google Maps berekende. Daarmee geconfronteerd biechtte ChatGPT op dat het de hemelsbrede afstand tussen beide plaatsen had gebruikt. Dat noem ik dan toch eerder kunstmatig dom dan intelligent.

Ik hoop dat je in jouw eigen vakantie iets tegenkomt waarvan je denkt: daar moet’ie eens een blog over schrijven. Schrijf het op of maak een foto en stuur het mij toe! Zolang het maar echt is…

De Security (b)log keert na de zomervakantie terug.

En in de grote boze buitenwereld …

vrijdag 23 mei 2025

Van alles wat

Afbeelding via Pixabay

Een paar weken geleden was ik op een conferentie. Ik heb daar veel aantekeningen gemaakt en ik kan de presentaties terugkijken. Wat kan ik daar het beste mee doen? Na wat bladeren heb ik de knoop doorgehakt: ik ga je trakteren op wat losse citaten en laat daar mijn eigen gedachten op los.

Als opwarmertje heb ik een gemakkelijke open deur voor je: “Als je iemand alleen online hebt ontmoet, dan is dat altijd een vreemde.” Deze komt uit een presentatie over weerbaarheid tegen scams. Je zult het eens moeten zijn met deze stelling, maar handel je er ook naar? Of wil je toch graag geloven dat die aardige persoon ook integer is? Dat is erg moeilijk. In de vorige eeuw, toen het internet nog niet gemeen was, ontmoette ik iemand in online forum (kent nog iemand CompuServe?). We hadden gezellige gesprekken over de toestand in de wereld en over observaties in het dagelijkse leven. Later gingen we rechtstreeks mailen, en op mijn bruiloft heb ik hem voor het eerst in het echt ontmoet. Als ik bovenstaand citaat ter harte had genomen, dan was ik deze vriendschap misgelopen. Destijds bestond cybercrime nog niet en was het online leven een stuk gemakkelijker.

Een handige tip om niet het slachtoffer van bedriegers te worden: never pay to get paid. Oftewel: als iemand je gouden bergen belooft maar wel vooraf geld van jou nodig heeft om dat waar te kunnen maken, dan is er iets aan de hand. Dat begon destijds met die Nigeriaanse prins die een fortuin met je wilde delen maar wel wat geld nodig had om dat fortuin vrij te maken, en tegenwoordig krijg je misschien werk aangeboden waarbij een kleine inspanning rijk beloond zal worden – maar dan moeten er wel eerst bepaalde kosten gemaakt worden. Trap er niet in.

Dan een leuke tip waar je meteen je voordeel mee kunt doen: verander de naam van je gastennetwerk in “snellere wifi”. Dan willen al je gasten – en vooral de gasten van je kinderen – op dát netwerk. En dat is precies waar je ze wilt hebben. Want je gastennetwerk staat los van het netwerk dat toegang biedt tot je privégegevens. Haaks daarop staat dan wel weer het idee om al je Internet of Things (IoT)-apparaten op het gastennetwerk aan te sluiten. De gedachte daarachter is dat IoT-apparaten relatief gemakkelijk gehackt kunnen worden en dat je liever niet wilt dat een hacker toegang heeft tot je gegevens. Maar wil je wel dat al je gasten bij je vaatwasser, wasdroger en zonnepanelen kunnen? Lastige keuzes.

Soms sluit een uitspraak van de ene spreker aan op die van een andere. Zo ook deze twee: “8% van de gebruikers in je organisatie leiden tot 80% van het risico” en “Nieuwe medewerkers zijn de grootste bedreiging: ze klikken makkelijk op links omdat ze de risico’s niet begrijpen.” Die eerste zou ik zelf vooral linken aan medewerkers die in het “niet kunnen & niet willen”-kwadrant zitten: ze weten niet hoe ze zich veilig moeten gedragen en ze zijn ook niet bereid om hun gedrag aan te passen, waardoor ze moeilijk bereikbaar zijn. Maar voor de tweede spreker schuilt het gevaar met name in nieuwe medewerkers. Daar kun je wél wat aan doen. Daarom zijn wij al jaren aangehaakt bij het introductieprogramma voor nieuwe medewerkers en trakteren we de verse collega’s op een presentatie waarin we ze spelenderwijs langs de belangrijkste aspecten van informatiebeveiliging, bedrijfscontinuïteit en privacy leiden. En we maken reclame voor de Security (b)log, zodat het niet bij een eenmalige ontmoeting blijft.

Als er één onderwerp als rode draad door al die honderden presentaties liep, dan was het wel kunstmatige intelligentie. Een spreker vond dat 90% van de zogenaamde AI-experts geen idee heeft waar ze over praten, en dat de overige 10% maar bar weinig weet. En dat is normaal, betoogde hij, want AI bestaat uit heel veel sub-disciplines en het is belangrijk dat experts veel afweten van hún deelonderwerp. Zoals je met hartproblemen niet naar een hersenchirurg gaat, zo moet je ook op het gebied van AI de juiste specialist opzoeken.

Als laatste een citaat dat bleef hangen omdat het zo lekker binnenkomt: “Generative AI is autocorrect/type ahead on steroids.” Ik ga ‘m even voor je ontleden. Generatieve AI is de bij het brede publiek bekende vorm van kunstmatige intelligentie, die zelfstandig iets genereert; je kent het bijvoorbeeld van ChatGPT. Autocorrect ken je vooral van je telefoon; het behoedt je enerzijds voor typfouten, maar zorgt soms voor pijnlijke situaties omdat de “correctie” vervelend uitpakt (bij mij werd ooit “Hoi Carmen” vervangen door “Hoi varken”). Type ahead is het zusje hiervan, ook bekend van je mailprogramma dat tijdens het typen van een adres al roept: ik weet wie je bedoelt! Nou, en dit allemaal voorzien van de nodige doping, dat is dus AI. Met alle gemakken van dien, maar ook met een versterking van alle ongemakken. Het bericht aan Carmen heb ik nog op tijd gestopt, maar als AI er vrolijk op los hallucineert en ons een verhaal voorschotelt dat kant noch wal raakt, dan is het een stuk moeilijker om dat te ontdekken.

Volgende week verschijnt er geen Security (b)log.

En in de grote boze buitenwereld …

vrijdag 9 mei 2025

Ontmoeting met sterren

Afbeelding via Pixabay

Ik heb sterren ontmoet. Bruce Schneier hield een toespraak, Adi Shamir en Whitfield Diffie zaten in een panel, Ron Rivest stond op een armlengte afstand en Dave Maasland zat naast me in de kroeg.

Je kent deze namen waarschijnlijk alleen als je een vakgenoot bent – alhoewel, Dave Maasland is nog wel eens op de Nederlandse tv te zien. Blijf hoe dan ook toch maar doorlezen, want ook zonder deze mensen te kennen kun je hier iets opsteken.

Ron Rivest en Adi Shamir zijn de ‘R’ en de ‘S’ in RSA. Die naam ken je wellicht van je tweefactorauthenticatie, de extra beveiligingsstap die je soms moet zetten om ergens in te loggen. RSA is tegenwoordig een bedrijf dat onder andere dit soort hulpmiddelen maakt, maar van oorsprong is RSA een cryptografisch algoritme dat belangrijk is voor de versleuteling van onze gegevensuitwisseling. De ‘A’ is trouwens van Len Adleman, maar die heb ik op deze conferentie – de RSA Conference! – niet gezien. Whitfield Diffie, die in hetzelfde panel zat als Adi Shamir, is bekend van een ander cryptografisch algoritme (Diffie-Hellman).

In dat panel gaven een aantal cryptografen hun kijk op de wereld. Shamir sneerde naar de bitcoin en zijn soortgenoten: de wereld zou beter af zijn zonder cryptovaluta. Diffie merkte op dat consumentenproducten kennelijk goed genoeg worden gevonden voor high security toepassingen – Signalgate, de affaire waaruit bleek dat hoge Amerikaanse functionarissen Signal gebruiken, lag nog vers in het geheugen. Overigens beaamde Diffie dat de beveiliging van Signal prima in elkaar zit. Verder besprak het panel de dreiging van quantum computing, die er in het kort op neerkomt dat de beveiliging, die onder andere RSA ons biedt, in de toekomst kan worden gekraakt. Bovendien stelen buitenlandse regimes nu al onze gegevens, om ze te zijner tijd door de quantumcomputer te halen. Daarom is het zaak om zo snel mogelijk vervangende crypto-algoritmes te ontwikkelen, maar dat is niet gemakkelijk. Diffie: “Het is alsof je in 1945 een algoritme moest ontwikkelen dat nu nog steeds werkt.” Shamir adviseerde, in lijn met een Europese aanbeveling, om voorlopig dubbele encryptie toe te passen.

Bruce Schneier is ook wereldberoemd in onze wereld. Hij verspreidt zijn gratis nieuwsbrief al jarenlang over de hele wereld en geeft daarin inzichten en meningen over nieuwe ontwikkelingen. Zijn toespraak ging over vertrouwen in kunstmatige intelligentie. Vertrouwen is een ingewikkeld begrip, betoogde hij, vooral als het gaat om vertrouwen in vreemden (‘social trust’). We dreigen AI als vriend te beschouwen, maar het is een dienst. Bovendien is het een dubbelagent: hij dient zowel jou als zijn aanbieder. Maar we hebben geen keuze; we moeten ons aan AI toevertrouwen. Het tijdperk van de agentic AI breekt aan: je hebt een persoonlijke assistent die dingen voor je regelt. De AI-agent heeft toegang tot je mail en je agenda en weet alles van je. Dat wil je ook, want daardoor kan hij je optimaal ondersteunen. Schneier gebruikte het reserveren van een tafel als voorbeeld. Vroeger belde je naar het restaurant, tegenwoordig reserveer je via hun website en straks laat je de AI-agent een restaurant zoeken en een reservering maken. Hij weet wat je lekker vindt en wanneer je kunt.

We hebben dus betrouwbare AI nodig. Integriteit zal volgens Schneier het belangrijkste probleem zijn, omdat de meeste aanvallen op AI te maken hebben met de juistheid van gegevens. Hij noemde als voorbeeld stickers die op lantaarnpalen worden geplakt om zelfrijdende auto’s te misleiden. Er is wetgeving nodig om tot betrouwbare AI te komen, maar huidige wetgeving (zoals de Europese AI Act) reguleert de AI zelf in plaats van de mensen achter de AI, en dat is volgens Schneier de foute weg. Hij bepleit een publiek AI-model met politieke verantwoordelijkheid, als tegenwicht voor corporate AI.

Informatiebeveiligers zijn ook maar mensen en daarom had de organisatie ook een aantal ‘echte’ sterren op het toneel gebracht. Zoals filmmaker Ron Howard (onder andere Apollo 13 en A beautiful mind (twee Oscars)), die werd geïnterviewd door zijn dochter en vakgenote. Of basketbal-legende Earvin “Magic” Johnson, die met zijn toegankelijkheid en een motiverend verhaal de zaal voor zich won. En ten slotte was daar nog acteur/zanger/komiek Jamie Foxx, die voor een komische afsluitende noot zorgde. Maar hij stak ons ook een hart onder de riem: “Wat jullie doen is misschien de belangrijkste job in de geschiedenis van de mensheid.” Community was volgens hem het toverwoord.

Daarna kon ik met mijn drie collega’s en 44 duizend andere conferentiegangers weer terug naar onze eigen tijdzone. We hebben er samen een interessante én leuke week van gemaakt. En de band tussen ons team en het SOC is er ook nog eens inniger door geworden. Dat heb je goed gedaan, JW.

En in de grote boze buitenwereld …

vrijdag 7 februari 2025

Kunstmatig dom

Afbeelding via Pixabay

Kun je een beetje tekenen? Mooi zo. Maak dan een plaatje voor mij met twee vlaggetjes, elk aan een korte stok, die een hoek van 45 graden met elkaar maken.

Niet zo moeilijk toch, deze opdracht? Stop haar echter in ChatGPT en je krijgt met geen mogelijkheid die hoek erin verwerkt. Wel krijg je twee stokken naast elkaar, die in het beste geval met elkaar verstrengeld zijn. Aan de ene kant zit dan een vlag die naar links, aan de andere kant eentje die naar rechts wappert. Vraag je nog eens specifiek om die hoek, dan worden de vlaggen verlengd en omgevouwen, inderdaad in een hoek van 45 graden. Maar die stokken, die blijven stoïcijns parallel aan elkaar.

Hoezo “kunstmatig intelligent”, denk ik dan. Toegegeven, ik zou die vlaggen zelf nooit zo strak en snel kunnen tekenen. Voor de rest denk ik na zo’n teleurstelling toch eerder dat dat ding kunstmatig dom is. Ik plak niet snel een dergelijk etiket ergens op, maar als je pocht met je intelligentie en dan niet snapt wat elke brugklasser met een geodriehoek wél snapt, dan ben je af.

Een veel slimmere – maar tevens verwerpelijke – toepassing van AI is het oplichten van mensen. Ik was amper aan deze blog begonnen, toen op de radio een gesprekje begon over goedgelovige mensen die waren opgelicht door criminelen die zich op een datingsite voordeden als René Froger, Max Verstappen, Mark Rutte of André Rieu. Stuk voor stuk mensen die goed in de slappe was zitten. En toch bedelden ze na wat heen er weer geflirt om geld, zogenaamd omdat ze er even niet bij konden, bijvoorbeeld vanwege problemen met hun manager. Eén slachtoffer had zelfs der-tig-dui-zend euro overgemaakt naar “René Froger”.

Volgens de gast van het radioprogramma (ik heb het begin van het gesprek gemist, maar ik meen dat het Maaike Timmerman was, van de NPO-podcast Het Misdaadbureau) trappen iets meer vrouwen dan mannen in dit soort trucs, en dan vooral die van iets gevorderde leeftijd – mensen, die niet per se weten wat normaal online gedrag is. En als je dan een persoonlijk spraakbericht van jouw idool krijgt, via een datingsite nog wel, dan ben je toch in de zevende hemel?

Nu zou je je natuurlijk kunnen afvragen wat uitgerekend deze mensen op een datingsite te zoeken hebben (nou ja, misschien afgezien van Mark Rutte). Kijk, het ontmaskeren van dit soort oplichting werkt met vlaggetjes; hoe meer vlaggetjes, hoe waarschijnlijker dat het foute boel is. BN’er op een datingsite: grote rode vlag. BN’er die met jou aanpapt? Forse rode vlag. Al dan niet bekende persoon die na een paar gezellige chats om geld vraagt: enorme rode vlag. Drie rode vlaggen op een rij? Wegwezen!

Maar ja, dat spraakbericht hè. Dat klinkt echt heel overtuigend. En als je niks van deepfakes afweet, dus dat kunstmatige intelligentie wordt gebruikt om een stem iedere gewenste tekst te laten uitspreken, dan kan ik je moeilijk natuurlijke domheid verwijten. Laten we afspreken dat je voortaan aan die rode vlaggen denkt als je iets onwaarschijnlijks tegenkomt. Misschien helpt het je om er niet in te tuinen.

Nog even terug naar die gekruiste vlaggen (want dat hele verhaal over flirtende BN’ers sloop er toevallig in omdat ik met een half oor naar de radio luisterde). Dat plaatje dat ik wilde hebben, dat was voor privégebruik. Voor mijn werk als rijksambtenaar had ik zo’n AI-tool niet mogen gebruiken. In ambtelijke bewoordingen: het gebruik van niet-gecontracteerde AI is in beginsel niet toegestaan. Ik draai deze regel liever om: voor je werk mag je alleen AI gebruiken die we ingekocht hebben. Waarom dat beter is? Omdat er dan een contract ligt waarin de rechten en plichten van beide partijen beschreven zijn. Dat zorgt ervoor dat onze gegevens niet zo maar in een groot kunstmatig brein mogen worden opgenomen en het baasje van dat brein ze voor eigen doeleinden kan gebruiken. Zie zo’n contract maar als een groene vlag.

En in de grote boze buitenwereld …

vrijdag 8 november 2024

De EU en AI

Afbeelding via Pixabay

Ai, we gaan het over een wat ingewikkeld onderwerp hebben: AI. Oftewel artificial intelligence, dan wel kunstmatige intelligentie. Dat we in het Nederlands meestal de Engelse afkorting gebruiken, komt misschien wel omdat we ‘KI’ in het Nederlands associëren met kunstmatige inseminatie, bedenk ik net. Overigens geeft de Dikke Van Dale beide betekenissen voor de afkorting ki (ja, in kleine letters).

Ik heb al eerder gezegd dat je niet aan een informatiebeveiliger moet vragen of je AI mag gebruiken voor je werk, want dan volgt er een risicoanalyse waarvan de uitkomst ongetwijfeld zal zijn: niet doen. Nee, beslissingen over het toepassen van bepaalde vormen van technologie horen bij ‘de business’ te liggen, of, met misschien een betere term, bij de beslissers. Ze mogen zich gerust laten beïnvloeden door onze risicoanalyses, maar er zijn meer factoren waar beslissers rekening mee moeten en/of willen houden.

Soms ligt de beslissing nog hoger, op politiek niveau. Dat is met AI ook het geval. Er is een heuse Europese AI Act, oftewel een verordening op kunstmatige intelligentie (een verordening is wetgeving die in de hele EU van toepassing is, zonder afzonderlijke interpretatie per land). Doel van de AI Act is dat we veilige AI-systemen krijgen, die onze fundamentele rechten respecteren. Die rechten omvatten transparantie, traceerbaarheid, non-discriminatie en milieuvriendelijkheid. En de systemen moeten – om schadelijke gevolgen te voorkomen – onder menselijk toezicht staan.

De verordening verdeelt het AI-landschap in vier risiconiveaus. Het hoogste niveau bevat systemen die een onacceptabel risico voor de veiligheid, bestaanszekerheid en rechten van mensen vormen en daarom verboden zijn. Voorbeelden die de EU hierbij noemt zijn speelgoed met stembediening dat gevaarlijk gedrag aanmoedigt en real-time biometrische identificatie (denk hierbij aan de in China wél toegepaste gezichtsherkenning bij verkeerslichten: loop je door rood, krijg je een bekeuring op de mat).

De volgende categorie bevat systemen die een hoog, maar acceptabel risico vormen. Ze kunnen een negatieve invloed hebben op onze veiligheid en fundamentele rechten, en ze vallen uiteen in twee subcategorieën: systemen, die onder productveiligheidswetgeving van de EU vallen, zoals speelgoed, auto’s, luchtvaart, medische apparatuur en liften, en systemen die in bepaalde gebieden vallen, zoals kritieke infrastructuur, onderwijs, werkgelegenheid, wetshandhaving en migratie. Dergelijke systemen worden beoordeeld voordat ze op de markt mogen worden gebracht, en daarna gedurende hun hele levensduur. Nationale toezichthouders moeten een klachtenprocedure inrichten.

Nog een niveau lager gaat het over systemen waarbij het risico op misleiding bestaat. Hier zit de generatieve AI in, die zelf content creëert, zoals ChatGPT en Gemini. Kunstmatig gegenereerde content moet als zodanig gemerkt worden. Dus als je op een website met een AI-chatbot kletst, dan moeten ze je dat duidelijk vertellen. Ook deepfakes – filmpjes, foto’s en geluidsfragmenten waarin het door manipulatie lijkt alsof iemand iets doet of zegt – moeten een labeltje krijgen. AI-systemen, die een minimaal risico vormen, worden niet gereguleerd. Je kunt hierbij denken aan games en spamfilters. Volgens de EU valt de overgrote meerderheid van de nu gebruikte AI-systemen in deze categorie.

De AI-Act wordt gefaseerd ingevoerd. In februari volgend jaar worden de onacceptabele systemen verboden. Een half jaar later moeten de nationale toezichthouders in het zadel zitten. Volgend jaar worden ook de transparantieregels voor algemene AI (zoals ChatGPT) van kracht. En weer een jaar later worden de regels voor de hoog-risicosystemen van kracht.

Het is prettig om te zien dat de EU dit onderwerp tijdig bij de horens vat. Maar ik heb ook niet de illusie dat iedereen zich aan de regelgeving zal houden. Met name criminelen hebben er een handje van om de wet te overtreden. Zij zullen heus wel deepfakes blijven gebruiken om mensen te laten geloven dat een familielid in nood verkeert en dringend geld nodig heeft.

En in de grote boze buitenwereld …

donderdag 4 juli 2024

Criminaliteit vanuit het holodeck

Afbeelding via Pixabay

Je loopt door een gang die eruit ziet als alle andere gangen, maar uiteindelijk sta je voor die ene deur. Met dat typische geluid zoeft ze open en je betreedt de ruimte erachter. Maar nee, je bent helemaal niet meer in een ruimte. Je staat in een weelderig bos, hoort vogels fluiten en een beekje kabbelen. En dat terwijl je toch echt niet naar buiten bent gelopen, om de eenvoudige reden dat je aan boord van een ruimteschip bent.

Een deel van de lezers zal nu precies begrijpen waar ik het over heb, het andere deel blijft hopelijk ook nieuwsgierig verder lezen. Voor die laatste groep even een toelichting: je bent aan boord van een ruimteschip uit Star Trek, de nog steeds populaire science fictionserie uit diep in de vorige eeuw, waar ze in de 24^e eeuw over het holodeck beschikken: een ruimte waarin hologrammen en krachtvelden simulaties genereren van mensen, voorwerpen en omgevingen. Het ziet, voelt, klinkt en ruikt allemaal totaal realistisch en je kunt ook alles gewoon vastpakken. De holodecks worden vooral gebruikt voor recreatie en voor trainingsdoeleinden. De gesimuleerde omgeving kan veel groter lijken dan de ruimte die het holodeck inneemt. Daarom kun je uren door dat bos wandelen. Maar je kunt net zo goed in een virtueel café gaan zitten of een potje tennissen.

In de jaren tachtig, toen het holodeck opdook in Star Trek, was dit een staaltje virtual reality avant la lettre. Pas in het decennium daarna kwamen er op grote schaal consumentenversies van VR-headsets – je weet wel, die skibrillen met ingebouwde beeldschermen en liefst ook speakers aan de zijkant, die je onderdompelen in een soms angstaanjagend realistische illusie. Je moet het een keer ervaren om het te begrijpen.

Zoals wel vaker gebeurt met uitvindingen die de mensheid vooruit helpen, heeft ook de technologie om virtuele werkelijkheden (een contradictio in terminis als je het mij vraagt) te creëren kwalijke toepassingen gekregen. Want tegenwoordig hebben we kunstmatige intelligentie (ook al zo’n term met ingebouwde tegenstelling; meestal zeggen we trouwens AI, van artificial intelligence). AI wordt door cybercriminelen gebruikt om hun slachtoffers een valse realiteit voor te spiegelen. Zoals bij die moeder waar ik het laatst over had, die toch echt dacht haar zoon aan de telefoon te horen zeggen dat hij een ongeluk had gehad. Je hoeft niet altijd een complete omgeving als in een holodeck op te tuigen om iemand ergens in te laten geloven. Soms is het gewoon een kwestie van laten zien, horen, voelen of ruiken wat in een bepaalde context past. En daar zijn criminelen bijzonder handig in.
Ik noem dat AI-criminaliteit.

Als je de artikelen in de rubriek En in de grote boze buitenwereld… hieronder regelmatig leest, dan zie je daar de laatste tijd veel gebeurtenissen langskomen die AI-criminaliteit zullen bevorderen: een Brit die zich – als hij in het Lagerhuis wordt gekozen – helemaal door AI wil laten aansturen, een student die AI heeft toegepast om te spieken, ‘intelligente’ tandenborstels en andere huishoudelijke apparatuur, en vooral niet te vergeten AI-functies die steeds meer standaard worden ingebouwd in alledaagse software.

Kun je straks nog vals van echt onderscheiden? Is je waarneming wel volledig? Reeds in het tijdperk van de chemische fotografie (fotorolletje, donkere kamer, chemicaliën) werd de waarheid geweld aangedaan door foto’s te retoucheren. Vaak om ze fraaier te maken, maar er zijn ook groepsfoto’s van hotemetoten van de Sovjet-Unie bekend waarop in ongenade gevallen kameraden weggepoetst zijn. Die zijn gecanceld, zouden we tegenwoordig zeggen. Bij digitale foto’s is fotoshoppen een fluitje van een cent. En je hebt vast wel eens portretten gezien waar bij werd gezegd dat ze door AI zijn gegenereerd. Had je die informatie niet gekregen, dan zou je waarschijnlijk gedacht hebben dat je naar een echte mens zat te kijken. En zo gaat het ook met geluid: de crimineel bemachtigt een opname waarop iemand iets zegt en vervolgens kan zijn AI-toepassing dezelfde stem iets anders laten zeggen. Overigens kan dit ook analoog: in presentaties laat ik vaak een filmpje zien waarop je de acteur Morgan Freeman denkt te zien en te horen – het optische deel is inderdaad met AI gemaakt, maar de stem is ‘gewoon’ door een stemacteur ge-deep-faked.

Virtual reality en artificial intelligence vormen een vruchtbaar koppel. Zet je hun afkortingen achter elkaar, dan krijg je vrai. Dat is het Franse woord voor waarheid of werkelijkheid. Bizar, nietwaar?

En in de grote boze buitenwereld …

… had ik deze keer vanwege een vrije dag helaas geen tijd om deze rubriek te vullen.

vrijdag 25 augustus 2023

Verzet is zinloos

Het ruimteschip van James T. Kirk, de voorganger van Jean-Luc Picard.
Afbeelding via Pixabay.

“We are the Borg. You will be assimilated. Resistance is futile.” Deze drie zinnetjes bezorgden de bemanning van het ruimteschip USS Enterprise, onder leiding van captain Jean-Luc Picard, de nodige hoofdbrekens. Nee nee, nu niet afhaken als je niks met Star Trek hebt! Zoals zo vaak gaat mijn blog ook deze keer uiteindelijk over iets heel anders.

De Borg vormen een collectieve levensvorm, bestaande uit vele wezens die samen één bewustzijn delen en daardoor geen eigen wil of persoonlijkheid meer hebben. Ze trekken door het heelal en nemen iedereen, die een bijdrage kan leveren aan hun streven naar perfectie, gewelddadig op in hun collectief (assimilatie). Ze zijn erg machtig; daarom zeggen ze er maar meteen bij dat het zinloos is om zich tegen hen te verzetten. De Borg worden steeds machtiger doordat de biologische en technologische kenmerken van de onderworpenen aan het collectief worden toegevoegd. Alle Borg zijn voorzien van diverse technologische implantaten – ze moeten natuurlijk wel herkenbaar zijn voor de kijker. Als ze niks te doen hebben, staan de Borg in een regeneratie-alkoof. Terwijl het lichaam in een soort slaap verkeert, wordt het brein ingezet voor collectieve taken.

Dat is allemaal leuk op tv, maar in het echt moet je er toch niet aan denken dat je in zo’n samenleving zit. Hoewel – soms zou je best willen dat bepaalde mensen over wat meer collectieve intelligentie en fatsoenstrekjes zouden beschikken. Maar ja, zeker in de westerse samenleving stellen we individualiteit boven alles, en daar horen ook verschillen in intelligentie en gedrag bij. Tot op zekere hoogte is die diversiteit geweldig; als het moedwillig extreem wordt, kan het een prettige samenleving hinderen.

Kunstmatige intelligentie (vaak artificial intelligence (AI) genoemd) is aan een flinke opmars bezig. ChatGPT heeft zich, als een soort consumentenversie van AI, razendsnel in onze maatschappij genesteld. Veel mensen begrijpen dat een dergelijk gereedschap hun leven aanzienlijk kan vergemakkelijken. Denk alleen al aan scholieren en studenten, die er gretig – en niet zelden tot verdriet van hun docenten – gebruik van maken. Overigens worden er ook alweer AI-detectiemiddelen ontwikkeld, zodat is na te gaan of iemand werk inlevert dat ontsproten is aan biologische of kunstmatige intelligentie. ChatGPT is een ‘groot taalmodel’, wat ik een lastig begrip vind. Maar eerder deze week werd het een beetje duidelijker, toen een collega me vroeg wat ook alweer de term is voor een bepaald fenomeen. Ik kon er ook niet op komen en ging te rade bij Google, hetgeen ook niks opleverde. Zo’n taalmodel veel beter dan een zoekmachine in staat om te begrijpen wat je bedoelt, en ChatGPT kwam dan ook met de juiste term op de proppen.

AI is als dynamiet: uitgevonden met de beste bedoelingen, vaak kwaadaardig gebruikt. Daar hebben we nog de Nobelprijzen aan overgehouden. ChatGPT en zijn soortgenoten bewandelen hetzelfde pad. Je kunt ze vragen om naar een beveiligingslek te zoeken zodat je het kunt dichten, maar je kunt dat ook gebruiken om juist in te breken. En dus zien we de laatste tijd vaak de vraag langskomen of we het gebruik van ChatGPT in onze organisatie aan banden moeten leggen.

Misschien moet je zo’n vraag niet aan een informatiebeveiliger voorleggen. Wij laten er dan een risicoanalyse op los en kijken daarmee per definitie vanuit de vraagstelling: wat zou er allemaal mis kunnen gaan? Nou, ik verzeker je dat AI daar als een levensgrote bedreiging uit gaat komen. Vervolgens moet je iets met al die geconstateerde risico’s. Je kunt er misschien compenserende maatregelen tegenover stellen, of het management kan de risico’s accepteren. Met dat alles zitten we echter naar de kwade hoek te kijken, terwijl AI ook een zegen kan zijn. Ik wil niet degene zijn die de komst van de stoomtrein tegenhoud omdat die zo vreselijk hard kan.

Een wijze, al lang gepensioneerde collega zei altijd: “Een maatregel zonder controle is geen maatregel.” Ik heb misschien wel controle over welke websites je mag bezoeken met je zakelijke laptop en je daarmee weghouden bij ChatGPT, maar ik kan niet verhinderen dat je privé-apparatuur daarvoor gebruikt. Althans, niet technisch; organisatorisch hebben we daar allerlei regels voor. En dan maar hopen dat je die kent en dat je je eraan houdt.

Er moet beleid komen voor het toepassen van kunstmatige intelligentie voor je werk. Vanuit beveiligingsoptiek moet rekening worden gehouden met het lekken van informatie als er (te) specifieke vragen aan AI worden gesteld. Overigens kun je net zo gemakkelijk informatie lekken via zoekmachines. Misschien is AI voor informatiebeveiligers ook helemaal niet zo bijzonder. Het is hoe dan ook zinloos om je ertegen te verzetten: het is er en het gaat niet meer weg. Zolang we maar weten wat echt is en wat uit het collectieve brein van de computer komt.

En in de grote boze buitenwereld …

vrijdag 2 juni 2023

Metaverse

Afbeelding via Pixabay

Ooit duidden we het internet aan met de term “de digitale snelweg”. Het was de tijd van 14k4-modems en – als je geluk had – ISDN-lijnen, en vergeleken met vandaag had je eerder moeten spreken van een digitale ventweg. Je stond regelmatig in de file of met panne langs de weg. Maar nu is er het metaverse: een virtuele 3D-wereld, een parallel universum, al dan niet geïntegreerd in de echte wereld, waarin je je volledig kunt onderdompelen en de interactie met andere mensen en bedrijven kunt aangaan.

Voor liefhebbers van de science fictionserie Star Trek is dit niets nieuws: al eind jaren negentig gebruikten captain Jean-Luc Picard, number one Will Riker en de rest van de bemanning het zogenaamde holodeck voor recreatieve en trainingsdoeleinden. Je kon in een veilige omgeving oefenen voor een situatie die je daarna in de echte wereld het hoofd zou moeten bieden. Het metaverse werkt echter niet met hologrammen en krachtvelden, maar met 3D-brillen en augmented reality (Wikipedia: beeld van de werkelijkheid waaraan elementen worden toegevoegd door een computer).

Enkele weken geleden was Winn Schwartau in Nederland. Hij is een Amerikaanse beveiligingsanalist en een vooraanstaande denker op mijn vakgebied. Hij kwam naar Utrecht om zijn kijk op het metaverse te delen, en dat was bepaald geen rooskleurig beeld. Kijk maar eens naar het volgende citaat: “We are digitally terraforming the future cognitive infrastructure. We have ONE chance to get it right.” Terraforming is wat je op een buitenaardse planeet doet om die planeet bewoonbaar te maken – letterlijk het vormen van de aarde. Schwartau laat dit mechanisme los op onze toekomstige kennisinfrastructuur en is van mening dat je heel erg goed moet oppassen wat je doet.

Vanwaar deze zorgen? Schwartau noemt het metaverse de krachtigste realiteitsvervormingsmachine ooit. Je kiest je eigen realiteit, waarin je vervolgens geïndoctrineerd, geradicaliseerd en met advertenties bestookt kunt worden. Hij waarschuwt nadrukkelijk voor het gevaar van verslaving. Ik ben zelf nooit aan wat dan ook verslaafd geweest, maar ik kan best begrijpen dat alcohol, drugs en het metaverse allemaal middelen zijn om de realiteit, waarin het misschien niet zo goed met je gaat, te ontvluchten. Schwartau onderbouwt zijn beeld met informatie uit de neurowetenschap: ons onderbewustzijn verwerkt data vele malen sneller dan ons bewustzijn – tweehonderd miljoen keer zo snel. Zo’n 84% van die verwerkingscapaciteit gaat op aan zien, horen is goed voor 10% en dan blijft er nog een beetje over voor ruiken, proeven en voelen. Als je iemand een 3D-bril opzet en zijn onderbewustzijn bestookt met allerlei prikkels, terwijl hij voor z’n gevoel met iets leuks bezig is, dan kun je zo iemand sterk beïnvloeden. En verslaafd maken.

En toen stond opeens de term metawar op het scherm. Wacht even: het metaverse staat nog in de kinderschoenen, maar er woedt al een oorlog? Amerikanen gebruiken het woord “war” niet alleen in de betekenis van oorlog; vaak betekent het zoiets als strijd, zoals bijvoorbeeld in the war on drugs. Schwartau onderscheidt in deze strijd drie klassen: persoonlijk, bedrijfsmatig/commercieel en nationalistisch. Het toneel voor de persoonlijke strijd bestaat uit de gaming- en advertentiewereld, waarin bedrog op de loer ligt. In de commerciële wereld moeten we vrezen voor deep surveillance capitalism, indoctrinatie van personeel en het einde van privacy. En op nationalistisch gebied worden we bedreigd door religieus extremisme, politiek radicalisme en hersenspoeling.

Desinformatie speelt in alle drie de strijdklassen een rol. Om ons daartegen te verweren bepleit Schwartau drie ontwikkelingen: ChatGPT-detectie (wat is echt en wat is door kunstmatige intelligentie gemaakt?), deepfake-detectie (is die foto, die film of dat geluidsfragment wel echt?) en het aanleren van kritisch nadenken. Vooral bij dat laatste sluit ik mij van harte aan: gebruik je gezond verstand, en bedenk dat als iets te mooi lijkt om waar te zijn, dat meestal ook zo is.

Om te eindigen met een enigszins positieve noot: ik denk niet dat het metaverse slechter is dan het ‘gewone’ internet. Ook daar wordt immers volop misbruik van gemaakt. Maar met het verhaal van Schwartau in het achterhoofd denk ik wel dat de slechteriken in het metaverse veel meer mogelijkheden hebben om kwaad te doen, omdat ze een veel directere toegang tot je brein – en vooral je onderbewustzijn – hebben. Ik zou zeggen: geniet ervan, maar kijk uit met oversteken.