Security (b)log: deepfake

donderdag 4 juli 2024

Criminaliteit vanuit het holodeck

Afbeelding via Pixabay

Je loopt door een gang die eruit ziet als alle andere gangen, maar uiteindelijk sta je voor die ene deur. Met dat typische geluid zoeft ze open en je betreedt de ruimte erachter. Maar nee, je bent helemaal niet meer in een ruimte. Je staat in een weelderig bos, hoort vogels fluiten en een beekje kabbelen. En dat terwijl je toch echt niet naar buiten bent gelopen, om de eenvoudige reden dat je aan boord van een ruimteschip bent.

Een deel van de lezers zal nu precies begrijpen waar ik het over heb, het andere deel blijft hopelijk ook nieuwsgierig verder lezen. Voor die laatste groep even een toelichting: je bent aan boord van een ruimteschip uit Star Trek, de nog steeds populaire science fictionserie uit diep in de vorige eeuw, waar ze in de 24^e eeuw over het holodeck beschikken: een ruimte waarin hologrammen en krachtvelden simulaties genereren van mensen, voorwerpen en omgevingen. Het ziet, voelt, klinkt en ruikt allemaal totaal realistisch en je kunt ook alles gewoon vastpakken. De holodecks worden vooral gebruikt voor recreatie en voor trainingsdoeleinden. De gesimuleerde omgeving kan veel groter lijken dan de ruimte die het holodeck inneemt. Daarom kun je uren door dat bos wandelen. Maar je kunt net zo goed in een virtueel café gaan zitten of een potje tennissen.

In de jaren tachtig, toen het holodeck opdook in Star Trek, was dit een staaltje virtual reality avant la lettre. Pas in het decennium daarna kwamen er op grote schaal consumentenversies van VR-headsets – je weet wel, die skibrillen met ingebouwde beeldschermen en liefst ook speakers aan de zijkant, die je onderdompelen in een soms angstaanjagend realistische illusie. Je moet het een keer ervaren om het te begrijpen.

Zoals wel vaker gebeurt met uitvindingen die de mensheid vooruit helpen, heeft ook de technologie om virtuele werkelijkheden (een contradictio in terminis als je het mij vraagt) te creëren kwalijke toepassingen gekregen. Want tegenwoordig hebben we kunstmatige intelligentie (ook al zo’n term met ingebouwde tegenstelling; meestal zeggen we trouwens AI, van artificial intelligence). AI wordt door cybercriminelen gebruikt om hun slachtoffers een valse realiteit voor te spiegelen. Zoals bij die moeder waar ik het laatst over had, die toch echt dacht haar zoon aan de telefoon te horen zeggen dat hij een ongeluk had gehad. Je hoeft niet altijd een complete omgeving als in een holodeck op te tuigen om iemand ergens in te laten geloven. Soms is het gewoon een kwestie van laten zien, horen, voelen of ruiken wat in een bepaalde context past. En daar zijn criminelen bijzonder handig in.
Ik noem dat AI-criminaliteit.

Als je de artikelen in de rubriek En in de grote boze buitenwereld… hieronder regelmatig leest, dan zie je daar de laatste tijd veel gebeurtenissen langskomen die AI-criminaliteit zullen bevorderen: een Brit die zich – als hij in het Lagerhuis wordt gekozen – helemaal door AI wil laten aansturen, een student die AI heeft toegepast om te spieken, ‘intelligente’ tandenborstels en andere huishoudelijke apparatuur, en vooral niet te vergeten AI-functies die steeds meer standaard worden ingebouwd in alledaagse software.

Kun je straks nog vals van echt onderscheiden? Is je waarneming wel volledig? Reeds in het tijdperk van de chemische fotografie (fotorolletje, donkere kamer, chemicaliën) werd de waarheid geweld aangedaan door foto’s te retoucheren. Vaak om ze fraaier te maken, maar er zijn ook groepsfoto’s van hotemetoten van de Sovjet-Unie bekend waarop in ongenade gevallen kameraden weggepoetst zijn. Die zijn gecanceld, zouden we tegenwoordig zeggen. Bij digitale foto’s is fotoshoppen een fluitje van een cent. En je hebt vast wel eens portretten gezien waar bij werd gezegd dat ze door AI zijn gegenereerd. Had je die informatie niet gekregen, dan zou je waarschijnlijk gedacht hebben dat je naar een echte mens zat te kijken. En zo gaat het ook met geluid: de crimineel bemachtigt een opname waarop iemand iets zegt en vervolgens kan zijn AI-toepassing dezelfde stem iets anders laten zeggen. Overigens kan dit ook analoog: in presentaties laat ik vaak een filmpje zien waarop je de acteur Morgan Freeman denkt te zien en te horen – het optische deel is inderdaad met AI gemaakt, maar de stem is ‘gewoon’ door een stemacteur ge-deep-faked.

Virtual reality en artificial intelligence vormen een vruchtbaar koppel. Zet je hun afkortingen achter elkaar, dan krijg je vrai. Dat is het Franse woord voor waarheid of werkelijkheid. Bizar, nietwaar?

En in de grote boze buitenwereld …

… had ik deze keer vanwege een vrije dag helaas geen tijd om deze rubriek te vullen.

vrijdag 19 april 2024

Misdaad

Afbeelding via Pixabay

Vorige week stond ik, zoals je in de vorige Security (b)log kon lezen, voor een groep meiden van de middelbare school. Deze week was ik gevraagd voor een volgende generatie: de Young IT-Auditors van Belastingdienst, Douane en FIOD, die de jaarlijkse YIA-dag het thema cybersecurity hadden gegeven. Dat “young” bleek overigens niet zozeer op de leeftijd van de deelnemers te slaan, maar op hoe lang ze in het auditors-vak zitten. En laat ik het zo zeggen: dit publiek was nog bekend met Facebook. Gelukkig had ik mijn presentatie niet afgestemd op een al te jeugdig publiek (-;

In deze Utrechtse zaal had ik het onder andere over actuele ontwikkelingen. De laatste tijd lees ik steeds meer zorgelijke verhalen uit Amerika over misselijke criminele activiteiten. Zoals dit relaas. Een vrouw wordt gebeld door haar zoon, die vertelt dat hij een verkeersongeluk heeft gehad en dat hij de telefoon overhandigt aan een politieagent, die haar meer zal vertellen. De agent zegt dat haar zoon het ongeluk, waarbij een zwangere vrouw gewond is geraakt, heeft veroorzaakt en dat hij daarom in hechtenis wordt genomen. Hij kondigt aan dat een ingeschakelde advocaat haar zal bellen over de verdere gang van zaken.

Even later belt die advocaat. Zoonlief zit diep in de nesten, maar het is mogelijk om hem op borgtocht vrij te krijgen. Als moeder $ 15.000 in contanten meegeeft aan een koerier die de advocaat regelt, dan hoeft haar oogappel niet in de cel te overnachten. En bij de bank moest ze maar niet vertellen waar het geld voor is, want dan zouden ze daar moeilijk gaan doen. Zo gezegd, zo gedaan.

In werkelijkheid werd die moeder helemaal niet door haar zoon gebeld. Het was een deepfake, waarbij met kunstmatige intelligentie op basis van een bestaande geluidsopname (met dank aan social media) een nieuwe tekst met dezelfde stem werd gefabriceerd. De moeder hoorde dus wel de stem van haar zoon, maar die tekst had hij zelf nooit uitgesproken. Dat de telefoon gauw aan de agent werd overgedragen was nodig om geen gesprek tussen moeder en zoon te laten ontstaan. En die advocaat, die even later belde, was natuurlijk helemaal geen advocaat, maar net zo’n crimineel als de nepagent.

In bovenstaand verhaal zien we een aantal elementen terug uit de theorieën van Robert Cialdini en Ian Mann*. Cialdini zegt dat mensen autoriteiten gehoorzamen. Nu vraag ik me af in hoeverre die vlieger in Nederland opgaat, maar in veel landen zal men inderdaad snel geloven dat men inderdaad te maken heeft met een gezagsdrager, ook al is het maar aan de telefoon. Een kwestie van de juiste toon aanslaan. Mann vertelt ons dat mensen goedgelovig zijn. Dat kan twee kanten op werken. Enerzijds wil je graag de beloning ontvangen die een Afrikaanse prins je in het vooruitzicht stelt als je hem helpt bij het vrijmaken van een bijzonder goed gevulde bankrekening, anderzijds schiet je natuurlijk in de stress als het erop lijkt dat je kind in de penarie zit en geloof je al gauw wat allerlei figuren je vertellen. Bovendien, zo zegt Mann, maakt bewust onbekwaam ook volgzaam: als je van jezelf weet dat je van bepaalde zaken (zoals een arrestatie) geen verstand hebt, dan volg je gemakkelijk iemand die op z’n minst uitstraalt dat hij op dat vlak deskundig is.

In een ander verhaal werd iemand gebeld door de FBI, met de mededeling dat zij het slachtoffer was geworden van identiteitsdiefstal. Omdat onder haar naam gefraudeerd was, zouden haar banktegoeden bevroren worden. Om er toch voor te zorgen dat ze een poosje vooruit kon, bood de behulpzame agent aan om een flink deel van het spaargeld op een veilige rekening te zetten, die buiten de inbeslagname zou blijven. Ook dat geld moest in contanten worden aangeleverd en je raadt het al: foetsie. En er was helemaal geen sprake van identiteitsdiefstal.

In deze zaak speelde ICT helemaal geen rol, maar de crimineel deed wel alsof daar de bron van de ellende lag, want echte identiteitsdiefstal wordt nu eenmaal gefaciliteerd door ICT. Ook de volgende zaak had geen ICT-achtergrond, maar dat had gemakkelijk gekund: een 81-jarige Amerikaan werd afgeperst, en toen de door de crimineel bestelde Über voorreed om “een pakje” (met het geld) op te halen, schoot hij de chauffeuse dood, in de veronderstelling dat zij in het complot zat.

Mocht je ooit in zo’n onwerkelijke situatie terechtkomen, probeer dan niet te handelen vanuit je emotie. Negeer instructies om niemand erbij te betrekken, maar vraag juist hulp aan een vertrouwd iemand. Wees alert als het opeens over geld gaat; probeer je zoon eerst maar eens te bellen om te checken of hij écht een ongeluk heeft gehad. Sommigen vinden het misschien wat eng, maar in ons gezin kunnen we, met wederzijds goedvinden, in een app zien waar iedereen is. Dat kan je in zo’n situatie enorm helpen.

* Robert Cialdini, Influence: The psychology of Persuasion, 1984; Ian Mann, Hacking the human: Social Engineering Techniques and Security Countermeasures, 2008