 |
| Afbeelding gegenereerd door AI (Copilot) |
Hoogste tijd voor een zomerse blog, al komt de inspiratie daarvoor even niet uit het actuele weer. Maar gelukkig heb ik een geschikte tip van een collega gekregen.
Hij
toonde me twee korte filmpjes. Op het eerste zie je hem en zijn vriendin naast
elkaar zitten. Ze draaien zich naar elkaar toe en zoenen. Op het tweede filmpje
zie je hem alleen op een rotsblok aan zee zitten en schuiven er vier blonde,
langharige en vooral schaars geklede dames in beeld die hem, eh, liefkozen.
Hijzelf heft genietend het hoofd.
Waarom
deelt hij zulke beelden? We hebben geen teamcultuur waarin we opscheppen over
dergelijke veroveringen. Nee, hij liet me dit zien omdat het niet echt is. Oh,
het begint wel met een echte foto hoor. Gewoon een leuk vakantiekiekje.
Vervolgens maakt de AI-app PixVerse er zo’n filmpje van. Je kunt kiezen uit een
heleboel sjablonen, er is veel meer dan de beide genoemde voorbeelden: je kunt
iemand in een privéjet laten instappen, knuffelen met een ijsbeer of tijger, in
Batman veranderen, je haar explosief laten groeien, een klap in je gezicht
krijgen en ga zo maar door. Bij veel filmpjes zal de kijker meteen snappen dat
het nep is. Maar bij de filmpjes van die collega kom je daar niet zomaar
vanzelf op.
Het
is dan ook niet voor niets dat de Europese AI-wet vereist dat dingen, die door
kunstmatige intelligentie gecreëerd zijn, als zodanig worden gemerkt. Want stel
dat de vriendin van die collega het tweede filmpje zonder verdere uitleg onder
ogen krijgt. Dat zou – afhankelijk van temperament en onderling vertrouwen – zo
maar tot een heftige scène kunnen leiden. Nu is PixVerse vooral gericht op lol
trappen, maar je snapt dat je dergelijke toepassingen ook voor heel andere
doelen kunt gebruiken.
Om
maar eens wat te noemen: afpersing. Je genereert een filmpje van iemand in een
compromitterende situatie, dreigt om het te verspreiden en houdt je hand open.
En zoals het een goede crimineel betaamt, zal hij zich niet per se aan de wet
houden en erbij vermelden dat het een nepfilmpje is. Nou is de kwaliteit van
PixVerse niet direct bedreigend: als je beter kijkt, dan kun je het heus wel
zien. Vooral vingers blijven problematisch voor AI, en ogen. Maar toch, als je
er niet op bedacht bent dat je voor de gek wordt gehouden, dan let je daar niet
op – en je ziet het pas als je erop let. Ik zie een crimineel verdienmodel.
Het
lijkt erop dat PixVerse vooral jongeren als doelgroep heeft, als ik zo naar de
gratis beschikbare sjablonen kijk. De filmpjes van mijn collega zijn ook door
een kind gemaakt. Maar aan de andere kant: je kunt diverse abonnementen
afsluiten, in prijs variërend van € 64,99 - € 649,99 per jaar. Dat zal voor de
meesten ruim boven zakgeldniveau liggen. Neem je toch zo’n abonnement, dan
verdwijnt het watermerk uit je filmpjes – oftewel, er is geen hint meer dat AI
in het spel is.
Een
van de pijlers van informatiebeveiliging is integriteit: de juistheid en
volledigheid van gegevens. Dat hebben ze ooit zo bedacht met het oog op
databases en andere computerbestanden. Het is slordig als een huisnummer of een
bedrag niet meer klopt of als er gegevens ontbreken. Maar je kunt dit principe
gerust ook toepassen op beeld en geluid. Als je daar niet meer op kunt
vertrouwen, dan is de integriteit niet meer gewaarborgd. Om nog maar te zwijgen
over de (persoonlijke) integriteit van degenen die daar misbruik van maken.
Na
deze blog begint mijn vakantie, en bij de voorbereiding daarvan heb ik
gebruikgemaakt van AI. Bijvoorbeeld om te bepalen wat leuke
overnachtingsplaatsen zijn op weg naar onze eindbestemming. Maar je moet alert
blijven: ChatGPT beweerde dat de afstand tussen twee pleisterplaatsen ruim
honderd kilometer minder was dan Google Maps berekende. Daarmee geconfronteerd
biechtte ChatGPT op dat het de hemelsbrede afstand tussen beide plaatsen had
gebruikt. Dat noem ik dan toch eerder kunstmatig dom dan intelligent.
Ik
hoop dat je in jouw eigen vakantie iets tegenkomt waarvan je denkt: daar
moet’ie eens een blog over schrijven. Schrijf het op of maak een foto en stuur
het mij toe! Zolang het maar echt is…
De
Security (b)log keert na de zomervakantie terug.
En in de grote boze buitenwereld …
- had het kisscam-stel misschien maar moeten liegen dat het filmpje fake is
- vraag ik mij af of we dergelijk gebruik van AI over vijftig jaar normaal vinden
- raken bug bounty-programma’s verstopt door hallucinerende AI-rapporten
- richt een Nigeriaanse cybercrimebende haar phishingpijlen met name op de luchtvaartwereld
- verraadt je koffer waar je heen gaat
- zei de Belgische politieagent, die belast werd met security awareness: “Komt voor de bakker!”
- hebben phishers een oplossing voor FIDO gevonden
- is het OM gehackt - mogelijk door de Russen
- is het Pay-or-Okay-model niet in de haak
- kan de cybercrimineel natuurlijk ook gewoon netjes om een wachtwoord vragen
- mogen Britse overheidsinstanties straks geen ransomware-losgeld meer betalen
Geen opmerkingen:
Een reactie posten