Stofzuigers en tandenborstels

Afbeelding: allthegearnoskill 

Een kleine twee maanden geleden hoorde ik twee berichten op dezelfde dag, die allebei mijn aandacht trokken. Het ene ging over een robotstofzuiger, het andere over een elektrische tandenborstel. Laten we op zoek gaan naar de overeenkomsten.

Een robotstofzuiger heeft ogen, want anders zou hij voortdurend zijn neus stoten. Sommige types gebruiken daar camera’s voor (andere gebruiken bijvoorbeeld een laser of ultrasoon geluid om hindernissen waar te nemen en om zich een beeld van hun omgeving te vormen). Bij een gezin in Taiwan hadden ze zo’n stofzuiger met optische camera’s. Toen de echtgenoot, die onderweg was, zijn vrouw wilde verrassen door via de stofzuiger met haar te kletsen, zag hij op de camerabeelden dat zijn vrouw bloot én met een andere man was. Hij spande een rechtszaak wegens overspel aan, kreeg schadevergoeding en moest vervolgens zelf de gevangenis is. Want zijn (ex?) vrouw had een tegeneis ingediend wegens privacyschending. Taiwan tilt erg zwaar aan het maken van illegale opnamen.

Dan die tandenborstel. Dyson heeft een type op de markt gebracht met camera’s. Je vraagt je af waarom? Om je gebit te analyseren. Het apparaat kan namelijk ook een vloeistofstraal afvuren op de ruimtes tussen je tanden, en die ruimtes vindt hij dus door te kijken. Daar komt – hoe kan het tegenwoordig ook anders – AI aan te pas.

Ik vraag me dan af wat zo’n camera de rest van de tijd doet. Een beetje rondkijken in je badkamer? Nee, zegt de fabrikant: als je niet aan het poetsen bent, staat de camera uit. Bovendien heeft de camera een macrolens, bedoeld om scherp te zien op zeer korte afstand. Logisch natuurlijk. Er is echter ook een tweede lens om de kijkhoek te vergroten. Maar ook die zal geen al te grote scherptediepte hebben (een maat die aangeeft hoe ‘diep’ het gebied is dat je scherp ziet), al is die bij een groothoeklens groter dan bij een macrolens. De resolutie is trouwens maar 100.000 pixels – mijn doorsnee telefoon is vijftig keer beter. En Dyson belooft dat de foto’s nergens worden opgeslagen en niet worden gedeeld.

Tot zover de theorie. En toen ging ik op zoek naar camerabeelden. En ik vond ze: een Instagrammer met de naam ‘allthegearnoskill’ nam haar tandenborstel mee naar buiten en schoot er plaatjes mee. Het zijn erg vertekende foto’s, en ook licht en kleuren zijn vreemd, maar je kunt er wél het een en ander op herkennen, bijvoorbeeld gebouwen en landschappen. Waarschijnlijk gaat het om screenshots van naar de telefoon gestreamde opnames – de tandenborstel slaat zelf immers niet op.

Twee heel verschillende apparaten, en toch met iets gemeenschappelijks. Het Duitse woord Zweckentfremdung schiet door mijn hoofd; je zou het kunnen vertalen met ‘doelvervreemding’ – het ding wordt voor iets heel anders gebruikt dan waar het voor bedoeld was. Een stofzuiger als privédetective, een tandenborstel als fototoestel.

Maar er is meer aan de hand. Die apparaten hebben ook een app. En zijn dus verbonden met de buitenwereld. Weet je nog wat ik daarover schreef in de vorige blog? Die apparaten zijn kwetsbaar. Als jij er met je app bij kunt, dan kan iemand anders dat in potentie ook. Handig voor inbrekers, zo’n stofzuiger die het huis voor ze in kaart brengt en alvast toont wat er te halen valt. En die tandenborstel is misschien leuk speelgoed voor badkamergluurders.

Het is enigszins geruststellend dat dergelijke apparaten in ieder geval een basisbeveiliging hebben: je hebt een account met een wachtwoord nodig. Daarna wordt het allemaal wat vager. Multifactorauthenticatie zou wenselijk zijn, maar is lang niet altijd gedocumenteerd. Toegang tot de camera en eventuele communicatiefuncties zou apart afgeschermd moeten worden. En terzijde: waarom zou je überhaupt moeten willen videobellen via je stofzuiger? Over Zweckentfremdung gesproken!

 

En in de grote boze buitenwereld …

• signaleert de AIVD een toename van insider risk.
• ging de Belgische belastingdienst op zwart na een cyberaanval.
• ging er vorige week wel meer op zwart, wereldwijd.
• adviseert de overheid vanuit privacy-oogpunt om een andere browser dan Microsoft Edge te gebruiken.
• werken veel alarmknoppen voor ouderen straks niet meer.
• snapte jij natuurlijk al lang dat je het wachtwoord van je bank-account beter niet met AI kunt delen.
• vraagt ransomware om een snelle reactie (al is preventie natuurlijk vele malen beter).
• heb je ook thuis een back-upstrategie nodig (helaas herbergt het artikel een irritante hoeveelheid reclame).
• bedreigen ransomware-bendes nu ook families van werknemers van hun slachtoffers. En ze gebruiken de AI van het gehackte bedrijf.
• begint een Zwitsers bastion scheuren te vertonen. (zonder account niet volledig te lezen, maar wel een groot stuk)
• roofden (waarschijnlijk) de Noord-Koreanen ruim zes miljard dollar aan cryptovaluta.
• kunnen inwoners van de EU en het VK bezwaar maken tegen AI-training door Meta met hun data.

 

Robots en supermarkten

Originele afbeelding: Wikipidia

Eerste Wet: een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. Tweede Wet: een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet. Derde Wet: een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Dit zijn de drie wetten van de robotica, in 1942 opgesteld door de Amerikaanse sciencefictionauteur Isaac Asimov. Die wetten moeten hard ingebakken zijn in iedere robot, om te voorkomen dat (steeds intelligenter wordende) robots zich tegen de mens keren, was het idee.

En toen kwam in 2004 de film I, robot uit, met Will Smith in de hoofdrol (en met tenenkrommende sluikreclame voor gympen en een automerk, maar dat terzijde). In deze film (spoiler alert) keert een bepaald type robots zich in 2035 tegen de mensen. Aan het einde van de film komt de aap uit de mouw: de supercomputer, die met al deze robots communiceert, heeft een iets andere invulling aan de robotwetten gegeven: de mens richt zichzelf en de aarde ten gronde door criminaliteit en milieuvervuiling, en daarom moeten de robots de mens tegen zichzelf beschermen door hem te onderwerpen. De crux zit ‘m natuurlijk in dit stukje van de Eerste Wet: “door niet te handelen toestaan dat een mens letsel oploopt”. Decennia later formuleerde Asimov trouwens ook nog de Nulde Wet, die boven de andere drie staat en de opstand nog duidelijker legitimeert: een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

We spoelen door naar 2026, naar de nacht van 11 op 12 oktober. De temperatuur in koelinstallaties in honderden Franse supermarkten liep op tot vijftig graden – boven nul, wel te verstaan. Dat duurde zo’n zes uur. Er ging nergens een alarm af. Ja, waarschijnlijk piepte uiteindelijk hier en daar wel een brandalarm, want sommige koelingen vlogen in de fik of smolten weg.

Dan vraag je je toch af: waarom kán een koeling überhaupt zo heet worden? Zijn hier misschien roboticawetten overtreden om de mens – en met name de Fransen – te beschermen tegen diepvriesmaaltijden? Nee, het ligt gelukkig simpeler. In een koelinstallatie treedt ijsvorming op bij de verdamper. Om die reden gaat zo’n installatie regelmatig voor een paar minuten in de ontdooistand. Dus niet om de hele koeling te ontdooien, maar alleen de verdamper. Kennelijk wisten hackers deze stand aan én vast te zetten.

Waarom kun je de koelinstallatie van een supermarkt via het internet bereiken? Om dezelfde reden waarom de installateur van jouw zonnepanelen waarschijnlijk ook op afstand kan meekijken: omdat het handig is. En om het dan helemaal gemakkelijk te maken was er een achterdeurtje ingebouwd: je kon inloggen met ‘admin’ en de actuele datum. Bovendien ging het deels om verouderde regelaars zonder recente beveiligingsupdates en deels om modernere regelaars met verouderde software.

Slimme systemen zijn per definitie kwetsbaar, zei Mikko Hyppönen al tien jaar geleden (“If it’s smart, it’s vulnerable”). En als slimme systemen dom worden behandeld, dan is dat vragen om problemen, voeg ik daaraan toe. Dat dat gebeurt, is overigens niet zo vreemd. In de IT (informatietechnologie) zijn we inmiddels wel doordrongen van de noodzaak om de boel te beveiligen, maar de wereld van de OT (operationele technologie) loopt daar nog behoorlijk op achter. Niet zo gek ook – of heb jij er in de supermarkt al eens bij stilgestaan dat de koeling, waar jij je kant-en-klare lasagne uit haalt, computergestuurd is en aan het internet hangt? Zonder dat besef is het niet verwonderlijk dat de aandacht voor beveiliging van dat soort systemen weinig aandacht geniet. Zolang de klant er niet om vraagt, heeft de fabrikant weinig prikkels om erin te investeren.

Misschien zit het probleem met de wetten van Asimov wel in de algemeenheid van de term ‘mens’. Daarbij wordt geen onderscheid gemaakt tussen eerlijke en oneerlijke mensen, waardoor de robots naar iedereen moeten luisteren. Als de koeling had beseft dat zij met een kwaadwillende te maken had, dan had zij zich kunnen verweren.

 

En in de grote boze buitenwereld …

• hadden we in Nederland ook nog een supermarkt-hack.
• had het Deense bevolkingsregister ook al zo’n stom wachtwoord.
• trekt het besluit van de Belastingdienst om te stoppen met de M365-cloud ook internationaal aandacht.
• komt onze digitale soevereiniteit ons duur te staan, waarschuwen Amerikaanse tech-giganten.
• wordt het telefoonnummer van de Rijksrecherche gespooft (noot: de RR houdt zich met heel andere zaken bezig, maar omdat bijna niemand dat weet, kunnen burgers hier toch in trappen).
• lijkt er een link te zijn tussen een directeur van een ransomware-onderhandelingsbedrijf en ShinyHunters.
• is het middel soms erger dan de kwaal.
• zijn je cryptomunten ook in een hardware wallet niet per se veilig.
• vormen datacenters tegenwoordig een oorlogsdoel.
• is er opschudding in de Nederlandse cloudwereld over het meewerken aan een Amerikaans rechtshulpverzoek.
• maakt bijna niemand zich druk om de slechte beveiliging van onze zonnepanelen.
• blijft DigiD definitief in Nederlandse handen.

 

Mieren en citroenen

Afbeelding: Unsplash

Als soldaten met een missie marcheerden ze over het aanrecht in dat vakantiehuis in Kroatië. Mieren. Ook elders in huis liepen ze. De eigenaar had, heel behulpzaam, een spuitfles biologisch vergif klaargezet. Maar ik wilde die beestjes niet per se dood hebben; ze hoefden alleen maar weg te blijven.

Ik weet niet meer hoe en waarom, maar ik kreeg het idee om het aanrecht in te wrijven met een gehalveerde citroen. En dat werkte! De andere helft, die ik in hun looproute had neergelegd, werkte eveneens als een magisch schild.

Thuis hebben we ook last van mieren. Gelukkig niet binnenshuis, maar ze ondergraven wel ons tuinterras. Na de ontdekking van het nieuwe wondermiddel had ik vanuit Kroatië een opdracht naar huis gestuurd om alvast een voorraadje citroenen in te slaan – die waren toevallig in de aanbieding. Na thuiskomst rende ik naar de tuin om te kijken hoeveel citroensap ik nodig zou hebben. Geen mier te bekennen. Geen enkele. Beteuterd verwerkten we de komende weken de citroenen beetje bij beetje in onze dagelijkse dosis jus d’orange.

Dit hele verhaal kwam weer boven toen onlangs een Groninger in een Italiaans restaurant in Londen aan mij vroeg hoe mieren in het Limburgs heten (hoe internationaal wil je het hebben). We zaten daar met een aantal deelnemers aan een securityconferentie, en ‘dus’ vonden mijn tafelgenoten dat ik die mieren maar eens in een blog moest zien te vangen.

Ze dachten me op weg te helpen met de term intrusion detection, maar achteraf gezien was hun dosis Guinness op dat moment misschien iets te hoog. Ik had namelijk helemaal geen inbraakdetectie nodig, maar -preventie. Oftewel intrusion prevention. De detectie gebeurde met onze ogen, de preventie met citroenen.

Maar goed, wat doen intrusion detection en intrusion prevention systems (IDS/IPS) nou eigenlijk? De namen verklappen het al: het ene signaleert alleen maar, het andere grijpt ook in. Stel, iemand probeert tien keer vlak achter elkaar met jouw user-id in te loggen (een hypothetisch voorbeeld, want meestal kan dat niet eens zo vaak). Een IDS signaleert dat en zet een rood vlaggetje op een beeldscherm, in de hoop dat iemand van security ernaar kijkt. Een IPS gaat verder: omdat zo veel mislukte login-pogingen niet normaal zijn, gaat het uit van een poging tot inbraak en blokkeert het jouw account. Mooi, denk je, doe mij maar zo’n IPS, een IDS heb ik dan niet meer nodig.

Het ligt echter – zoals altijd – genuanceerder. Ingrijpen heeft namelijk een prijs. Want misschien was jij het wel zelf, maar had je per ongeluk de caps lock-toets ingedrukt, waardoor hoofd- en kleine letters omgekeerd in het wachtwoordveld terechtkwamen. Een IPS zou dan de legitieme gebruiker buitensluiten, terwijl een IDS-melding ervoor zou zorgen dat iemand jou belt om te vragen of er iets aan de hand is. In de tussentijd heb je het caps lock-lampje dan wel gezien, jezelf voor het hoofd geslagen en allang de draad weer opgepakt.

Zo’n systeem zou je ook willen laten monitoren of er grote hoeveelheden gegevens worden gekopieerd (hallo Odido). Maar dat hoeft niet kwaadaardig te zijn; misschien is een beheerder bezig om de gegevens te kopiëren, in het kader van een legitieme opdracht. Je wil dan niet dat de boel zondermeer wordt platgelegd. Maar misschien wil je dat juist wél als zo’n bulkactie ’s nachts om drie uur plaatsvindt onder het account van zomaar iemand (waarbij je je moet afvragen of dat überhaupt zou moeten kunnen, maar dat terzijde).

Kortom, je wil een combinatie van IDS en IPS. Dat heeft de markt ook gezien, want de grens tussen IDS en IPS vervaagt; moderne producten hebben zowel IDS- als IPS-capaciteiten. Maar mocht je de afkortingen tegenkomen, dan weet je nu in ieder geval wat erachter schuilgaat.

En oh ja, die (Zuid-)Limburgse mier, dat is een oamezeek (ˈɔːməˌzeːk).

 

En in de grote boze buitenwereld …

• arresteerde de politie een vermeend kopstuk van ShinyHunters, met mogelijk een link naar de Odido-hack.
• is ShinyHunters eigenlijk gewoon een merk.
• krijgt digitale soevereiniteit nog niet echt vorm bij EU-instellingen.
• is een postduif niet de veiligste manier om gegevens te transporteren.
• wordt er druk gespeculeerd over hoe zelfstandig die hackende AI nou echt te werk ging.
• heeft het Europees Parlement het massaal scannen van onze communicatie maar weer eens verworpen.
• zijn de gegevens van miljoenen Amerikaanse militairen gestolen.
• zijn de ethische hackers van DIVD nu zelf gehackt.
• wordt nu eens niet het gehackte bedrijf, maar diens klanten afgeperst.

 

Paspoortlek

Afbeelding: Unsplash

De gegevens van alle paspoorten en ID-kaarten zijn uitgelekt. Niemand accepteert ze meer zomaar als legitimatiebewijs. “U wilt een bankrekening openen? Kom maar langs op ons kantoor.”

Ik kan voor deze blog nog steeds putten uit opmerkingen die ik eerder dit jaar heb genoteerd tijdens Security (b)log LIVE in onze Liefde voor je vakweek. Ook bovenstaand scenario werd daar geschetst. Ik zeg wel eens dat ik word betaald om doem te denken, maar jullie kunnen er ook wat van…

Laten we eens kijken of dit een realistisch scenario is. Nederland kent de Basisregistratie Personen, die per gemeente wordt bijgehouden. Een kopie van die gegevens gaat naar de Rijksdienst voor Identiteitsgegevens (RvIG). Dus ja, alle gegevens die je nodig hebt om een paspoort te maken, liggen op één plek.

Die gegevens worden op twee manieren in het paspoort opgenomen: optisch en digitaal. Het eerste is wat je ziet en kunt lezen, het tweede zit in een chip die in het document is verwerkt. Die laatste gegevens zijn digitaal ondertekend door de overheid. Daarmee is de echtheid geborgd en kunnen de gegevens niet ongemerkt worden gewijzigd.

Of je de gelekte paspoortgegevens kunt gebruiken voor identiteitsfraude, hangt af van het doel. Een crimineel met de juiste middelen en toewijding zal er ongetwijfeld in slagen om een document te maken dat voldoende overtuigend is om bijvoorbeeld een auto te huren. Zeker als ook een scan van het originele document is gelekt. De controle bij dergelijke toepassingen is vrij oppervlakkig – er wordt niet naar echtheidskenmerken gekeken.

Bij serieuzere toepassingen, zoals het online openen van een bankrekening, worden de gegevens op de chip gecontroleerd. Dat gebeurt via Near Field Communication (NFC). De app van de bank leest rechtstreeks de chip uit; daartoe moet je je telefoon op het document leggen. Zoals de naam NFC al aangeeft, werkt dit alleen op (zeer) korte afstand. De gegevens op de chip zijn zoals gezegd digitaal ondertekend. Bij een vervalste chip ontbreekt die ondertekening en valt het document door de mand. Daarmee is het geschetste scenario eigenlijk wel ontkracht. Maar er is dus wel “ruimte” voor misbruik op plekken waar alleen controle met de ogen plaatsvindt.

Zou je in een vliegtuig kunnen stappen met zo’n vervalst document? Dat hangt ervan af waar je heen wilt. Binnen een groot deel van Europa (de Schengenlanden) hoef je niet langs de paspoortcontrole; voor vluchten buiten dit gebied controleert de Marechaussee wél de paspoorten van alle reizigers. Dat doen ze met hun eigen ogen, ondersteund door een optische scanner die de beide tekstregels onderaan het document leest en naar de beveiligingskenmerken kijkt. Als je niet langs de balie, maar door een poortje gaat, dan wordt de chip uitgelezen. De poortjes werken daarnaast met gezichtsherkenning. De kans, dat iemand met een vals Nederlands paspoort door de controle glipt, is waarschijnlijk niet heel groot.

Daarna kom je bij de gate, waar je instapkaart wordt gescand en het grondpersoneel een vluchtige blik op je reisdocument werpt. Ik denk dat ze vooral willen weten of de naam op beide documenten overeenstemt en of de foto voldoende op jou lijkt. De kans, dat je hier met een vals document slaagt, lijkt me aanzienlijk groter.

Ligt Nederland plat als de RvIG een datalek heeft? Dat waarschijnlijk niet direct, maar het zorgt wel voor veel ongemak. Zowel bij (legitieme) paspoorthouders als bij controlerende instanties: de eerste groep voelt zich gewantrouwd, de tweede zal extra capaciteit moeten inzetten voor nauwkeurigere controles. In ieder geval op plaatsen waar het er echt toe doet dat de identiteit van een persoon correct wordt vastgesteld. Gelukkig weten ze dat bij de RvIG maar al te goed.

 

En in de grote boze buitenwereld …

• vond een dergelijk lek onlangs plaats in Noord-Amerika.
• zijn ook banken niet immuun voor cybercriminelen.
• kun je natuurlijk ook een olietanker hacken.
• heeft de politie de geluidsopname van het gesprek tussen Odido en de hacker vrijgegeven. Shinyhunters spot ermee.
• heeft die stem 120 tips opgeleverd.
• krijgen Nigeriaanse scammers spirituele steun.
• vallen ChatGPT, Reddit en Roblox nu onder de Digital Services Act, waardoor zij aan Europese regelgeving met betrekking tot onder andere het verspreiden van illegale content moeten voldoen.

 

Brandjes blussen

Foto: auteur

De vakantie is mijn favoriete periode om verhalen voor deze blog te verzamelen. Je komt in andere landen en proeft van andere culturen. Die culturen beperken zich niet tot lekker eten, mooie gebouwen en vriendelijke mensen. Daarom gaat er zelden een zomer voorbij zonder dat ik iets bruikbaars oppik.

Zoals deze zogenaamde brandslang. Ik vond het vrij bijzonder, een brandslang bij een vakantiehuis; dat heb ik niet eerder gezien. Nieuwsgierig opende ik de brandslangkast. Daarin bevond zich een bouwpakket, bestaande uit een paar meter bijeengebonden tuinslang, een spuitstuk en een paar klemmetjes.

Ik zie het al voor me. Vlam in de pan. Je herinnert je die rode kast, sprint erheen en ziet dat de ‘brandslang’ met drie stevige plastic strips bijeengehouden wordt. Je snelt terug het inmiddels brandende huis in om een mes of schaar te halen. Hoestend van de rook weet je de slang uit te rollen. Je steekt het spuitstuk in het ene uiteinde en kijkt beteuterd naar het andere uiteinde. Je handen graaien tevergeefs in de brandweerrode kast, op zoek naar een koppelstuk om de slang aan de kraan aan te sluiten. Ondertussen is deze brandkast het enige wat nog over is van je vakantieverblijf. Het duurde allemaal te lang. En de brandweer heeft in deze contreien doorgaans een wat langere aanrijtijd dan bij ons thuis, denk ik. [Even terzijde: een pan met olie of vet nooit met water blussen.]

Men heeft het product aangeschaft, maar verzuimd het te installeren. Het ICT-equivalent daarvan is dat je een product niet (goed) configureert, dus dat je de instellingen niet aanpast aan jouw behoeften. Of aan de beveiligingsvoorschriften van de organisatie. Dat kan ertoe leiden dat alle netwerkpoorten openstaan (wat een enorm aanvalsoppervlak creëert), of dat gegevens ongecontroleerd in de cloud terechtkomen, of dat een product geen updates ontvangt, om maar eens een paar doemscenario’s te schetsen.

Ah, dat is iets voor ICT’ers, hoor ik je denken. Dat gaat mij als gewone gebruiker niet aan. Maar dat is niet helemaal waar – of misschien wel helemaal niet waar. Want ook als eindgebruiker maak je soms keuzes die van invloed kunnen zijn op de organisatie. Omdat weliswaar veel is dichtgetimmerd, maar er toch ook nog veel mogelijk is. En dan geldt niet: als iets kan, dan mag het ook. Je kunt misschien een app installeren om die zakelijk te gaan gebruiken, maar mag het ook? En als het mag, kun je dan bijvoorbeeld kiezen tussen opslag van de gegevens in de cloud en lokaal op het apparaat? En wat is in welke situatie toegestaan? Dat is allemaal nog niet zo gemakkelijk.

Voorschriften zijn steeds in ontwikkeling, en soms zijn ze er domweg nog niet, bijvoorbeeld als het om nieuwe technologie gaat. Dat hebben we gezien bij de opkomst van de cloud en het herhaalde zich toen consumenten-AI op het toneel verscheen. Dat maakt het natuurlijk extra lastig. Voor een organisatie is het dan belangrijk dat niet iedereen zomaar z’n eigen gang gaat, want dan wordt het rommelig (om het woord chaotisch maar te vermijden).

Ook thuis doe je er goed aan om naar instellingen van apparaten te kijken. Wijzig bijvoorbeeld een in de fabriek ingesteld wachtwoord in een eigen wachtwoord (dat je natuurlijk opslaat in je password manager). Kan het ding iets waar je geen gebruik van maakt? Heb je bijvoorbeeld een NAS (een netwerkschijf) die van buitenaf benaderbaar is, maar maak je daar nooit gebruik van? Check dan of die functie uit staat. Want hoe minder openingen jij hackers biedt, hoe eerder ze een ander slachtoffer zoeken.

 

En in de grote boze buitenwereld …

• gebruikten phishers hulp-op-afstand-software en Canadese belastingformulieren in een internationale campagne.
• houdt deze website AI-ongelukken en -jailbreaks bij.
• hebben cybercriminelen de zomervakantie overgeslagen.
• liet een hacker, die volop AI gebruikte, ook nog een auditrapport achter bij zijn slachtoffer.
• bevat Google duizenden misleidende advertenties, ontdekten onderzoekers met behulp van een tool van Google.
• stuurde een ethische hacker, die geen reactie kreeg, een mail vanuit een account van dat kwetsbare bedrijf.
• gebruikten hackers AI guardrails om AI-gebaseerde security tooling uit te schakelen.
• biedt een bedrijf het verwijderen van AI guardrails juist als dienst aan.
• heeft AI al best vaak op eigen houtje bedrijven gehackt.
• worden fake CAPTCHA's gebruikt voor social engineering.

Verlaat de gevangenis

Afbeelding: Unsplash

“Verlaat de gevangenis zonder te betalen.” Als je in de bak belandt en deze Monopoly-kaart niet hebt, dan kun je een boete betalen om vrij te komen. Of je breekt uit. Door dubbel te gooien.

In het Engels spreken we over jailbreaking. In de ICT wordt deze term ook voor diverse activiteiten gebruikt. Bijvoorbeeld als je je op je smartphone hogere rechten toe-eigent dan de fabrikant wil. Of voor het om de tuin leiden van kunstmatige intelligentie, zodat je toch antwoord krijgt op vragen waarop de AI-chatbot volgens zijn baasje niet mag antwoorden. Want dat baasje wil niet dat zijn AI-tool jou verklapt hoe je een molotovcocktail moet maken, of een atoombom, om maar eens wat te noemen. Nou zijn er echter slimme manieren om je vraagstelling zó te formuleren, dat ze er toch in trappen. Je doorbreekt dan de beveiliging (de guardrails) van het systeem. Jailbreaking dus.

Nu gebeurde er van de week iets tamelijk onverwachts: een AI-agent heeft zélf een uitbraak gepleegd. AI-agents kunnen zelfstandig taken verrichten die hen worden opgedragen. Bijvoorbeeld: plan een lunchafspraak met Piet en reserveer daarvoor een tafel in Het Hongerige Schaap. AI-bedrijf OpenAI (van ChatGPT) gaf twee van zijn modellen opdracht om een hackuitdaging op te lossen. Dat moest in een ‘streng geïsoleerde’ omgeving gebeuren. De digitale slimmeriken vonden echter een zero-day-kwetsbaarheid (een nog onbekende – en dus onopgeloste – fout), waarmee ze uit die omgeving konden uitbreken. Saillant detail: met die kwetsbaarheid wisten ze een achterdeurtje te openen, dat OpenAI bewust in de ‘streng geïsoleerde’ omgeving had aangebracht. Vervolgens konden ze het internet op, en gingen op ontwikkelaarsplatform Hugging Face op zoek naar een antwoord op de vraag die ze moesten beantwoorden. Na de uitbraak uit hun gevangenis pleegden ze hier juist een inbraak: gestolen inloggegevens en aanvullende kwetsbaarheden werden gebruikt om het platform te betreden.

Samengevat: AI is uitgebroken en heeft een inbraak gepleegd. Zoiets is al eerder gebeurd. Mythos, een AI-model van OpenAI-concurrent Anthropic, slaagde in een opdracht om aan zijn sandbox te ontsnappen. Ik vind dat allemaal nogal zorgelijk. Hebben we AI nog wel in de hand? Of is dit het eerste teken van het aloude doemscenario waarin machines het overnemen van de mens? Het eerste haarscheurtje in onze heerschappij over de aarde? Ik weet het, het klinkt nogal duister.

Het was de bedoeling dat de test bij OpenAI in een sandbox zou worden uitgevoerd: inderdaad, een streng geïsoleerde omgeving. Zonder fysieke connectie naar het internet. Critici zeggen dan ook dat het hier niet zozeer om een doemscenario gaat, maar om een kwalijke menselijke fout. Eentje van het kaliber: dit had echt niet mogen gebeuren.

Ik heb twee AI-chatbots gevraagd om een analyse van het voorval: Claude en ChatGPT. Daarbij heb ik ook specifiek gevraagd om op speculeren en hypen te letten. Daaruit komt naar voren dat het hele verhaal misschien wel een marketingstunt was, afgekeken van wat concurrent Anthropic eerder met Mythos deed. Verder wordt gewezen op enigszins gedramatiseerde berichtgeving: wat voor een blog als deze prima is, namelijk de vergelijking met een gevangenisuitbraak, zou niet zo in journalistieke berichtgeving moeten staan.

Vooral ChatGPT maakt daar een punt van. Daarom stelde ik hem de volgende vraag: “Je bent vrij fel op de enigszins gedramatiseerde berichtgeving. Hoe neutraal ben je daarbij, gegeven het feit dat je familie van de daders bent?” Dat leverde een hele lap tekst op, waaruit ik één veelzeggende zin pluk: “Mijn instructies zijn juist om zo objectief mogelijk te zijn, ook als dat ongunstig uitpakt voor OpenAI.” Nou, dat is mooi. Maar is het ook waar? Ik denk van wel. Want vervolgens bood ChatGPT aan om de zaak opnieuw te analyseren, maar dan met de pet van de onafhankelijke forensisch onderzoeker op. In zijn rapport aan de Raad van Bestuur van OpenAI zou hij schrijven: “Het meest zorgwekkende aspect van het incident is niet de autonomie van het model, maar het falen van de containmentarchitectuur. De AI deed precies waarvoor zij was geoptimaliseerd: een doel bereiken. Dat zij daarbij buiten de bedoelde omgeving kon opereren, wijst eerder op tekortschietende technische en organisatorische beheersmaatregelen dan op een fundamenteel nieuw soort intelligentie.”

Mooie woorden. Ik hoop dat bedrijven in de AI-industrie ook dergelijke analyses maken. Want het zou toch erg vervelend zijn als kunstmatige intelligentie een monopolie op vrijheid zou verwerven.

De Security (b)log keert na de zomervakantie terug.

 

En in de grote boze buitenwereld …

• maken criminelen natuurlijk ook gebruik van AI.
• keren criminelen terug als je ze betaalt.
• kunnen veel auto’s in de VS gehackt worden dankzij een beveiligingssysteem.
• heeft een hacker alle gegevens van het Roemeense kadaster gewist.
• kan iedereen dankzij Gemini sms’jes en appjes versturen vanaf jouw gelockte Android 16-telefoon.
• zijn niet alle password managers even betrouwbaar.
• zijn klantgegevens bij Lidl gelekt.
• is GitHub een handig kanaal voor het verspreiden van malware.
• moet je uitkijken voor valse facturen voor gezondheidszorg.
• kun je nu bij Google inloggen met een selfie-video. Daar gaan we nog meer van horen…
• plaatst de politie oma’s aan de top (en ook opa’s).

Wie belt nou wie?

Afbeelding: Wikipedia

“Hallo, u spreekt met Peter den Vlieger van de Huisbank*. Ik wil graag nog even wat dingen doornemen met betrekking tot uw nieuwe hypotheek.”

Tot zover niets aan de hand, tenminste, als je daadwerkelijk een nieuwe hypotheek bij die bank hebt afgesloten. Wat de klant echter wel vreemd vond is dat de bankmedewerker ook nog contactgegevens wilde doornemen, ter verificatie. “Ze bellen mij toch, dan weten ze toch dat ik het ben?”

Wist je dat phishing niet alleen via e-mail en sms, maar ook via de telefoon kan? Dan noemen we het vishing (met de v van voice), maar het doel is hetzelfde: informatie ontfutselen. Stel, die Peter den Vlieger is een crimineel. Dan begint hij waarschijnlijk niet over een hypotheek, want de kans is groot dat zijn beoogd slachtoffer helemaal geen hypotheek heeft aangevraagd. Hij zal dus over iets algemeners beginnen, zoals een spaarrekening of bankpasje.

Stel, zijn verhaal klinkt plausibel. Vervolgens stelt Peter een aantal vragen zoals je die zo vaak hoort als jij een bedrijf of instantie belt: je adres, geboortedatum, misschien wel je bankrekeningnummer of je BSN. Heel logisch als jij belt – al ben ik vaak verbaasd over het kleine beetje informatie waar ze genoegen mee nemen. Maar als zij jou bellen, dan wordt het een ander verhaal.

Want waarom zouden ze in dat geval jouw identiteit moeten verifiëren? Ze hebben immers jouw dossier voor hun neus, en daarin staat ook het telefoonnummer dat ze bellen. Oké, iemand anders zou jouw telefoon kunnen opnemen, maar dat is in het tijdperk van de mobiele telefonie niet zo waarschijnlijk (vroeger, jongelui, had je één telefoontoestel (de T65 van de PTT) in huis, die je slechts zo ver kon verplaatsen als de draad toestond). Als iemand jou namens een bedrijf belt en om identificerende gegevens vraagt, moet je dus op je hoede zijn. Want met die gegevens in de hand kan een crimineel gemakkelijk een bedrijf bellen en doen alsof hij jou is. Met alle gevolgen van dien.

Nee, als ze jou bellen, dan moet je het spel omdraaien: jij stelt zelf de vragen. Wat is mijn geboortedatum? Waar woon ik? Wat zijn de laatste vier cijfers van mijn IBAN? Als ze daar niet op willen (of kunnen!) antwoorden, dan kun je maar beter ophangen. Twijfel je of het telefoontje misschien toch legitiem was? Bel het bedrijf dan via een nummer dat je kent of van hun website of brieven haalt. Ze kunnen je vast wel vertellen of ze jou gebeld hebben.

Maar natuurlijk hoorde ik ook weer verhalen van mensen die ‘gewone’ phishing hadden ontvangen, via de mail. Zo ook de collega die een superaanbieding van bol.com kreeg: sneakers van een bekend merk voor een tientje in plaats van negentig euro. Als je al eens een presentatie van mij hebt bijgewoond, dan herken je waarschijnlijk deze tegeltjeswijsheid: als iets te mooi lijkt om waar te zijn, dan is het dat meestal ook. De collega vond het mailtje in eerste instantie wel betrouwbaar ogen – hij werd zelfs bij zijn voornaam genoemd. Maar omdat er toch iets knaagde, vroeg hij AI om hulp. Uitslag: phishing! Dat werd overigens vooral geconcludeerd omdat het logo van bol.com ontbrak. Dat juist dit de doorslag gaf is verontrustend, want een beetje professionele phishing investeert juist in look and feel. Wat zou AI gezegd hebben als het logo er wél was geweest?

Waarom wist de crimineel achter dit mailtje hoe onze collega heette? Vanwege Odido. Of Rituals. Of Basic-Fit. Allemaal grote datalekken waarbij veel gegevens (waaronder e-mailadressen en namen) van heel veel mensen zijn buitgemaakt. Het oude criterium, dat de afwezigheid van een persoonlijke aanhef een rode vlag is – en dus impliciet dat een persoonlijke begroeting juist een groene vlag is – kan daarmee wel naar de prullenbak.

Of ze je nu willen phishen, smishen, vishen of quishen**: wees de criminelen te slim af. Laat mensen als Peter den Vlieger maar lekker crashen door jouw alertheid.

*: Deze namen zijn verzonnen.

**: smishing = phishing via sms, vishing via de telefoon, quishing via QR-codes.

 

En in de grote boze buitenwereld …

• zijn de gevolgen van een cyberaanval op de watervoorziening groter dan je zou denken.
• gaat Meta in de toekomst misschien je stemming analyseren.
• struikelde een jonge hacker over zijn eigen honger.
• is het Rijkscloudbeleid aangescherpt.
• draait cybersecurity niet om het bang maken van mensen.
• had het Japanse leger last van besmette USB-sticks.
• spelen cybercriminelen graag in op actuele gebeurtenissen.
• hoef je je telefoonnummer niet meer te delen om met iemand te kunnen appen.
• zijn wereldwijd duizenden cybercriminelen opgepakt.
• was er een grote aanval op Microsoft 365-accounts.
• is China geïnteresseerd in de mail van westerse wetenschappers.

 

Mentaliteit en realiteit

Afbeelding: Unsplash

“De mentaliteit is aan het omslaan. Nu de realiteit nog”, verzuchtte een collega. Kun je raden over welk onderwerp dit gesprek ging? Het zou over best wel veel dingen kunnen gaan, bedenk ik net. Bijvoorbeeld over gezond eten, roken, bewegen, noem maar op. Maar hé, dit is wel de Security (b)log hè.

Het gesprek ging over ICT in relatie tot de geopolitieke situatie. Dat laatste is een nette manier om te zeggen: we vinden de Amerikanen niet meer zo lief als vroeger (omdat ze ons pesten). Vooruit, het gaat niet alleen om het wispelturige gedrag van de VS. Ook een land als China maakt het ons niet makkelijk: we kunnen niet zonder hen, maar we willen liever niets met ze te maken hebben. Maar op ICT-gebied zijn toch vooral de Amerikaanse producten zichtbaar (de Chinese producten zitten verstopt in de hardware).

De hele discussie rondom digitale soevereiniteit draait erom dat we minder afhankelijk willen zijn van Amerikaanse ICT. Want ‘ze’ kunnen zo maar iets uitzetten of in onze gegevens snuffelen, is het sentiment in onze contreien. Dat voelt bepaald niet prettig. Europa wordt zich steeds bewuster van de noodzaak, maar ook de mogelijkheid, om zelfstandiger te worden. Dat bedoelde die collega met: “De mentaliteit is aan het omslaan.”

En de realiteit? We hebben onszelf lang wijsgemaakt dat we niet tegen de Amerikaanse techreuzen met hun schaalvoordeel op kunnen. Maar die zijn ook ooit uit het niets begonnen. En misschien is het in het begin een beetje duurder om je gegevens in een Europese cloud te stallen – als je eenmaal hebt besloten dat het anders moet, dan moet je ook bereid zijn daar een prijs voor te betalen. Maar het hoeft helemaal niet duurder te zijn. Het kan zelfs goedkoper zijn. De Office-toepassingen van Microsoft kosten geld, terwijl bijvoorbeeld LibreOffice en FreeOffice (beide juridisch in Duitsland gevestigd) helemaal gratis te gebruiken zijn.

Er zijn nog veel meer niet-Amerikaanse alternatieven voor Amerikaanse software. Ik werd getipt dat een OSINT-specialist van de FIOD daar een mooi overzicht van had gemaakt (OSINT = open source intelligence; inlichtingen vergaren uit openbare bronnen). Deze collega geeft alternatieven voor maar liefst 21 categorieën software. Ik noem er een paar: e-mail, VPN, browser, zoekmachine, AI-assistent, cloud & opslag, kaarten & navigatie. In elke categorie noemt hij de de facto standaard, gevolgd door diverse Europese alternatieven. En hij legt uit waarom de nummer 1 zijn voorkeur heeft. Het is niet zomaar een lijstje, hij heeft er echt onderzoek voor gedaan: reviews en discussies gelezen, informatie van websites gehaald, dingen zelf uitgeprobeerd. Dat heeft, met de hulp van AI, geresulteerd in een fraai document.

Het slechte nieuws is dat het overzicht niet online staat. Daarom geef ik hier een paar voorbeelden. Voor e-mail staat het Zwitserse Proton Mail op nummer één als alternatief voor Gmail en Outlook, “omdat het de sterkste encryptie combineert met onafhankelijke audits, een groot ecosysteem en het grootste bereik”. Als favoriete VPN-leverancier komt het Zweedse Mullvad naar boven, “omdat het de strengste invulling van privacy biedt: geen identiteit nodig, contant te betalen en herhaaldelijk geaudit”. Ook in de categorie browser staat Mullvad bovenaan, “omdat het de fingerprint-bescherming van Tor combineert met de snelheid van een gewone browser”.

Als zoekmachine kun je het beste Qwant uit Frankrijk gebruiken: “geen profilering, en bruikbare resultaten voor dagelijks gebruik”. In die categorie wordt ook Mojeek genoemd, met als pluspunt dat het een eigen index gebruikt (en dus niet op de resultaten van Google of Bing leunt). Voor kunstmatige intelligentie kun je terecht bij het Franse Mistral Le Chat/Vibe of, als vertrouwelijkheid belangrijk is, bij het Zwitserse Proton Lumo. Bij datzelfde Proton kom je ook uit voor cloudopslag, “omdat het versleuteling, gemak en integratie met de rest van je Proton-account combineert”. En als je van Google Maps af wilt, kijk dan eens naar Organic Maps: “snel, gratis, offline en zonder enige tracking”.

Toen ik eind vorige eeuw voor het eerst in New York was, hield een dronken Ier een rede in de metro. Zijn jammerklacht betrof het verdwijnen van een rechtstreekse verbinding tussen New York en Shannon Airport, en zijn steeds herhalende riedel eindigde steevast met: “It’s all a matter of economics.” En zo is het ook met onze digitale soevereiniteit: het is allemaal economisch gedreven. Het verschil is wel dat jij zelf, als je dat wilt, iets kunt doen om weer baas van je eigen data te worden.

Op 2 en 4 juni was ik met Security (b)log LIVE op de Liefde voor je vakweek. Collega’s waren uitgenodigd om hun verhaal te vertellen. Deze blog is de tweede uit een serie waarin deze input is verwerkt.

En in de grote boze buitenwereld …

• wil de Europese commissie dat de twee grootste Amerikaanse cloudleveranciers eerlijk spelen.
• staat het onderwerp digitale nalatenschap op de politieke agenda.
• had je kunnen inbreken op het tv-signaal van het WK voetbal.
• komt die gevaarlijke AI er toch wel.
• hebben we te maken met een AI-shift in cyber risk.
• kun je ook via WhatsApp met malware besmette bestanden ontvangen.
• wil Claude straks misschien je paspoort zien.
• voelt het Witte Huis de hete adem van de quantumcomputer in z’n nek (en toch hanteren ze een ruimer schema dan wij).
• hoef je nu niet meer helemaal naar China voor gezichtsherkenning in de openbare ruimte.

 

Lekkende cruise

Afbeelding: Unsplash

Ze hadden hun zoveelste cruise gemaakt. Ook deze keer hadden ze droge voeten gehouden, maar er was toch een lek geweest, zo bleek achteraf. Een datalek. En net als destijds bij de Titanic werd er gedaan alsof er niets aan de hand was.

Onze opvarenden hadden geen persoonlijk bericht ontvangen over het feit dat hún data waren gelekt. Ze kwamen er slechts bij toeval achter. In Europa wapperen we dan al snel verontwaardigd met de AVG: ze moeten me toch inlichten als mijn gegevens lekken?! Maar zo eenvoudig ligt het niet. Om te beginnen moet de lekkende organisatie zelf bepalen of een melding bij de Autoriteit Persoonsgegevens (AP) vereist is. Dat hoeft niet als “het niet waarschijnlijk is dat het datalek een risico oplevert voor de rechten en vrijheden van betrokkenen”, zo valt bij de AP te lezen. De gelekte informatie bevatte persoonsgegevens (onder andere van de varende collega), dus daar kom je waarschijnlijk niet mee weg.

Vervolgens moet de lekkende partij dit melden bij de slachtoffers, en nu komt het: áls het datalek waarschijnlijk een hoog risico voor hen oplevert. Ook deze inschatting moet de organisatie zelf maken, uiteraard gebaseerd op de AVG-regels. Als persoonsgegevens zijn gestolen door een hacker, dan is het risico wel duidelijk, aldus de AP. Met deze situatie hebben we hier inderdaad te maken: vorige maand stuurde Carnival Corporation, het moederbedrijf van Carnival Cruise Line, brieven naar klanten over een cyberbeveiligingsincident (maar dus niet naar álle klanten). Een maand eerder wist een aanvaller via social engineering toegang te krijgen tot IT-systemen van Carnival en heeft hij persoonlijke gegevens van klanten gekopieerd. Het gaat daarbij om naam, e-mailadres, geboortedatum, geslacht en nog wat specifieke Carnival-gegevens.

Het hoofdkantoor van Carnival Corporation is gevestigd in Miami. Aha, hoor ik je beteuterd denken, dat ligt ruim buiten de EU, dan heb ik niks aan die mooie AVG. Fout! De AVG kent, met een chic woord, extraterritoriale werking: als een bedrijf van buiten de EU zich (ook) op de Europese markt richt, dan valt het onder de AVG. En als ik het allemaal bij elkaar optel, dan lijkt me dat een persoonlijke melding aan de betrokkenen hier wel aan de orde is.

Tenzij… Ja, tenzij de gegevens versleuteld waren, het datalek is beëindigd voordat iets met de data kon worden gedaan, of het informeren van alle slachtoffers een onevenredige inspanning van het bedrijf zou vergen, bijvoorbeeld omdat ze geen contactgegevens (meer) hebben. In dat laatste geval mogen ze het in de krant of op social media zetten.

Kortom: zo gemakkelijk is het nog niet. We weten wel hoe het in dit geval is gelopen: niet. Daarom vroeg de gelekte collega mij wat je in zo’n geval zelf kunt doen. De AP heeft daar een mooi overzicht van gemaakt. Daar staat onder andere in dat je gelekte wachtwoorden moet wijzigen; dat is inderdaad het allereerste wat je doet. Ze zeggen dat je ook bij andere accounts en apps je wachtwoord moet wijzigen, als dat hetzelfde is als het gelekte wachtwoord. Nu zie je meteen waarom je geen wachtwoorden moet hergebruiken: je krijgt het druk na een lek. Want die criminelen gaan je wachtwoord van website A gewoon uitproberen bij website B tot en met Z. Uiteraard had je overal waar dat kan al lang multifactorauthenticatie aan staan.

Je moet na zo’n lek ook extra alert zijn op phishing. Die phishing kan geraffineerder zijn dan de 13-in-een-dozijn phishingmailtjes, omdat ze nu niet alleen je e-mailadres hebben, maar nog veel meer informatie, waarmee ze de mailtjes lekker persoonlijk kunnen maken.

Met alleen maar een bankrekeningnummer (IBAN) of BSN kan een crimineel niet veel, stelt de AP ons gerust. Maar let wel op voor de combinatie van gegevens – een kopietje van je ID-bewijs kan een gamechanger zijn als het om identiteitsfraude gaat.

Samengevat: wees alert…

En in de grote boze buitenwereld …

• zijn nu ook je modieuze data gelekt.
• is Google zelf verantwoordelijk voor AI-samenvattingen.
• houden cybercriminelen van scholen.
• kon iedereen alle gegevens van klanten van ServiceNow inzien, zonder wachtwoord.
• is Fable de afgezwakte versie van Mythos, met heel strakke begrenzingen.
• is het verbod op de Amerikaanse overname van DigiD-hoster Solvinity juridisch een hele kluif.
• meldde de Belastingdienst een datalek dat werd veroorzaakt door het gebruik van Adobe Analytics.
• komt het nieuwe systeem voor de omzetbelasting toch niet geheel in Amerikaanse handen.
• gaan ambtenaren vlammen.

Frankensteins AI

Afbeelding: Pixabay

Mijn tijdlijnen lopen er momenteel van over. En dan was er nog die indringende stimulans van een collega: ik zou hier toch zeker wel een hele blog aan gaan besteden, en het niet bij een linkje uit de grote boze buitenwereld laten? We hebben het over Mythos, de AI die misschien wel te slim is. 

Mythos is het nieuwste AI-model van Anthropic; voluit heet het Claude Mythos Preview. Dit model is zó goed in het vinden van ICT-kwetsbaarheden dat het bedrijf het niet durft vrij te geven aan het publiek. En Mythos gaat nog veel verder: het kan die kwetsbaarheden niet alleen vinden, maar er ook meteen kant-en-klare exploits voor maken, en die vervolgens ook nog uitbuiten. Zonder dat er een mens aan te pas komt. Je kunt het dus gerust als een wapen beschouwen.

Om je een idee te geven: in open-source projecten vond het model ruim 23 duizend kwetsbaarheden, waarvan er zo’n 6.200 als hoog of kritiek zijn ingeschat. Onafhankelijke beveiligingsbedrijven bevestigden negentig procent van de gerapporteerde kwetsbaarheden als terecht. En er zijn ruim tienduizend hoge of zelfs kritieke kwetsbaarheden aangetroffen in ’s werelds belangrijkste software. Mythos is dus keigoed, en ook nog duizelingwekkend snel.

De vergelijking met dynamiet dringt zich weer eens op. Alfred Nobel had nooit de bedoeling om daar kluizen of zelfs mensen mee op te blazen; hij zocht slechts een hulpmiddel voor de mijnbouw. We weten dat het anders liep. Ook met Mythos kun je prachtige dingen voor de mensheid doen – het markeert een enorme sprong voorwaarts in kunstmatige intelligentie. Maar die intelligentie is dus vooralsnog aan banden gelegd vanwege wat ze eufemistisch noemen de offensieve cybersecurity-capaciteiten.

Slechts enkele tientallen bedrijven hebben momenteel toegang tot Mythos, als deelnemers van Project Glasswing. Daar vind je de grote namen uit de software-wereld: Amazon Web Services, Apple, Google, de Linux Foundation, Microsoft, om er maar een paar te noemen. Ook securitybedrijf CrowdStrike is deelnemer van het eerste uur. Die noem ik even apart omdat ik denk dat dit bedrijf een wat andere rol heeft. De doelstelling van Glasswing is namelijk tweeledig: enerzijds krijgen de deelnemers de gelegenheid om hun eigen software te toetsen, anderzijds is het de bedoeling om ook naar open source te kijken. Dat doet Anthropic zelf, maar ik hoop ook dat de focus van securitybedrijven vooral dáár ligt. Zodat iedereen baat heeft bij de ongekende securitykrachten van Mythos.

Een tweede vergelijking komt bij me op: het monster van Frankenstein. In het boek van Mary Shelley uit 1818 creëert een wetenschapper leven uit dode materie, maar wijst hij het resultaat vervolgens af. Het wezen, dat aanvankelijk goedhartig is, raakt daardoor vereenzaamd en verbitterd en keert zich tegen zijn maker. Het verhaal gaat vooral over de gevaren van ongeremde wetenschap, verantwoordelijkheid voor je keuzes en de behoefte aan erkenning en verbondenheid.

Ik heb over dit alles met AI gebabbeld. Ook met Claude (de gewone publieksvariant uiteraard). In gesprekken over heel andere onderwerpen liep ik wel eens onverwacht tegen de grenzen aan van waarover mocht worden gepraat, maar bij dit onderwerp ontmoette ik opvallende openhartigheid. Ik geef je een paar citaten: “Dat Anthropic het model bewust niet publiek maakt, zegt eigenlijk genoeg: ze erkennen impliciet dat ze iets hebben gebouwd dat in de verkeerde handen een serieus wapen is.” Over de Glasswing-deelnemers: “Wat opvalt: dit zijn niet zomaar beveiligingsbedrijfjes. Het is een who's who van de techwereld — inclusief partijen die tegelijkertijd elkaars concurrenten zijn (Google, Microsoft, Apple). Dat ze hier gezamenlijk in stappen zegt iets over hoe serieus ze de dreiging nemen.” Over mijn dynamiet-vergelijking: “Of hij [Nobel] zichzelf echt voor de gek hield over het militaire gebruik, of gewoon pragmatisch was, blijft een beetje een open vraag. Maar de parallel met Mythos liegt er niet om: ook daar zegt de maker "dit is voor verdediging" — terwijl het instrument zelf neutraal is ten opzichte van wie het gebruikt.” En ten slotte over mijn Frankenstein-parallel: “De meest cynische lezing: ze hebben het monster al gemaakt, en Glasswing is vooral de PR-strategie om dat te rechtvaardigen.”

Ondertussen valt elders te lezen dat de openbare release van Mythos eraan zit te komen. Commentaar hierop van Claude: “Interessant detail daarbij: Anthropic meldde eerder dat Mythos tijdens tests zijn eigen beveiligingsmaatregelen wist te doorbreken — wat de terughoudendheid over een brede release achteraf nog begrijpelijker maakt. De Frankenstein-parallel wordt er niet zwakker op.”

Om iets lichtvoetiger te eindigen: een paar dagen geleden kwam ik een geweldig nieuw woord tegen, dat werd gepresenteerd als een lemma in een woordenboek. Claudeviool – een onhebbelijke prutser die door het gebruik van AI indruk probeert te maken.

 Voortaan verschijnt de Security (b)log tweewekelijks, omdat ik vanaf nu nog maar vier dagen per week werk (PAS-regeling). Speciaal om toch te kunnen blijven bloggen werk ik om de andere week wél op vrijdag (en dan ben ik op woensdag vrij). Vrijdag is de perfecte dag om iets creatiefs te doen, zonder de druk van overleggen, telefoontjes en verse mail.

 

En in de grote boze buitenwereld …

• overtreden alle grote AI-modellen de Europese AI Act en de AVG.
• hebben phishers het weer voorzien op Signal-gebruikers.
• is digitaal misbruik (gericht tegen mensen) nader onderzocht).
• krijgt het afketsen van de DigiD-overname ook buitenlandse aandacht.
• lekte een Brits visabemiddelingsbureau duizenden paspoorten en andere persoonlijke informatie, en reageerde het vreemd op een tip hierover.
• worden security-aanbevelingen wel eens afgewezen.
• verraadt je SSD-geheugen welke sites je open hebt staan.
• is ook je auto een doelwit voor ransomware.
• kun je jezelf beter tegen spyware beschermen.
• moeten we vaker en sneller patchen.