Robots en supermarkten

Originele afbeelding: Wikipidia

Eerste Wet: een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. Tweede Wet: een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet. Derde Wet: een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Dit zijn de drie wetten van de robotica, in 1942 opgesteld door de Amerikaanse sciencefictionauteur Isaac Asimov. Die wetten moeten hard ingebakken zijn in iedere robot, om te voorkomen dat (steeds intelligenter wordende) robots zich tegen de mens keren, was het idee.

En toen kwam in 2004 de film I, robot uit, met Will Smith in de hoofdrol (en met tenenkrommende sluikreclame voor gympen en een automerk, maar dat terzijde). In deze film (spoiler alert) keert een bepaald type robots zich in 2035 tegen de mensen. Aan het einde van de film komt de aap uit de mouw: de supercomputer, die met al deze robots communiceert, heeft een iets andere invulling aan de robotwetten gegeven: de mens richt zichzelf en de aarde ten gronde door criminaliteit en milieuvervuiling, en daarom moeten de robots de mens tegen zichzelf beschermen door hem te onderwerpen. De crux zit ‘m natuurlijk in dit stukje van de Eerste Wet: “door niet te handelen toestaan dat een mens letsel oploopt”. Decennia later formuleerde Asimov trouwens ook nog de Nulde Wet, die boven de andere drie staat en de opstand nog duidelijker legitimeert: een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

We spoelen door naar 2026, naar de nacht van 11 op 12 oktober. De temperatuur in koelinstallaties in honderden Franse supermarkten liep op tot vijftig graden – boven nul, wel te verstaan. Dat duurde zo’n zes uur. Er ging nergens een alarm af. Ja, waarschijnlijk piepte uiteindelijk hier en daar wel een brandalarm, want sommige koelingen vlogen in de fik of smolten weg.

Dan vraag je je toch af: waarom kán een koeling überhaupt zo heet worden? Zijn hier misschien roboticawetten overtreden om de mens – en met name de Fransen – te beschermen tegen diepvriesmaaltijden? Nee, het ligt gelukkig simpeler. In een koelinstallatie treedt ijsvorming op bij de verdamper. Om die reden gaat zo’n installatie regelmatig voor een paar minuten in de ontdooistand. Dus niet om de hele koeling te ontdooien, maar alleen de verdamper. Kennelijk wisten hackers deze stand aan én vast te zetten.

Waarom kun je de koelinstallatie van een supermarkt via het internet bereiken? Om dezelfde reden waarom de installateur van jouw zonnepanelen waarschijnlijk ook op afstand kan meekijken: omdat het handig is. En om het dan helemaal gemakkelijk te maken was er een achterdeurtje ingebouwd: je kon inloggen met ‘admin’ en de actuele datum. Bovendien ging het deels om verouderde regelaars zonder recente beveiligingsupdates en deels om modernere regelaars met verouderde software.

Slimme systemen zijn per definitie kwetsbaar, zei Mikko Hyppönen al tien jaar geleden (“If it’s smart, it’s vulnerable”). En als slimme systemen dom worden behandeld, dan is dat vragen om problemen, voeg ik daaraan toe. Dat dat gebeurt, is overigens niet zo vreemd. In de IT (informatietechnologie) zijn we inmiddels wel doordrongen van de noodzaak om de boel te beveiligen, maar de wereld van de OT (operationele technologie) loopt daar nog behoorlijk op achter. Niet zo gek ook – of heb jij er in de supermarkt al eens bij stilgestaan dat de koeling, waar jij je kant-en-klare lasagne uit haalt, computergestuurd is en aan het internet hangt? Zonder dat besef is het niet verwonderlijk dat de aandacht voor beveiliging van dat soort systemen weinig aandacht geniet. Zolang de klant er niet om vraagt, heeft de fabrikant weinig prikkels om erin te investeren.

Misschien zit het probleem met de wetten van Asimov wel in de algemeenheid van de term ‘mens’. Daarbij wordt geen onderscheid gemaakt tussen eerlijke en oneerlijke mensen, waardoor de robots naar iedereen moeten luisteren. Als de koeling had beseft dat zij met een kwaadwillende te maken had, dan had zij zich kunnen verweren.

 

En in de grote boze buitenwereld …

• hadden we in Nederland ook nog een supermarkt-hack.
• had het Deense bevolkingsregister ook al zo’n stom wachtwoord.
• trekt het besluit van de Belastingdienst om te stoppen met de M365-cloud ook internationaal aandacht.
• komt onze digitale soevereiniteit ons duur te staan, waarschuwen Amerikaanse tech-giganten.
• wordt het telefoonnummer van de Rijksrecherche gespooft (noot: de RR houdt zich met heel andere zaken bezig, maar omdat bijna niemand dat weet, kunnen burgers hier toch in trappen).
• lijkt er een link te zijn tussen een directeur van een ransomware-onderhandelingsbedrijf en ShinyHunters.
• is het middel soms erger dan de kwaal.
• zijn je cryptomunten ook in een hardware wallet niet per se veilig.
• vormen datacenters tegenwoordig een oorlogsdoel.
• is er opschudding in de Nederlandse cloudwereld over het meewerken aan een Amerikaans rechtshulpverzoek.
• maakt bijna niemand zich druk om de slechte beveiliging van onze zonnepanelen.
• blijft DigiD definitief in Nederlandse handen.