Foutje, bedankt

Afbeelding via Unsplash

Ze waren naar de kerstmarkt in Duitsland geweest. Vlak voor hun school sloeg de bus rechtsaf. Wij fietsten er wenkbrauwfronsend achteraan. Waarom reed die grote touringcar in het donker deze smalle straat in, met een bocht waarin aan weerskanten auto’s geparkeerd stonden?

Al snel bleek dat dit inderdaad geen goed idee was. De linkerkant van de langzaam rijdende bus schampte een geparkeerde auto. De volgende auto werd zelfs een stukje meegesleept. De chauffeur leek niets te merken, want hij bleef doorrijden, centimeter voor centimeter. Hier moest een einde aan komen. Ik werkte me over de stoep naar de voorkant van de bus, erop lettend dat ik niet tussen twee geparkeerde auto’s terecht zou komen. Ik gebaarde en riep naar de chauffeur. Aarzelend deed hij zijn raampje open. “U hebt twee auto’s geraakt,” zei ik. “Ik sta helemaal vrij”, antwoordde hij verbaasd. “Nee, u hebt twee auto’s geraakt!” Intussen klonk het ook van achteren uit de bus: “Chauffeur, u hebt iets geraakt!” Uiteindelijk zette de chauffeur zijn bus toch maar op de handrem en kwam hij poolshoogte nemen.

Hij kon er niet meer omheen: er zat geen molecuul lucht tussen zijn bus en die tweede auto. Ik zei hem dat we het al vreemd vonden dat een bus die straat in reed. Weet je wat hij zei? “Ik had op Google Maps gekeken, daar stonden maar aan één kant auto’s geparkeerd.” Alsof die satellietbeelden live zijn!

Ondertussen was mijn vrouw gaan aanbellen bij iemand die ze daar kende en zo waren de eigenaren van de beschadigde auto’s snel opgespoord. Een piepjong stel kwam beteuterd de schade opnemen: beide auto’s waren van hen. Maar nu kon de schademelding in ieder geval geregeld worden. Ondertussen diende het volgende probleem zich aan: de bus stond behoorlijk klem. Dat kon alleen worden opgelost door enkele geparkeerde auto’s te verplaatsen. De leerlingen, die hun schoolreisje tweehonderd meter voor de eindbestemming zagen stranden, waren inmiddels naar huis gestuurd. Een van hen, met een grote teddybeer achterop de fiets, haalden we later nog in.

We nemen allemaal wel eens een verkeerde afslag. Waar gehakt wordt, vallen spaanders; fouten zijn menselijk. Waar het uiteindelijk om draait is hoe je daarmee omgaat. Ontken je de fout glashard (“Ik sta helemaal vrij”), probeer je het probleem in andermans schoenen te schuiven, of neem je je verantwoordelijkheid?

Als een bemanningslid van een vliegdekschip een stuk gereedschap verliest, dan kan dat grote consequenties hebben: het kan worden opgezogen door een straalmotor en die kan daar heel slecht tegen. Een verloren schroevendraaier kan daar levens kosten. Als iemand iets kwijt is, dan moet hij dat terstond melden en wordt de hele boel stilgelegd. Er wordt naarstig naar het verloren item gezocht. En het belangrijkste: degene, die het incident heeft veroorzaakt, wordt geprezen om zijn melding. Dus niet gestraft! Zo wordt het melden van fouten gestimuleerd. Straf zou alleen maar leiden tot een drastische afname van de bereidheid om een fout te melden.

We zitten met z’n allen op een soort vliegdekschip. Een fout van één enkele medewerker kan behoorlijk rampzalige gevolgen hebben. Denk aan een beheerder die een configuratiefout maakt, of aan een medewerker die tóch op het linkje in de phishing-mail heeft geklikt. Omdat ons vliegdekschip zo groot is, zijn er nog veel meer ‘mogelijkheden’ om fouten te maken. In risicoanalyses besteden we veel aandacht aan dit soort fouten, die niet worden veroorzaakt door een kwaadwillende, maar door een collega die volledig te goeder trouw is. We noemen dergelijke fouten ook wel ‘per-ongelukjes’.

Soms kan een technische fout ertoe leiden dat we een collega diep in de ogen krijgen. Er belandde een melding op mijn bureau over een medewerker die geprobeerd had om iets te doen wat alarmbellen deed afgaan. Ik vroeg hem om tekst en uitleg. Hij kwam met een best wel vreemd verhaal, maar ik kon het verhaal wel bevestigd krijgen. De fout was bekend, aan de oplossing werd gewerkt. Zo blijkt maar weer dat je altijd open moet staan voor onwaarschijnlijke uitkomsten. Zodat je niet zelf de fout in gaat.

Foutje gemaakt? Meld het. Zodat erger kan worden voorkomen en we ervan kunnen leren.

Prettige feestdagen! De volgende Security (b)log verschijnt volgend jaar.

 

En in de grote boze buitenwereld …

• leest de browser-extensie van Urban VPN Proxy al je AI-chats.
• kun je via de Phishkraam van de overheid een nepbericht naar iemand sturen.
• kan zelfs een kladblok gevaarlijk zijn.
• is DigiD nu wel officieel kwetsbaar voor Amerikaanse nieuwsgierigheid.
• geldt hetzelfde voor Zivver.
• kun je bestanden met gevoelige persoonsgegevens natuurlijk ook gewoon zelf naar AI-websites uploaden.
• gaan miljoenen mensen een hete kerst tegemoet.
• kampt Cisco met een kwetsbaarheid.
• gaat je robotstofzuiger misschien wel voor China spioneren.
• kunnen aanvallers zich toegang tot jouw WhatsApp account verschaffen (als je daar onbedoeld aan meewerkt).

 

Vlagvertoon

 

Foto van auteur

Ken je het programma Science of Stupid van National Geographic? Dat is een soort Lachen om home video’s, maar dan met wetenschappelijke uitleg waaróm iemand zo pijnlijk op z’n snufferd terechtkwam. Een educatief-amusant programma, zeg maar.

Ik moest aan dat programma denken toen ik gisteren het tafereel hierboven zag. Een plaatselijk hotel, waar ons team zich had teruggetrokken om de te volgen koers te bespreken, heeft een vlaggenmast bovenop een puntdak geplaatst. Gaaf, zo’n vlag op het hoogste punt van je gebouw, maar hebben ze er ook aan gedacht dat zo’n vlag wel eens gehesen en gestreken moet worden? Of hebben ze dat pas achteraf bedacht? En toen een ladder gekocht, die te kort bleek te zijn?

De bovenste ladder lijkt aan één haak te hangen, die door het dak steekt. Die haak zit iets boven het midden van de ladder, waardoor hij wel eens een mooi draaipunt zou kunnen worden als iemand bovenaan staat. Maar gelukkig zit de ladder boven nog vast met een touw. Of nee, toch niet: dat is het touw van de vlag. Omdat die ladder te kort is, hebben ze er nog eentje gekocht en die als het ware in de andere geschoven. Mooi: als de ene beweegt, dan beweegt de andere mee. De onderste ladder hangt ook aan zo’n haak, en – als dat het enige bevestigingspunt is, wat ik niet weet – dan kan ook deze ladder leuk gaan kantelen als zij aan de bovenkant wordt belast. Al met al zou ik niet graag verantwoordelijk zijn voor deze vlag. Overigens betwijfel ik of zij met militaire precisie iedere dag bij zonsopkomst wordt gehesen en bij zonsondergang weer wordt gestreken.

Gebeuren in ons vak ook dingen die Science of Stupid-waardig zijn? Jazeker. Het zijn lang niet altijd cybercriminelen die ervoor zorgen dat we in de problemen komen. Dat kunnen we ook prima zelf. Hoe vaak hebben we al niet gehoord over datalekken, veroorzaakt doordat organisaties hun cloudconfiguratie niet op orde hadden, waardoor iedereen bij de gegevens kon? En misschien heb je ook wel eens een mailtje verstuurd en je twee seconden later gerealiseerd dat de verkeerde naam in het aan-veld stond. We maken allemaal wel eens een fout, en dan ligt het aan de aard van de fout of hij impact heeft op onze beveiliging,  op de privacy van onze gegevens of zelfs op de bedrijfscontinuïteit.

Er zijn allerlei maatregelen om dergelijke fouten te voorkomen. Zo worden wijzigingen niet meteen in de productie-omgeving doorgevoerd, maar eerst in testomgeving. Daar kun je observeren of die wijziging precies doet wat zij moet doen – niet meer en niet minder. Daarna zorgt geautomatiseerde voortbrenging ervoor dat die wijziging exact zo naar productie gaat, en niet door een menselijke fout (vinkje verkeerd gezet, typfoutje gemaakt) alsnog wordt verknald. Je kunt ook een collega laten meekijken, volgens het bekende vier-ogenprincipe. Dat doen we zelfs als we notities schrijven, maar dan heet het review. Als ik iets opschrijf wat de techniek raakt, dan laat ik graag technische mensen controleren of ik geen onzin heb opgeschreven. Want dat ik het kan verzinnen betekent nog niet dat het ook uitvoerbaar is. Ik wil niet in een ivoren toren wonen.

In dat tv-programma zie je mensen die zelf een springschans hebben gebouwd en daar vervolgens met hun fiets op afstormen, om even later verbaasd te moeten constateren dat de landing minder sierlijk verloopt dan ze hadden verwacht. De voice-over geeft op licht spottende toon een verhandeling over zwaartepunten, de wetten van Newton en waarom deze operatie gedoemd was te mislukken. De boodschap is steevast: bestudeer éérst met welke natuurwetten je te maken hebt en pas daar je ontwerp en je beweging op aan. Dat moet je dan trouwens ook maar kunnen; het is niet iedereen gegeven om, eenmaal in de lucht, braaf zijn zwaartepunt recht boven de fiets te houden.

Vertaald naar mijn vak zou ik zeggen: kijk éérst naar wet- en regelgeving, en houd daar al tijdens ontwerp en bouw rekening mee (security/continuity/privacy by design). Moet het systeem later onderhouden worden, check ook dan waar je allemaal rekening mee hebt te houden, en handel ernaar. Dat vergt misschien wat oefening, net als bij een fietsstunt. Maar gelukkig hebben wij – in tegenstelling tot al die onfortuinlijke stunters – testomgevingen.

 

En in de grote boze buitenwereld …

• deelt Outlook informatie over jou met honderden partners (noot: dit artikel staat op de site van een concurrent van Outlook en maakt aan het eind reclame voor het eigen product, maar de inhoud lijkt mij toch de moeite waard).
• krijgt Microsoft er ook flink van langs in een Amerikaanse overheidsrapport.
• kan Microsoft Copilot veel vertrouwelijke informatie aan het licht brengen (sla ook hier de reclame maar over).
• wordt een ransomware-aanval veel duurder als ook de back-ups geraakt zijn (ook weer met reclame, maar vooruit).
• vertelt de hacker, die in z’n eentje Noord-Korea platlegde, hier zijn verhaal.
• doen criminelen zich voor als advocaten en spreken bedrijven aan op zogenaamd geschonden auteursrechten.
• geeft de Duitse overheid tips voor aanschaf en gebruik van slimme apparaten. [Duits]
• was er commotie over een achterdeur in een populair stukje open source software.