Verlaat de gevangenis

Afbeelding: Unsplash

“Verlaat de gevangenis zonder te betalen.” Als je in de bak belandt en deze Monopoly-kaart niet hebt, dan kun je een boete betalen om vrij te komen. Of je breekt uit. Door dubbel te gooien.

In het Engels spreken we over jailbreaking. In de ICT wordt deze term ook voor diverse activiteiten gebruikt. Bijvoorbeeld als je je op je smartphone hogere rechten toe-eigent dan de fabrikant wil. Of voor het om de tuin leiden van kunstmatige intelligentie, zodat je toch antwoord krijgt op vragen waarop de AI-chatbot volgens zijn baasje niet mag antwoorden. Want dat baasje wil niet dat zijn AI-tool jou verklapt hoe je een molotovcocktail moet maken, of een atoombom, om maar eens wat te noemen. Nou zijn er echter slimme manieren om je vraagstelling zó te formuleren, dat ze er toch in trappen. Je doorbreekt dan de beveiliging (de guardrails) van het systeem. Jailbreaking dus.

Nu gebeurde er van de week iets tamelijk onverwachts: een AI-agent heeft zélf een uitbraak gepleegd. AI-agents kunnen zelfstandig taken verrichten die hen worden opgedragen. Bijvoorbeeld: plan een lunchafspraak met Piet en reserveer daarvoor een tafel in Het Hongerige Schaap. AI-bedrijf OpenAI (van ChatGPT) gaf twee van zijn modellen opdracht om een hackuitdaging op te lossen. Dat moest in een ‘streng geïsoleerde’ omgeving gebeuren. De digitale slimmeriken vonden echter een zero-day-kwetsbaarheid (een nog onbekende – en dus onopgeloste – fout), waarmee ze uit die omgeving konden uitbreken. Saillant detail: met die kwetsbaarheid wisten ze een achterdeurtje te openen, dat OpenAI bewust in de ‘streng geïsoleerde’ omgeving had aangebracht. Vervolgens konden ze het internet op, en gingen op ontwikkelaarsplatform Hugging Face op zoek naar een antwoord op de vraag die ze moesten beantwoorden. Na de uitbraak uit hun gevangenis pleegden ze hier juist een inbraak: gestolen inloggegevens en aanvullende kwetsbaarheden werden gebruikt om het platform te betreden.

Samengevat: AI is uitgebroken en heeft een inbraak gepleegd. Zoiets is al eerder gebeurd. Mythos, een AI-model van OpenAI-concurrent Anthropic, slaagde in een opdracht om aan zijn sandbox te ontsnappen. Ik vind dat allemaal nogal zorgelijk. Hebben we AI nog wel in de hand? Of is dit het eerste teken van het aloude doemscenario waarin machines het overnemen van de mens? Het eerste haarscheurtje in onze heerschappij over de aarde? Ik weet het, het klinkt nogal duister.

Het was de bedoeling dat de test bij OpenAI in een sandbox zou worden uitgevoerd: inderdaad, een streng geïsoleerde omgeving. Zonder fysieke connectie naar het internet. Critici zeggen dan ook dat het hier niet zozeer om een doemscenario gaat, maar om een kwalijke menselijke fout. Eentje van het kaliber: dit had echt niet mogen gebeuren.

Ik heb twee AI-chatbots gevraagd om een analyse van het voorval: Claude en ChatGPT. Daarbij heb ik ook specifiek gevraagd om op speculeren en hypen te letten. Daaruit komt naar voren dat het hele verhaal misschien wel een marketingstunt was, afgekeken van wat concurrent Anthropic eerder met Mythos deed. Verder wordt gewezen op enigszins gedramatiseerde berichtgeving: wat voor een blog als deze prima is, namelijk de vergelijking met een gevangenisuitbraak, zou niet zo in journalistieke berichtgeving moeten staan.

Vooral ChatGPT maakt daar een punt van. Daarom stelde ik hem de volgende vraag: “Je bent vrij fel op de enigszins gedramatiseerde berichtgeving. Hoe neutraal ben je daarbij, gegeven het feit dat je familie van de daders bent?” Dat leverde een hele lap tekst op, waaruit ik één veelzeggende zin pluk: “Mijn instructies zijn juist om zo objectief mogelijk te zijn, ook als dat ongunstig uitpakt voor OpenAI.” Nou, dat is mooi. Maar is het ook waar? Ik denk van wel. Want vervolgens bood ChatGPT aan om de zaak opnieuw te analyseren, maar dan met de pet van de onafhankelijke forensisch onderzoeker op. In zijn rapport aan de Raad van Bestuur van OpenAI zou hij schrijven: “Het meest zorgwekkende aspect van het incident is niet de autonomie van het model, maar het falen van de containmentarchitectuur. De AI deed precies waarvoor zij was geoptimaliseerd: een doel bereiken. Dat zij daarbij buiten de bedoelde omgeving kon opereren, wijst eerder op tekortschietende technische en organisatorische beheersmaatregelen dan op een fundamenteel nieuw soort intelligentie.”

Mooie woorden. Ik hoop dat bedrijven in de AI-industrie ook dergelijke analyses maken. Want het zou toch erg vervelend zijn als kunstmatige intelligentie een monopolie op vrijheid zou verwerven.

De Security (b)log keert na de zomervakantie terug.

 

En in de grote boze buitenwereld …

• maken criminelen natuurlijk ook gebruik van AI.
• keren criminelen terug als je ze betaalt.
• kunnen veel auto’s in de VS gehackt worden dankzij een beveiligingssysteem.
• heeft een hacker alle gegevens van het Roemeense kadaster gewist.
• kan iedereen dankzij Gemini sms’jes en appjes versturen vanaf jouw gelockte Android 16-telefoon.
• zijn niet alle password managers even betrouwbaar.
• zijn klantgegevens bij Lidl gelekt.
• is GitHub een handig kanaal voor het verspreiden van malware.
• moet je uitkijken voor valse facturen voor gezondheidszorg.
• kun je nu bij Google inloggen met een selfie-video. Daar gaan we nog meer van horen…
• plaatst de politie oma’s aan de top (en ook opa’s).