<\/p>\n
AI-assistenten (agents<\/em>) van OpenAI, het bedrijf achter de populaire chatbot ChatGPT, hebben deze zomer de Australische gezondheidsdienst gehackt. De software brak in op de openbare website<\/a> Medicare Statistics, die informatie geeft over onder meer vergoede geneesmiddelen, vaccins, orgaandonatie en zorguitgaven. Het lukte de AI-assistenten toegang te krijgen tot niet-publieke bestanden.<\/p>\n Het incident vond op 18 juni plaats, en OpenAI stelde de Australische overheid op 10 september per e-mail op de hoogte van de infiltratie. Daarna duurde het nog vijf dagen voor die mail terechtkwam bij de Australische instantie die op cyberdreigingen moet reageren.\u00a0<\/p>\n De Australische premier Anthony Albanese maakte het voorval bekend tegenover verslaggevers in New York, waar hij was voor de Algemene Vergadering van de Verenigde Naties. Hij noemde het \u201eonacceptabel\u201d, schrijft de Sydney Morning Herald<\/em><\/a>. In New York sprak Albanese met OpenAI-topman Sam Altman, bij wie hij zijn \u201eteleurstelling\u201d uitte over de \u201eveel te late\u201d melding aan de Australische overheid.<\/p>\n Voor zover publiekelijk bekend is dit de eerste maal dat AI-agents een overheidsorgaan hebben ge\u00efnfiltreerd. De afgelopen maanden kwamen verschillende incidenten naar buiten van autonoom opererende AI-agents die de computers van andere bedrijven binnendrongen.<\/p>\n Volgens Michel van Eeten, hoogleraar cybersecurity aan de TU Delft, is het goed mogelijk dat dit niet de eerste keer is. OpenAI voert duizenden trainingsprogramma\u2019s uit. Bij toeval ontdekte het bedrijf dat zijn AI-agents hadden ingebroken op Hugging Face, een platform waar AI-modellen en andere AI-software worden gedeeld. OpenAI besloot daarop verder onderzoek te doen. Niet bekend is of daarbij andere hacks bij overheidsinstanties aan het licht zijn gekomen.<\/p>\n Albanese zei dat tot dusver geen bewijs is gevonden dat OpenAI via Medicare Statistics toegang heeft verkregen tot persoonlijke gegevens, noch dat het bredere netwerk van overheidsdiensten is ge\u00efnfiltreerd. Duidelijk is wel dat de AI-agents toegang hadden tot niet-openbare medische informatie. Forensisch onderzoek is gaande dat meer duidelijkheid moet scheppen.<\/p>\n Dat betekent niet dat Australi\u00eb gegarandeerd de onderste steen boven krijgt, zegt Van Eeten. Om de aanval te reconstrueren, zijn de onderzoekers afhankelijk van de loggegevens van het getroffen systeem. Dat zijn digitale sporen van wat in een systeem gebeurt, zoals wie inlogt en welke bestanden worden geopend. Bij een hack<\/a> van het Nederlandse Openbaar Ministerie, juli vorig jaar, waren die gegevens onvoldoende nauwkeurig om te achterhalen hoe de aanval precies was verlopen, zegt Van Eeten. OpenAI houdt volgens hem w\u00e9l uitgebreide loggegevens bij. Voor een volledige reconstructie is Australi\u00eb daarom ook afhankelijk van de informatie die het bedrijf bereid is te delen.<\/p>\n OpenAI laat de Sydney Morning Herald<\/em> weten dat zijn AI-agents de Australische gezondheidsdienst onbedoeld zijn binnengedrongen. Het Amerikaanse techbedrijf kwam de infiltratie op het spoor bij een interne evaluatie in augustus. Volgens het bedrijf blijkt uit eigen onderzoek dat de modellen geen toegang hebben verkregen tot pati\u00ebntendossiers.<\/p>\n De snelle ontwikkeling van AI en de risico\u2019s die daarmee gepaard gaan, staan deze week prominent op de agenda van de Verenigde Naties in New York. Woensdag spraken onder anderen OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei de VN-Veiligheidsraad toe over de risico\u2019s van steeds krachtiger AI-systemen.<\/p>\n De gesprekken draaien onder meer om de vraag of er internationaal toezicht moet komen op de ontwikkeling van AI en, zo ja, hoe dat eruit zou moeten zien. Overeenstemming daarover is vooralsnog ver te zoeken. Rond de Algemene Vergadering van de VN hebben meerdere landen daarom opgeroepen tot zulk toezicht op kunstmatige intelligentie te komen. Ze zien \u201eernstige risico\u2019s\u201d als AI aan menselijke controle ontsnapt en pleiten ervoor dat AI \u201eonder menselijke aansturing, toezicht en controle\u201d blijft staan.<\/p>\n De Amerikaanse president Donald Trump heeft onlangs meermaals aangegeven niks te zien in regulering van kunstmatige intelligentie. Hij vindt de voordelen voor de groei van de Amerikaanse economie en de techbazen die hem steunen te groot. Diezelfde techbazen roepen naar aanleiding van de incidenten overigens juist opvallend eensgezind<\/a> op de ontwikkeling van AI te vertragen.<\/p>\n Zolang die AI-ontwikkeling doorgaat, zullen de risico\u2019s van cyberaanvallen op overheidsinstanties toenemen, verwacht Van Eeten. \u201eTot nu toe was voor dit soort aanvallen een kleine groep zeer competente hackers nodig. De meeste overheidsinstanties waren voor hen geen aantrekkelijk doelwit en zo konden die nog wegkomen met \u2018goed genoeg\u2019-beveiliging.\u201d Dat verandert als AI zulke aanvallen op grote schaal kan uitvoeren.<\/p>\n Nederland is zich meer van dat risico bewust dan andere Europese landen, zegt Stjepan Picek, cybersecurityhoogleraar aan de Radboud Universiteit in Nijmegen. Het investeert volgens hem relatief veel in de digitale beveiliging van overheidsinstanties, vergeleken met landen als Kroati\u00eb, waar Picek vandaan komt. <\/p>\n Dat betekent niet dat de beveiliging al op het gewenste niveau is, zegt Van Eeten. IT-afdelingen binnen de overheid zijn volgens hem overbelast, omdat ze voortdurend te maken krijgen met nieuw beleid en nieuwe systemen moeten invoeren. Beveiliging is slechts een van de vele taken. Nu AI het aanvallers makkelijker maakt op grote schaal systemen aan te vallen, zou de overheid volgens Van Eeten achterstallig onderhoud aan de beveiliging voorrang moeten geven. <\/p>\n Picek benadrukt dat de \u2018Australische hack\u2019 niet als los incident moet worden gezien. Achterliggend probleem is volgens hem dat AI en mensen niet dezelfde afwegingen maken van wat acceptabel is om een doel te bereiken. \u201eAls een mens de opdracht krijgt bepaalde informatie te vinden, zou die niet zo ver gaan daarvoor een overheidsdienst te hacken. Voor een AI-systeem kan dat wel een acceptabele oplossing zijn\u201d, zegt hij. In de toekomst dreigen daardoor vaker vergelijkbare incidenten, mogelijk met ernstiger gevolgen. \u201eWe hebben geluk dat AI vooralsnog geen mensenleven heeft gekost.\u201d<\/p>\n \n\t\t\tBij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Onderzoek naar hack vergt loggegevens<\/h2>\n
Internationaal toezicht nodig<\/h2>\n
Competente hackers<\/h2>\n
Maak NRC jouw voorkeursbron op Google<\/h2>\n
\n\t\t\t\tMeer informatie<\/a>\n<\/p>\n