De Spaanse gegevensbeschermingsautoriteit (AEPD) heeft de eerste melding ontvangen van een inbreuk op de gegevensbescherming waarbij het incident werd uitgevoerd door een agent op basis van kunstmatige intelligentie, die hiervoor gebruikmaakte van een bekend taalmodel.
Volgens bronnen van de AEPD startte de AI-agent een zoektocht naar kwetsbaarheden in generieke bestanden, voerde hij met succes een aanmelding („login“) uit en begon hij, zodra hij toegang tot het systeem had, autonoom naar kwetsbaarheden in de applicatie te zoeken, waardoor hij, zodra dit was gelukt, persoonsgegevens kon wijzigen en toegang kon krijgen tot facturen.
De autoriteit die verantwoordelijk is voor de bescherming van persoonsgegevens heeft erop gewezen dat de beschikbare informatie, voordat definitieve conclusies kunnen worden getrokken, afkomstig is uit de melding van de betrokken organisatie en aan een grondige analyse moet worden onderworpen.
Evenzo betekent het gebruik van een bepaald AI-model niet dat het model of de infrastructuur van de aanbieder ervan is gecompromitteerd, of dat de tool is ontwikkeld voor kwaadwillige activiteiten, zo verduidelijkte de autoriteit. „Vanuit het oogpunt van gegevensbescherming is het relevant dat een derde partij een AI-agent zou hebben gebruikt als instrument om verschillende fasen van de aanval succesvol met elkaar te verbinden”, verklaarde de AEPD.
Hoewel uit deze eerste melding nog geen statistische trends naar voren komen, is het wel een duidelijk teken dat AI-gestuurde aanvallen niet langer een theoretisch risico vormen en zich steeds vaker concretiseren in incidenten die betrekking hebben op de daadwerkelijke verwerking van persoonsgegevens.
Het gebruik van kunstmatige intelligentie voor kwaadwillige activiteiten is niet nieuw, en is gebleken dat deze mogelijkheden, wanneer ze bij een cyberaanval worden ingezet, de automatisering van illegale activiteiten kunnen vergemakkelijken. Volgens de AEPD worden generatieve modellen inderdaad al geruime tijd ingezet om „phishing“-berichten op te stellen, frauduleuze campagnes te vertalen, identiteiten te vervalsen, code te analyseren of het opsporen van kwetsbaarheden te vergemakkelijken.
De opkomst van AI-agenten leidt echter tot een kwalitatieve verandering, aangezien een agent autonoom een doel kan krijgen, tussenstappen kan plannen, tools kan inzetten, code kan uitvoeren, bronnen kan raadplegen, resultaten kan interpreteren en zijn aanpak kan aanpassen op basis van de verkregen inzichten.
De autoriteit heeft verzekerd dat AI geen nieuwe bedreigingen creëert, maar wel de snelheid, de omvang en het aanpassingsvermogen van reeds bekende kwaadaardige technieken vergroot, waardoor de tijd voor het opsporen en indammen ervan wordt verkort. Het belang van deze mededeling ligt niet alleen in de gebruikte technologie, maar ook in het feit dat deze het scenario van risicobeheer verandert, zo verklaarde adjunct-directeur Francisco Pérez Bes in een blogbericht van de autoriteit.
Allereerst bevestigt het de noodzaak om door AI ondersteunde of uitgevoerde aanvallen expliciet op te nemen in de risicoanalyses van de gegevensverwerking; een algemene verwijzing naar malware, phishing of ongeoorloofde toegang is niet voldoende, aangezien deze automatisering de waarschijnlijkheid, snelheid en reikwijdte van het incident aanzienlijk kan beïnvloeden.
Bovendien vereist dit een herziening van de reactietijden, aangezien procedures die zijn ontworpen voor handmatig uitgevoerde aanvallen ontoereikend kunnen zijn wanneer een aanvaller tegelijkertijd meerdere bronnen analyseert, verschillende toegangswegen test en zijn gedrag snel aanpast.
Ten derde, aldus Pérez Bes, winnen digitale identiteiten en toegangsgegevens aan belang, aangezien een aanvaller die zich een account, een wachtwoord of een „token“ met buitensporige rechten verschaft, met de snelheid van een machine kan handelen en toegang kan krijgen tot verschillende diensten voordat de organisatie afwijkend gedrag detecteert.
Ten slotte toont deze aanval aan dat de beveiliging van de gegevensverwerking niet uitsluitend van handmatige ingrepen kan afhangen en dat menselijk toezicht weliswaar onmisbaar blijft, maar moet steunen op detectie-, inperkings- en reactiemechanismen die snel genoeg kunnen werken, zo verzekerde de adjunct-directeur van de autoriteit. De opkomst van AI-agenten op offensief gebied moet volgens hem aanleiding geven tot een onmiddellijke herziening van de beveiligings- en gegevensbeschermingsmodellen.
Bron: persbureaus
