Ignasi Belda, directeur-generaal van de Spaanse toezichtsautoriteit voor kunstmatige intelligentie (AESIA, die rapporteert aan de regering), gaf vrijdag (14/03/2025) in Palma, Mallorca, een presentatie waarin hij de Europese regelgeving voor kunstmatige intelligentie (AI) uitlegde, “die een categorie toepassingen bevat die verboden zijn vanwege hun onaanvaardbare risico.
Deze toepassingen omvatten “subliminale manipulatie” door openbare instellingen of bedrijven; het “uitbuiten van kwetsbaarheden”, bijvoorbeeld van minderjarigen; voorspellend politiewerk, zoals voorlopige arrestaties, zoals te zien is in sommige futuristische films; de herkenning van emoties op de werkplek of in onderwijsinstellingen om door machines te worden beoordeeld; biometrische herkenning in openbare ruimten en in realtime, die alleen door een rechter zou kunnen worden toegestaan; en de beoordeling van mensen door een machine om toegang te krijgen tot functies of diensten.
In dit verband herinnerde Belda eraan dat “de Europese regelgeving tot doel heeft consumenten te beschermen tegen mogelijk misbruik bij het gebruik van AI. De regels evalueren de technologie niet, maar definiëren de sectoren waarin het kan worden gebruikt en classificeren toepassingen op basis van hun risico.”
De verordening werd in augustus 2024 aangenomen, maar heeft drie jaar de tijd om volledig te worden geïmplementeerd. De verboden toepassingen zijn al van kracht, terwijl de gebieden met een hoog risico in augustus 2026 zullen volgen.
Deze risicogebieden hebben volgens Belda betrekking op “de impact op de fundamentele rechten van burgers, zoals medische, milieu- of kritieke infrastructuuraspecten. Deze AI-toepassingen mogen niet bevooroordeeld zijn en moeten transparant, verklaarbaar en traceerbaar zijn en mogen geen inbreuk maken op intellectueel eigendom.”
Een derde groep zou bestaan uit toepassingen met een gemiddeld risico, “die de gebruiker altijd moeten informeren dat ze interactie hebben met een machine. Voor de vierde en laatste groep, de toepassingen met een laag risico, die in werkelijkheid 90-95% van het totaal zouden uitmaken, is er geen regelgeving,” zegt de AESIA-directeur.
Als consumentenbeschermingsverordening vallen consumenten en onderzoek niet onder het toepassingsgebied, dat, zoals beschreven, ook overheidsorganisaties en bedrijven omvat. De laatste hebben een aanpassingsperiode als hun toepassingsgebied of commercialisatie de Europese Unie is. Buiten de EU is de verordening niet op hen van toepassing en in elk geval zijn ze onderworpen aan de wetten van het land van hun gebruikers of klanten.
De directeur van AESIA wees er ook op dat “het Agentschap gemachtigd is om sancties op te leggen, maar altijd met een afschrikkend doel en niet om inkomsten te genereren. Voor zeer ernstige overtredingen kunnen de sancties zeer hoog zijn en oplopen tot miljoenen euro’s. Het sanctiesysteem wordt in augustus van dit jaar van kracht en tot die tijd beperken we ons tot het informeren over ontdekte onregelmatigheden, maar er wordt al toezicht gehouden en dit werk is strikt vertrouwelijk.”
Belda kondigde aan dat er een Europees register komt voor AI-toepassingen met een hoog risico en dat er al wordt gewerkt aan de duurzaamheid van het gebruik ervan: “Wat betreft energie- en waterverbruik moeten de zogenaamde groene algoritmen verder worden ontwikkeld”, als een programmeermethode die gericht is op het verminderen van de milieu-impact van computertoepassingen, evenals het gebruik ervan om duurzame oplossingen te vinden.
Een maatregel waarin Spanje een voortrekkersrol zal spelen is het creëren van gereguleerde testomgevingen, bekend als sandboxes, waarin bedrijven hun algoritmen kunnen testen. Spanje zal binnenkort een openbare sandboxruimte opzetten wanneer de Europese deadline in augustus 2026 afloopt.
Bron: Agentschappen
