Na meer dan 35 uur onderhandelen is de Europese Unie er een paar minuten voor het einde van de vrijdag in geslaagd een historisch akkoord te bereiken over de eerste regels om de risico’s van kunstmatige intelligentie (AI) te beperken, die naar verwachting vanaf 2026 van kracht zullen worden. “We zijn erg trots dat we ’s werelds eerste internationale regelgeving over kunstmatige intelligentie hebben bereikt,” zei de staatssecretaris voor Digitalisering en Kunstmatige Intelligentie, Carme Artigas, die naar Brussel was gereisd om het onderhandelingsteam van de Raad onder het Spaanse voorzitterschap van de Raad te leiden.
Onderhandelaars van het Europees Parlement, de Europese Commissie en de Raad (regeringen) begonnen woensdag aan de laatste onderhandelingsronde voor een akkoord dat pas laat op vrijdag werd bereikt nadat de laatste obstakels met betrekking tot biometrische surveillance en het gebruik ervan door veiligheidsdiensten waren overwonnen.
De verordening voorziet in een risicogebaseerde aanpak die de risiconiveaus en de bijbehorende beperkingen categoriseert afhankelijk van de omvang, wat een verbod inhoudt in gevallen van “onaanvaardbare” risico’s, zoals biometrische categorisatiesystemen, ongerichte image mining om gezichtsherkenningsdatabases te creëren, emotieherkenning, sociale beoordelingssystemen of systemen die gedrag manipuleren. Er zijn echter een aantal strikte uitzonderingen die het gebruik van biometrische bewakingssystemen in openbare ruimten toestaan, afhankelijk van een voorafgaand gerechtelijk bevel en een lijst van strikt gedefinieerde overtredingen. Zo is realtime biometrisch toezicht beperkt in tijd en plaats en wordt het alleen gebruikt voor het gericht zoeken naar slachtoffers van ontvoering, mensenhandel of seksuele uitbuiting, om een specifieke en actuele terroristische dreiging te voorkomen en om een vermoedelijke dader van een strafbaar feit dat onder de bepaling valt, op te sporen of te identificeren.
Het Europees Parlement had een lange lijst van verboden toepassingen voorgesteld, maar de Raad drong erop aan sommige systemen van meet af aan te verbieden, maar ze in te delen in categorieën met een hoog risico en de beperkingen aan te passen. Artigas wees erop dat deze verandering “niet betekent dat je alles kunt doen wat je wilt”, omdat de classificatie als zeer riskant ook gepaard gaat met strikte waarborgen, zoals de voorwaarde van een gerechtelijk bevel voor gebruik of een beoordeling van de gevolgen voor de grondrechten.
Er zijn ook AI-systemen gedefinieerd die zijn toegestaan, maar die als zeer risicovol worden beschouwd vanwege hun significante impact op de gezondheid, veiligheid, grondrechten, het milieu en de rechtsstaat. AI-systemen die worden gebruikt om verkiezingsuitslagen en het stemgedrag te beïnvloeden, zullen ook als zeer risicovol worden geclassificeerd en burgers zullen het recht hebben om klachten in te dienen en uitleg te krijgen over beslissingen op basis van AI-systemen met een hoog risico die hun rechten aantasten.
Een ander belangrijk punt was de invoering van specifieke regels voor start-upmodellen zoals ChatGPT- of DALL-E-platforms, die het licht zagen nadat de Europese Commissie haar eerste regelgevingsvoorstel had gepresenteerd. De baanbrekende wetgeving voorziet ook in boetes voor inbreuken, variërend van 35 miljoen euro of 7 procent van de wereldwijde omzet tot 7,5 miljoen euro, afhankelijk van de grootte van het bedrijf.
Het doel van de nieuwe Europese regelgeving is om veiligheids- en grondrechtenstandaarden vast te stellen die voorkomen dat technologie wordt gebruikt voor repressieve, manipulatieve of discriminerende doeleinden, maar zonder dat dit leidt tot overregulering die het concurrentievermogen van de EU in gevaar zou brengen.
De voorzitter van het Europees Parlement, Roberta Metsola, reageerde onmiddellijk op sociale media om het “historische moment” te vieren, aangezien de EU wetgeving zal hebben die “avant-gardistisch, verantwoordelijk en veelomvattend is en wereldwijde normen zal stellen”.
Bron: Agentschappen
