Het Europees Parlement heeft woensdag (14/06/2023) ingestemd met het verdedigen van een verbod op massale gezichtsherkenning voor de bewaking van openbare ruimtes, terwijl het onderhandelt met de EU-27 over ’s werelds eerste regels voor het gebruik van kunstmatige intelligentie (AI), die een verplichting bevatten voor systemen zoals ChatGPT om te waarschuwen dat hun inhoud kunstmatig is gegenereerd.
Het onderhandelingsmandaat, aangenomen met 499 stemmen voor, 28 tegen en 93 onthoudingen tijdens de plenaire zitting in Straatsburg, Frankrijk, roept op tot strikte regels voor AI in de EU op basis van het risiconiveau, met op risico gebaseerde beperkingen.
De nieuwe EU-wet inzake kunstmatige intelligentie, waarover later deze maand zal worden onderhandeld, bouwt voort op een voorstel van de Europese Commissie van april 2021 dat veiligheids- en grondrechtennormen vaststelt om te voorkomen dat de technologie wordt gebruikt voor repressieve, manipulatieve of discriminerende doeleinden.
In deze context pleitte Brussel voor een onderscheid tussen “risicovolle systemen” om het gebruik ervan “in principe te verbieden”, maar de deur open te laten voor het toestaan ervan in uitzonderlijke gevallen en met voorafgaande toestemming van de rechter, bijvoorbeeld in het geval van biometrische surveillance.
Europarlementariërs gaan echter verder en roepen op tot een volledig verbod op het gebruik van biometrische surveillance-instrumenten, emotieherkenning en predictive policing-systemen. Hiervoor stellen ze voor om deze systemen op te nemen in de door Brussel voorgestelde lijst van instrumenten die een “onacceptabel risico” vormen en in ieder geval verboden zouden moeten worden.
De lijst bevat al een veto over “social scoring” toepassingen zoals het “social credit” systeem dat China gebruikt om zijn burgers te monitoren, of zal manipulatiemechanismen inbouwen in speelgoed met stemassistenten, bijvoorbeeld om kinderen aan te zetten tot gevaarlijk gedrag.
Met de amendementen op de lijst willen Europarlementariërs hun veto uitspreken over realtime en niet-realtime biometrische identificatiesystemen op afstand in openbare ruimtes, biometrische categorisatiesystemen die gebruik maken van identiteitskenmerken zoals geslacht, ras of religie, en voorspellende politiesystemen.
Europarlementariërs pleiten ook voor een verbod op het gebruik van emotieherkenningssystemen door veiligheidstroepen, bij grenscontroles, op de werkvloer of in onderwijsinstellingen, evenals een verbod op het lukraak volgen van gezichtsopnames van het internet of videobewakingssystemen om gezichtsherkenningsdatabases te creëren (aangezien deze in strijd zijn met mensenrechten en het recht op privacy).
Ze roepen ook op om AI-systemen die het milieu, de gezondheid, de veiligheid of de grondrechten van individuen aanzienlijk kunnen beïnvloeden, systemen die kiezers en verkiezingsuitslagen kunnen beïnvloeden en aanbevelingssystemen die worden gebruikt door sociale mediaplatforms (met meer dan 45 miljoen gebruikers) als zeer riskant te classificeren.
De nieuwe EU-wetgeving, een wereldprimeur, zal ook strikte regels vastleggen voor het gebruik van kunstmatige taalmodellen zoals ChatGPT. Europarlementariërs vragen om extra transparantie-eisen voor deze systemen, in het bijzonder dat ze duidelijke waarschuwingen moeten bevatten dat de inhoud AI-gegenereerd is en niet, bijvoorbeeld, echte beelden.
Bron: Agentschappen
