Het Europees Parlement heeft een belangrijke stap gezet in de procedure die moet leiden tot een wetgeving die in de hele EU van kracht wordt, door overeenstemming te bereiken over de regels voor kunstmatige intelligentie (AI). Hiermee komt ‘s werelds eerste wet die kunstmatige intelligentie regelt een stuk dichterbij.
De Nieuwe Regels
De nieuwe regels zijn gericht op duidelijkheid. Zo moet het bijvoorbeeld duidelijk zijn wanneer iets met AI is gemaakt, zoals teksten die gegenereerd zijn door een tekstgenerator zoals ChatGPT of afbeeldingen die zijn gemaakt met een afbeeldingsgenerator zoals Midjourney. Daarnaast zou gezichtsherkenning in de openbare ruimte verboden moeten worden1.
Een ander belangrijk aspect van de nieuwe regels is dat ze strenge voorwaarden stellen aan AI-systemen met een ‘hoog risico’ voor gezondheid, veiligheid of mensenrechten. “Europa pakt de regie over AI terug. Door onze eigen voorwaarden te stellen voor nieuwe technologieën, zorgen we ervoor dat deze technologieën voortaan betrouwbaar, ethisch, veilig en milieuvriendelijk zijn,” aldus Kim van Sparrentak (GroenLinks), een van de onderhandelaars namens het parlement2.
Verhitte Discussies
De weg naar overeenstemming was echter niet zonder hobbels. Er werd in het Europees Parlement een pittig debat gevoerd over de voorgestelde maatregelen. Hoewel vrijwel iedereen het erover eens was dat er regels moesten komen voor bedrijven die gebruikmaken van AI, verschilden partijen van mening over hoe dit in de praktijk uit moest zien1.
Er waren ook zorgen over de mogelijke negatieve effecten van AI als er geen duidelijke regels zouden komen. Veel Europarlementariërs waren bezorgd dat AI in de toekomst tot grote problemen zou kunnen leiden. Daarom was er ook een gevoel van urgentie om deze wetgeving door te voeren1.
De Volgende Stappen
Hoewel er nu overeenstemming is in het Europees Parlement, zijn er nog meer stappen te nemen voordat de wetgeving een feit is. De komende tijd zullen het parlement en de lidstaten onderhandelen over de wet, die in 2021 werd voorgesteld door de Europese Commissie. De hoop is dat deze onderhandelingen voor het einde van het jaar zijn afgerond, maar naar verwachting zal het daarna nog maanden duren voordat de wetgeving in de hele EU een feit is1.
Zoals Eurocommissaris Breton het uitdrukte, is er haast bij deze wetgeving. Echter, de afspraken die tot nu toe zijn gemaakt met bedrijven over het gebruik van AI zijn vrijblijvend, en niet iedereen doet mee. Twitter heeft bijvoorbeeld al aangegeven zich er niets van aan te trekken1. Na de zomer beginnen onderhandelingen tussen het parlement en de EU-landen en dan zou de wet er begin volgend jaar moeten zijn2.
De Rol van AI in Onze Samenleving
Het is belangrijk om op te merken dat kunstmatige intelligentie steeds meer aspecten van ons leven doordringt. Of het nu gaat om aanbevelingen voor series of muziek op Netflix en Spotify, ‘contact’ via een chatbot met de energieleverancier of webwinkels, het lezen van röntgenfoto’s in het ziekenhuis om ziektes te herkennen, of het scannen van camerabeelden voor de politie wanneer ze op zoek zijn naar bepaalde personen. AI wordt ook gebruikt om te voorspellen wanneer preventief onderhoud nodig is in allerhande machines, of om te ‘voorspellen’ welke ontvanger van een toeslag geneigd zal zijn tot fraude2.
De Categorieën van AI volgens het Wetsvoorstel
Volgens het wetsvoorstel wordt AI ingedeeld in categorieën. Er zijn AI-systemen met een ‘onaanvaardbaar risico’, zoals het bijhouden van sociaal gedrag door de overheid, zoals in China gebeurt. Deze worden verboden. Andere AI-systemen vallen in de categorie ‘hoog risico’, zoals software die sollicitatiebrieven beoordeelt, zoals Amazon die al in 2014 probeerde2.
In deze context wordt de weg die Europa kiest met betrekking tot AI-regulering van cruciaal belang. Zoals GroenLinks-Europarlementariër Kim van Sparrentak het stelt: “We staan op een belangrijk kruispunt: kiest Europa haar eigen weg? Of gaan we een Chinese surveillancestaat achterna?”1.
Deze nieuwe wetgeving is een belangrijke stap in het beantwoorden van die vraag en het vormgeven van de toekomst van AI in Europa.
