Na het Europees Parlement was het op 21 mei de beurt aan de Raad van de Europese Unie om de “artificial intelligence act” goed te keuren, die tot doel heeft de regels voor artificiële intelligentie te harmoniseren. Deze wetgeving gaat uit van een risicogebaseerde benadering, wat betekent dat hoe groter het risico dat de samenleving schade wordt berokkend, hoe strenger de regels. Het is de eerste wet in zijn soort ter wereld, die een wereldwijde norm kan stellen voor de regulering van AI.
Een kader voor veilige en betrouwbare AI
De nieuwe wet is bedoeld om de ontwikkeling en toepassing van veilige en betrouwbare artificiële-intelligentiesystemen op de interne EU-markt aan te moedigen, zowel door private als publieke spelers. Tegelijkertijd wil de wet ervoor zorgen dat de grondrechten van EU-burgers worden gerespecteerd en investeringen en innovatie in artificiële intelligentie in Europa stimuleren. De "artificial intelligence act" is alleen van toepassing op gebieden die onder de EU-wetgeving vallen, met uitzonderingen voor systemen die uitsluitend worden gebruikt voor militaire en defensiedoeleinden en voor onderzoek.
Op risico gebaseerde classificatie
De nieuwe wet categoriseert de verschillende soorten artificiële intelligentie op basis van risico. Voor AI-systemen met een beperkt risico zullen lichte transparantieverplichtingen gelden, terwijl AI-systemen met een hoog risico zullen worden toegestaan, maar onderworpen zullen zijn aan een reeks eisen en verplichtingen voor toegang tot de EU-markt. AI-systemen met bijvoorbeeld cognitieve gedragsmanipulatie en social scoring worden verboden in de EU vanwege de onaanvaardbare risico's die ze met zich meebrengen. De wet verbiedt ook het gebruik van AI voor politievoorspellingen op basis van profilering en systemen die biometrische gegevens gebruiken om mensen in te delen op basis van criteria zoals ras, religie of seksuele geaardheid.
Governance en toepassing
Om een goede implementatie te waarborgen, zijn een aantal bestuursorganen opgezet:
- Een AI-bureau binnen de Commissie om de gemeenschappelijke regels in de hele EU toe te passen.
- Een wetenschappelijk panel van onafhankelijke deskundigen ter ondersteuning van de wetshandhaving.
- Een AI-raad met vertegenwoordigers van de lidstaten om de Commissie en de lidstaten te adviseren en bij te staan bij de consistente en effectieve toepassing van de AI-wet.
- Een adviesforum voor belanghebbenden om de AI-raad en de Commissie van technische expertise te voorzien.
Mathieu Michel, staatssecretaris voor Digitalisering en verantwoordelijk voor Administratieve Vereenvoudiging, Privacybescherming en Bouwregelgeving, zei in een verklaring: “De goedkeuring van de AI-wet is een belangrijke stap voor de Europese Unie. Deze baanbrekende wet, de eerste in zijn soort ter wereld, biedt een antwoord op een wereldwijde technologische uitdaging die ook kansen creëert voor onze samenlevingen en economieën. Met deze AI-wet benadrukt Europa het belang van vertrouwen, transparantie en verantwoordingsplicht in de omgang met nieuwe technologieën en zorgt het er tegelijkertijd voor dat deze zich snel ontwikkelende technologie kan gedijen en de motor kan zijn van Europese innovatie.”
Sancties en transparantie
Boetes voor overtredingen van de "artificial intelligence act" worden vastgesteld als een percentage van de wereldwijde jaaromzet van het overtredende bedrijf in het voorgaande boekjaar of een vooraf bepaald bedrag, afhankelijk van welk bedrag hoger is. Voor kmo's en startende bedrijven gelden proportionele administratieve boetes. Voordat bepaalde overheidsdiensten een AI-systeem met een hoog risico gaan gebruiken, moeten de gevolgen voor de grondrechten worden beoordeeld. De verordening voorziet ook in meer transparantie over de ontwikkeling en het gebruik van AI-systemen met een hoog risico.
Ondersteuning voor innovatie
De AI-wet voorziet in een innovatievriendelijk rechtskader en beoogt empirisch onderbouwd leren op regelgevingsgebied te bevorderen. Onder de nieuwe wet moeten gereguleerde AI-“zandbakken”, die een gecontroleerde omgeving bieden voor de ontwikkeling, het testen en de validatie van innovatieve AI-systemen, ook real-world tests mogelijk maken.
Volgende stappen
Na ondertekening door de voorzitters van het Europees Parlement en de Raad wordt het wetgevingsbesluit de komende dagen gepubliceerd in het Publicatieblad van de EU en treedt het twintig dagen na publicatie in werking. De nieuwe regels worden twee jaar na de inwerkingtreding van kracht, met uitzondering van enkele specifieke bepalingen.
Context
De AI-wet is een belangrijk onderdeel van het EU-beleid ter bevordering van de ontwikkeling en invoering van veilige en rechtmatige AI, met inachtneming van de grondrechten, in de Europese markt. De Commissie heeft het voorstel voor de AI-wet in april 2021 ingediend. Brando Benifei (S&D / IT) en Dragoş Tudorache (Renew Europe / RO) waren de rapporteurs van het Europees Parlement over dit dossier en op 8 december 2023 werd een voorlopig akkoord bereikt tussen de medewetgevers.
