In april 2021 heeft de Europese Commissie een voorstel van Verordening inzake artificiële intelligentie gepubliceerd, intussen al gekend als Artificial Intelligence Act (AIA). De AIA zou de eerste verordening zijn die horizontale regels vastlegt voor de ontwikkeling, het op de markt brengen en het gebruik van AI-systemen op het grondgebied van de EU.
Wat?
De technologie van de artificiële intelligentie ("AI") zal een centrale rol spelen in de digitale transformatie, omdat zij naar verwachting een brede waaier aan economische en maatschappelijke voordelen zal opleveren voor een groot aantal (private en publieke) sectoren. AI maakt bijvoorbeeld automatisering, slimme besluitvorming, betere klantervaringen en efficiënt onderzoek mogelijk.
De AIA maakt deel uit van de ruimere Europese strategie en het Europees pakket inzake AI, die de doelstelling ondersteunen om van de EU een wereldleider te maken in de ontwikkeling van veilige, betrouwbare en ethische AI. De AIA legt aanbieders, importeurs, distributeurs en gebruikers van AI-systemen verschillende nieuwe verplichtingen op, afhankelijk van het risico dat het AI-systeem voor de mens kan opleveren.
Hoe?
- De AIA gaat uit van een risicogebaseerde aanpak en introduceert een classificatie van verschillende AI-systemen. Verschillende "risiconiveaus" (minimaal, beperkt, hoog en onaanvaardbaar risico) gaan gepaard met verschillende eisen en verplichtingen. Zo kunnen AI-systemen met een hoog risico alleen op de EU-markt worden gebracht of in gebruik worden genomen als zij voldoen aan diverse strenge dwingende eisen (zoals de invoering van een risicobeheersysteem, kwaliteitsvereisten en transparantievereisten) en AI-systemen met een onaanvaardbaar risico zijn verboden.
Aanbieders van AI-systemen met een hoog risico moeten in de EU bijvoorbeeld de volgende stappen volgen om hun AI-systeem op de markt te brengen:
- De AI-Act verbiedt een aantal AI-systemen die een onaanvaardbaar risico inhouden, zoals (i) bepaalde op AI gebaseerde “sociale scoring” voor algemene doeleinden door overheidsinstanties, (ii) real-time biometrische systemen voor identificatie op afstand in openbare ruimten met het oog op rechtshandhaving, (iii) AI-systemen die kwetsbare groepen uitbuiten om hun gedrag wezenlijk te verstoren op een wijze die ertoe leidt of er waarschijnlijk toe zal leiden dat deze of andere personen fysieke of psychologische schade oplopen, en (iv) AI-systemen die subliminale technieken gebruiken, waarvan personen zich niet bewust zijn, om het gedrag van personen wezenlijk te verstoren op een wijze die ertoe leidt of er waarschijnlijk toe zal leiden dat deze of andere personen fysieke of psychologische schade oplopen.
- AI-systemen die bedoeld zijn om te interageren met mensen, systemen voor emotiedetectie en biometrische categoriseringssystemen, en AI-systemen die worden gebruikt om beeld-, audio- of video-inhoud te genereren of te manipuleren, zullen aan geharmoniseerde transparantieregels worden onderworpen.
- De AIA voorziet in de oprichting van een nieuwe European Artificial Intelligence Board (“EAIB”), bestaande uit vertegenwoordigers van de lidstaten, de Europese Toezichthouder voor gegevensbescherming en de Europese Commissie. EAIB zou bevoegd zijn om adviezen, aanbevelingen en richtsnoeren uit te brengen over de toepassing van de wetgeving, om beste praktijken te verzamelen en te delen en geharmoniseerde technische normen te ontwikkelen. Net als de nationale toezichthoudende autoriteiten in het kader van de AVG houden de nationale AI-autoriteiten toezicht op de toepassing en de tenuitvoerlegging van de AIA. Spanje en Nederland zijn België al een stap voor en hebben al besloten te investeren in een dergelijke toezichthoudende AI-autoriteit.
Wie?
De AI-wet zal een ruim toepassingsgebied hebben en zal van toepassing zijn op:
- aanbieders die AI-systemen in de EU in de handel brengen of in gebruik stellen (ongeacht of die aanbieders in de EU of in een derde land zijn gevestigd);
- gebruikers van AI-systemen die zich in de EU bevinden; en
- aanbieders en gebruikers van AI-systemen die zich in een derde land bevinden, wanneer de output van het systeem in de EU wordt gebruikt.
Wanneer?
Het voorstel voor de AIA wordt momenteel besproken door de medewetgevers, het Europees Parlement en de Raad. In de Raad zijn onderhandelingen gestart om tot een gemeenschappelijk standpunt van de lidstaten te komen. In november 2021 heeft het Sloveense voorzitterschap een voortgangsverslag en een compromistekst gepresenteerd over de tot dusver in de Raad gevoerde besprekingen over het voorstel AIA.
