Positie paper normuitleg en toezicht op AI

Positie Paper VNO-NCW en MKB-Nederland
Aan : de leden van de Vaste Kamercommissie voor Digitale Zaken
Datum : 1 oktober 2024
Referentie : 24-122834

Ten behoeve van het rondetafelgesprek Normuitleg en Toezicht op AI d.d. 10 oktober 2024, Vaste Kamercommissie voor Digitale Zaken.

Een goede inrichting van het toezicht op AI is essentieel voor het waarmaken van de ambities op verantwoorde AI. De inrichting van het toezicht kan een enorme impact hebben op AI-innovatie, ons vestigingsklimaat, de samenleving (bescherming rechten, behalen maatschappelijke doelen en een brede welvaart) en ons concurrentievermogen¹. AI is terecht een beleidsprioriteit in de agenda Digitale
Open Strategische Autonomie (DOSA).²

Een geharmoniseerde praktische uitleg van de complexe juridische regels is van groot belang voor het bevorderen van de ontwikkeling en toepassing van AI. Standaarden spelen daarbij een belangrijke rol. Voor toezichthouders ligt er een rol om bedrijven, groot en klein, preventief en proactief te ondersteunen bij de praktische toepassing van de complexe juridische regels en daarmee bij te
dragen aan het beperken van de hoge regeldruk. VNO-NCW en MKB-Nederland ondersteunen dan ook het belang van dit rondetafelgesprek over Normuitleg en Toezicht op AI in de Tweede Kamer.

Normuitleg in de praktijk: in dialoog blijven een must

Voor de bedrijven zijn (geharmoniseerde) standaarden een belangrijk instrument om de vertaalslag te kunnen maken van complexe juridische regels naar de praktijk. Om aan te sluiten op de rest van de wereld, is voortbouwen op bestaande internationale standaarden essentieel. We zijn gebaat bij harmonisatie, niet bij fragmentatie. Standaarden moeten voor iedereen werkbaar zijn van het
grootbedrijf tot het mkb. Het is van belang dat toezichthouders hun handhavingsbeleid maken binnen de kaders van de
wettelijke regels en de rechterlijke uitleg daarvan. Omdat de wisselwerking met de praktijk essentieel is voor een goede (risico gebaseerde) toepassing van de juridische regels, is dialoog met stakeholders een must. Een open blik en luisterend oor naar de praktijk tast de onafhankelijke oordeelsvorming niet aan; integendeel: het zorgt voor een kwaliteitsverbetering van het toezicht.

Wat is er nodig om het toezicht op AI goed in te richten?

Toepassingscontext

VNO-NCW en MKB-Nederland hebben de komst van de Europese AI Verordening (AI Act) ondersteund. Dit geharmoniseerde regelgevingskader is het fundament op basis waarvan Nederland en Europa hun ambities op AI-gebied op een verantwoorde manier kunnen realiseren. De AI Act is risico gebaseerde productveiligheidswetgeving dat de toepassing van AI reguleert. Een goede inrichting van het toezicht op AI vereist dan ook dat de toezichthouder de context van de toepassing goed kent. Zoals kennis van: de relevante stakeholders, de (horizontale en sectorale) regels en standaarden, het gebruik en de mogelijkheden van technische toepassingen binnen het domein en de wisselwerking met andere domeinen. De toepassing van AI in de medische omgeving vereist bijvoorbeeld andere contextuele kennis en ervaring dan de toepassing van AI in de transportsector of in het onderwijs. Door de werkgroep Toezicht op AI is terecht voorgesteld om de bestaande sector en domein specifieke toezichthouders te versterken om binnen hun respectievelijke sectoren en domeinen toezicht te houden op de toepassing van Annex I hoog-risico AI³. Dit voorstel onderschrijven wij van harte. Wij pleiten ervoor om ook voor artikel 5 (verboden) en de toepassing van AI in de Annex III hoog-risicogebieden de relevante sector en domein specifieke toezichthouders te versterken en waar nodig als markttoezichtautoriteit aan te wijzen.⁴

In de gevallen waarbij de toepassing van AI persoonsgegevens worden verwerkt, is samenwerking met de Autoriteit Persoonsgegevens belangrijk binnen haar huidige mandaat. Ook is samenwerking met het College voor de rechten van de mens⁵ belangrijk, in de gevallen waarbij de toepassing van AI fundamentele rechten in brede zin raakt (behoudens op het specifieke terrein van het gegevensbeschermingsrecht dat bij de Autoriteit Persoonsgegevens ligt).

Coördinerende laag

Omdat op een bepaalde toepassing meerdere toezichthouders actief kunnen zijn, is een coördinerende laag nodig voor (a) het bevorderen en faciliteren van een effectieve samenwerking tussen de relevante toezichthouders; (b) een sector en domein overstijgende signaleringsfunctie; (c) het optimaliseren van kennis over AI; (d) en het bevorderen van een consistent beleid. Deze coördinatietaken liggen nu bij de Directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP-DCA). Voor een onafhankelijke besturing en uitoefening van de belangrijke coördinatietaken, met een voldoende mate van democratische legitimiteit en controle⁶, achten VNO-NCW en MKB-Nederland het loskoppelen van de DCA van de AP nodig⁷. Hierdoor zou er meer balans ontstaan om oog te hebben voor de zowel de risico’s als voor de kansen van de toepassing van AI.

Welke rol kan de Kamer hierbij spelen en hoe krijgt de Kamer meer grip op AI

Er ligt een rol voor de Kamer om vinger aan de pols te houden en zo nodig te sturen op:

• Een voldoende dialoog tussen toezichthouders en de relevante stakeholders, zoals het bedrijfsleven (inclusief tijdige consultaties van leidraden, handreikingen, normuitleggen, beleidskaders e.d.).
• Met name het mkb beter betrekken bij de ontwikkeling en gebruik van standaarden.
• Effectieve en efficiënte samenwerking tussen de relevante toezichthouders. Voorkomen van mandaatoverschrijding door toezichthouders⁸.
• Bij de inrichting van het toezicht op AI zorgdragen dat ook voldoende oog is voor de kansen van AI zodat we als Nederland onze ambities op mensgerichte AI kunnen waarmaken binnen het Europese normstellende kader.
• Op NL en EU-niveau de wisselwerking tussen horizontale en sectorale regels op digitaal gebied in kaart wordt gebracht en een analyse wordt uitgevoerd naar de impact van deze cumulatieve regels op een effectieve bescherming van rechten en op ons
  concurrentievermogen.

¹ https://data.consilium.europa.eu/doc/document/ST-9957-2024-INIT/nl/pdf
² https://open.overheid.nl/documenten/5cb9749c-7efa-40db-9328-5da7fa5fcb7c/file
³ https://www.rijksinspecties.nl/actueel/nieuws/2021/02/03/algoritmen-en-artificiele-intelligentie-hoe
-houd-je-daar-toezicht-op-AI
⁴ Het markttoezicht op producten wordt in Nederland door vijf Rijksinspecties uitgevoerd:
Nederlandse Voedsel- en Warenautoriteit, Rijksinspectie Digitale Infrastructuur, Inspectie voor de
Gezondheidszorg en Jeugd, Inspectie Sociale Zaken en Werkgelegenheid, Inspectie Leefomgeving en
Transport. Markttoezichthouder zoals bedoeld in de Markttoezicht verordening 2019/1020, betreffende
markttoezicht en conformiteit van producten.
⁵ College voor de bescherming van de rechten van de mens: bewaakt en beschermt mensenrechten (o.a.
discriminatie en gelijke behandeling) en bevordert de naleving van mensenrechten.
⁶ Prins, C. (2021) Toezichthouders en publieke verantwoording. Nederlands Juristenblad, 96(25),
2025; Rutte IV toezichtreflex en Autoriteit Persoonsgegevens, Corien Prins, 25 januari 2022,
Nederlands Juristenblad: https://www.njb.nl/blogs/rutte-iv-
toezichtreflex-en-autoriteit-persoonsgegevens/; Ongevraagd advies Raad van State over de
Ministeriële verantwoordelijkheid, W04.20.0135/I, 3 juni 2020, Bijlage Kamerstukken II 2019/20,
35300, nr. 78: https://www.raadvanstate.nl/adviezen/@121354/w04-20-0135/; zie ook het Nader rapport
van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties:
https://open.overheid.nl/documenten/ronl-4322e9fe-eb67-4ab2-bf78-52a5daf8d590/pdf
⁷ https://www.vno-ncw.nl/column/waarom-goed-toezicht-op-ai-belangrijk
⁸ Marlies van Eck: https://njb.nl/blogs/grensverkenningen-door-de-autoriteit-persoonsgegevens/#_ftn28