De Autoriteit Persoonsgegevens (AP) is gestart met een nieuwe directie voor toezicht en coördinatie op AI en algoritmes. De directie bereidt onder meer het toekomstige markttoezicht op de AI-verordening voor en werkt samen met de Rijksinspectie Digitale Infrastructuur (RDI) aan een AI-sandbox en een gezamenlijk coördinatiecentrum.
De AP is nog niet formeel aangewezen als markttoezichthouder. Daarvoor is de Nederlandse Uitvoeringswet AI-verordening nodig. De AP beschikt pas over bevoegdheden voor het markttoezicht zodra die wet van kracht is. Wel werkt de toezichthouder al aan samenwerking, voorlichting en ondersteuning van verantwoorde innovatie en bouwt hij kennis op over onder meer AI-veiligheid.
De nieuwe directie bestaat uit de afdelingen AI/Algoritmes Risicoanalyse & Coördinatie (ARC) en Markttoezicht AI (MTA). ARC onderzoekt de gevolgen van AI en algoritmes voor mensen, grondrechten en de samenleving. De afdeling richt zich onder meer op impactvolle algoritmische systemen, algoritmeregisters en auditeringskaders. MTA ontwikkelt kennis en technische expertise om AI-systemen te onderzoeken en testen en bereidt het toezicht op de AI-verordening voor.
De AP en de RDI zetten daarnaast gezamenlijk een AI-sandbox op. In deze gecontroleerde omgeving kunnen organisaties samen met toezichthouders innovatieve AI-systemen ontwikkelen en deze in lijn brengen met de AI-verordening. Volgens de AP gelden al regels voor AI: sommige toepassingen zijn verboden en voor onder meer AI-gegenereerde video’s, afbeeldingen en teksten gelden transparantieverplichtingen. Vanaf 2 december geldt bovendien een verbod op AI die mensen zonder toestemming virtueel uitkleedt. In Nederland wordt nog gewerkt aan de Uitvoeringswet AI-verordening.