Voorbereidende werkzaamheden implementatie AI-Act (augustus 2026)

Per 1 augustus is de AI-Act ingegaan. Deze zal vanaf 1 augustus 2026 van toepassing zijn, met uitzondering van enkele bepalingen zoals verboden toepassingen die al een half jaar na ingang van toepassing zijn. In een aantal eerdere berichten hebben we de hoofdkenmerken van deze Europese verordening toegelicht, zijn we ingegaan op de risico-indeling en hebben we de specifieke verplichtingen in geval van ontwikkeling en gebruik van een AI toepassing met een hoog risico classificatie beschreven. In dit bericht vertellen we wat je ter voorbereiding kunt doen.

De volgende zaken komen aan de orde als ondernemingen zich voorbereiden op de implementatie van de AI-Act (augustus 2026):

Aandachtspunten voor ontwikkelaars van AI systemen

Op basis van het beoogde gebruik beoordelen in welke risico-categorie het AI systeem valt.
Beoordeel of het AI systeem voldoet aan de vereisten van die risico-categorie (hoog/laag)
In geval van een hoog-risico AI systeem is, voorbereidingen treffen zodat het compliant is met de vereisten die de AI-Act stelt.
Wanneer onduidelijk is hoe de AI-Act uitgelegd moet worden voor jouw AI systeem (of een bepaald aspect daarvan) is het mogelijk om gebruik te maken van een regulatory sandbox. Dit moet voor Nederland nog verder worden uitgewerkt door de toezichthouder (AFM/DNB)

Aandachtspunten voor afnemers/gebruikers van AI systemen:

Inventariseer welke AI systemen je organisatie gebruikt; vraag leveranciers van software of er AI is verwerkt in de software.
Beoordeel vervolgens of AI systemen worden gebruikt die in de verboden of hoog-risico categorie vallen; vraag zo nodig je leverancier van software om verklaringen/garanties dat er geen verboden en/of hoog-risico AI systemen worden ingezet.
Wanneer je gebruik maakt van een verboden AI systeem, faseer dit uit. Ga op zoek naar alternatieven en beëindig het gebruik van dit AI systeem.
Wanneer je gebruik maakt van een hoog-risico AI systeem, beoordelen of het AI systeem aan de vereisten voldoet. Daar waar het AI systeem niet aan een vereiste voldoet, zet je een traject in gang om ervoor te zorgen dat het AI systeem aan de vereisten gaat voldoen. Leg deze verplichting zo mogelijk bij de leverancier van het AI systeem.
Pas je inkoopvoorwaarden aan. Zorg dat een leverancier van hardware/software transparant is over de AI systemen die het wil gaan leveren en de risico-categorie waar het AI systeem in valt. Waarborg ook dat het AI systeem aan de vereisten blijft voldoen. De leverancier zou dit gedurende het gehele gebruik van het AI systeem moeten monitoren (post-market surveillance) en het AI systeem zo nodig aanpassen.

Wij volgen de verdere ontwikkelingen van de AI regelgeving en voeren daarover het gesprek met onder andere de AFM. De AI-Act is een verordening en daarmee direct van toepassing in de verschillende lidstaten. Wel kan  de Nederlandse regelgever op onderdelen nadere duiding geven en het toezicht door de AFM zal verder worden ingericht. Mocht je nu vragen hebben, laat het ons dan weten.