Europese regels voor Artificial Intelligence (AI Act)

De Europese verordening voor Artificial Intelligence (de AI Act) is kortgeleden aangenomen door het Europees Parlement en treedt binnenkort in werking. Alle bedrijven die gebruik maken van AI moeten vanaf 2026 voldoen aan de eisen. Afgelopen dinsdag werden de nieuwe regels toegelicht door Economische Zaken, toezichthouders, ICT-bedrijven en kennisinstellingen tijdens het AI Act congres bij VNO. Daar werd ook ingegaan op de implementatie in Nederland.

Wat is de AI Act en wat betekent het voor jou?
De AI Act is onderdeel van het Europese wetgevingspakket in het kader van de digitale agenda, waaronder ook de DORA verordening en open finance (FIDA) vallen. De AI Act stelt regels voor alle autonoom handelende computersystemen en algoritmes die beslissingen nemen, content genereren of mensen assisteren.

Het doel van de AI Act is dat mensen en bedrijven in de EU kunnen rekenen op veilige, transparante, traceerbare, niet-discriminerende en milieuvriendelijke AI-systemen die onder toezicht staan van mensen. Alle inzet van AI (oftewel: autonoom werkende computers en algoritmes) valt onder de AI Act.

De verordening volgt een risicogebaseerde benadering en stelt verplichtingen voor aanbieders en gebruikers afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt. Een paar belangrijke kenmerken:

• De AI Act maakt onderscheid tussen hoog en laag risico. Strenge regels gelden voor hoog risico toepassingen, zoals bij toepassing bij veiligheid of bij selectieprocessen zoals recruitment.
• Niet alleen ontwikkelaars maar ook gebruikers van AI vallen onder de verordening. Iedereen die gebruik maakt van AI zal moeten kunnen aantonen dat deze aan de regels voldoet. De eisen vanuit de AI Act zijn wel strenger voor ontwikkelaars.
• De AI Act is van toepassing op alle sectoren, waaronder de financiële sector. Het gaat net als bij de AVG dus om horizontale wetgeving die over de sectoren heen voor alle bedrijven geldt. Tegelijk zal de uitwerking van de regels sectorspecifiek zijn en is het toezicht belegd bij de nationale toezichthouder van de betreffende sector. Voor de financiële dienstverlening is dat de AFM.
• Voor ondernemingen die AI toepassingen ontwikkelen komt er de mogelijkheid om te toetsen of wordt voldaan aan de nieuwe regels. Nederland richt daarvoor net als in andere landen een zogenaamde regulatory sandbox. Dit moet nog verder worden uitgewerkt en ook de nadere regels en standaarden moeten nog vorm krijgen.

Tijdens de webinars eind vorig jaar en begin dit jaar hebben we gekeken naar de toepassingen van AI in onze sector. Ben jij bezig of van plan AI toe te passen let dan ook op de verordening en de eisen die vanaf 2026 gelden. Wij blijven dit volgen en houden je op de hoogte van verdere ontwikkelingen, waaronder dus ook de regelgeving inzake toepassing van artificial intelligence.