AI Act-eisen voor toepassingen met een hoog risico classificatie

AI Act-eisen voor toepassingen met een hoog risico classificatie

Eerder berichtten we over de verschillende risico-classificaties die de AI Act kent en op grond waarvan AI-toepassingen moeten worden ingedeeld. Daarbij gingen we ook in op de verplichtingen die per classificatie gelden. In dit vervolgbericht zoomen we in op de specifieke eisen die gelden voor AI-toepassingen met een hoog risico classificatie. De AI Act ziet zowel op ontwikkelaars als gebruikers van AI-systemen, waarbij voor ontwikkelaars meer uitgebreide eisen gelden. 

Twee toepassingen in de financiële sector zijn in de lijst (annex iii) van de Act opgenomen als hoog risico.  

  • AI-systemen die gebruikt worden voor bepaling van kredietwaardigheid van natuurlijke personen 
  • AI-systemen die gebruikt worden voor risico beoordeling en prijsstelling in het kader van levensverzekeringen en ziektekosten verzekeringen.  

Deze toepassingen zijn dus onderworpen aan strenge verplichtingen voordat zij in de handel kunnen worden gebracht: 

  • adequate risicobeoordelings- en mitigatiesystemen 
  • hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten tot een minimum te beperken 
  • logboekregistratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen 
  • gedetailleerde documentatie met alle informatie die de autoriteiten nodig hebben over het systeem en het doel ervan om de naleving ervan te beoordelen 
  • duidelijke en adequate informatie voor de exploitant 
  • passende maatregelen voor menselijk toezicht om het risico tot een minimum te beperken 
  • hoge mate van robuustheid, veiligheid en nauwkeurigheid 

Wat precies de eisen zijn en hoe daarop voor te bereiden zal komende periode nader worden uitgewerkt. Zo wordt gekeken naar use case (voorbeelden van toepassingen) om een analyse te maken.