De Europese Unie werkt hard aan de door haar beoogde digitale transformatie. In het kader daarvan schrijft ze al een hele tijd aan de eerste “AI-wet” ter wereld. Op 13 maart 2024 keurde het Europees Parlement de AI-verordening goed. Er wordt verwacht dat ook de Europese Raad op korte termijn haar goedkeuring verleent en de Verordening vervolgens in 2026 in werking treedt.

De AI-Verordening moet een duidelijk regelgevend kader bieden aan het toenemende gebruik van artificiële intelligentie en bevat regels voor elke schakel in het AI-proces, voor de ontwikkelaar, de aanbieder, de distributeur en de gebruiker. AI-toepassingen worden ingedeeld in vier categorieën op basis van het risico dat ze met zich meebrengen:

1. Verboden AI-toepassingen zoals social scoring of real time biometrische identificatiesystemen op afstand in openbaar toegankelijke ruimten.
2. AI-toepassingen met hoog risico zoals toepassingen die gebruikt worden in kritieke infrastructuur (bv. toepassingen gebruikt in de energie-infrastructuur of toepassingen gebruikt om toegang tot onderwijsinstellingen te bepalen).
3. AI-toepassingen met beperkt risico zoals chatbots, toepassingen die beeld-, audio- of video-inhoud genereren.
4. AI-toepassingen met laag of geen risico zoals spamfilters.

Elke categorie brengt specifieke verplichtingen met zich mee zoals het opstellen en inbouwen van controlesystemen, systemen van risicobeheer en monitoring of nog bepaalde transparantieverplichtingen.

De AI-verordening voorziet in strenge sanctionering bij overtreding van de vooropgestelde regels. Afhankelijk van de inbreuk kunnen boetes oplopen tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.