Eerste regels van toepassing
Vanaf 2 februari 2025 zijn de eerste regels van de AI-wet van toepassing. Ze hebben betrekking op de bepalingen in de hoofdstukken I en II.
Hoofdstuk I bevat algemene bepalingen over het onderwerp van de AI-wet, definities, het toepassingsgebied van de AI-wet en bepalingen over AI-geletterdheid. Die bepalingen zijn essentieel omdat ze de materiële, territoriale en persoonlijke reikwijdte van de AI-wet bepalen. Artikel 3 geeft bijvoorbeeld de definitie van een “AI-systeem”: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen”). De Europese Commissie heeft aangekondigd dat ze richtlijnen gaat uitvaardigen voor het definiëren van AI-systemen, om de industrie te helpen bepalen of een softwaresysteem als AI kan worden aangemerkt.
Hoofdstuk II bevat bepalingen over verboden AI-praktijken. Hierin worden AI-systemen gedefinieerd die een onaanvaardbaar risico vormen en daarom volledig verboden zijn binnen de EU. Hieronder vallen AI-technologieën die fundamentele rechten en vrijheden kunnen schenden. De AI-wet verbiedt met name manipulatieve AI-systemen die gebruikers misleiden of uitbuiten, evenals AI die misbruik maakt van de kwetsbaarheid van bepaalde individuen, zoals kinderen of mensen met een handicap. Daarnaast is de een beoordeling van natuurlijke personen (‘social scoring’), zoals in China, expliciet verboden. De AI-wet verbiedt ook risicobeoordeling die uitsluitend gebaseerd is op profilering om crimineel gedrag te voorspellen. Een ander voorbeeld is ongerichte scraping van online data om gezichtsherkenningsdatabases te maken – zoals in het geval van Clearview AI. Het verbod op die systemen is bedoeld om AI-misbruik te voorkomen en ethische normen binnen de EU te handhaven.
Verplichte maatregelen inzake AI-geletterdheid
AI-geletterdheid wordt omschreven als “vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken”. Kortom, AI-geletterdheid gaat over het begrijpen van AI-systemen en de risico’s en mogelijkheden ervan. Maatregelen voor AI-geletterdheid moeten gebruikers, aanbieders en betrokken individuen in staat stellen geïnformeerde beslissingen te nemen over AI, met inachtneming van hun rechten en plichten.
De EU-wetgever benadrukt het belang van AI-geletterdheid door al vroeg in de AI-wet (artikel 4) een verplichting in te voeren voor aanbieders en gebruiksverantwoordelijken van AI-systemen om te zorgen voor voldoende AI-geletterdheid. Het doel is ervoor te zorgen dat hun personeel volledig op de hoogte is van de AI-systemen waarmee ze te maken hebben. Aangezien die verplichting deel uitmaakt van de algemene bepalingen, geldt ze universeel voor alle AI-systemen, ongeacht hun risiconiveau. De AI-wet specificeert dat inspanningen op het gebied van AI-geletterdheid moeten worden aangepast aan de specifieke behoeften van verschillende individuen of groepen.
Maatregelen om AI-geletterdheid te vergroten hebben voornamelijk betrekking op het opleiden en/of aannemen van gekwalificeerd personeel. Het zou nuttig zijn voor organisaties om na te gaan welke werknemers met AI-systemen werken, om eventuele verschillen in moeilijkheidsgraad van deze systemen te ontdekken en om de juiste training daarop af te stemmen. Het is aan te raden om alle trainingen te documenteren om de naleving van de regels te kunnen bewijzen.
De Europese Commissie zal, samen met de Europese raad voor artificiële intelligentie (de ‘AI-board’), instrumenten voor AI-geletterdheid promoten en heeft aangekondigd een dynamische database van praktijken voor AI-geletterdheid te zullen publiceren.
De AI-wet bepaalt ook dat vrijwillige gedragscodes elementen zullen bevatten met betrekking tot AI-geletterdheid.
Naleving en sancties?
De AI-wet bepaalt dat niet-naleving van het verbod op de AI-praktijken bedoeld in hoofdstuk II wordt bestraft met administratieve geldboeten tot 35.000.000,00 euro of, als de overtreder een onderneming is, tot 7% van de totale wereldwijde jaaromzet van die onderneming in het voorgaande boekjaar, als dat bedrag hoger is. Die boetes zijn van toepassing vanaf 2 augustus 2025.
De AI-wet voorziet niet in een specifieke sanctie voor niet-naleving van het beginsel van AI-geletterdheid. Het is echter aan de lidstaten om de regels inzake sancties en andere handhavingsmaatregelen van de AI-wet, die ook waarschuwingen en niet-monetaire maatregelen kunnen omvatten, aan te vullen. In België zijn dergelijke regels nog niet vastgesteld, omdat de autoriteiten nog in overleg zijn over de op te zetten toezichtstructuur. Verwacht wordt dat de Belgische wetgever in de komende maanden regels voor de toezichtstructuur en sancties zal vaststellen.
