Kunstmatige of artificiële intelligentie (of afgekort AI) is niet meer weg te denken uit onze dagdagelijkse leefwereld. Bewust of onbewust maken we iedere dag gebruik van deze intelligente toepassingen/algoritmes: detectie van ons surfgedrag op Google waarna we advertenties krijgen volgens ons profiel, de chatbots indien we de webshop van onze favoriete kledingmerk raadplegen, navigatiesystemen als Waze, zelfrijdende auto’s, robots die worden ingezet in industriële productieprocessen AI-toepassingen voor diagnoses/behandelingen in de medische sector. Alle maatschappelijke sectoren krijgen vroeg of laat te maken met of initiëren deze systemen die onze intelligentie nabootsen om taken uit te voeren en die zichzelf tijdens dat proces kunnen verbeteren op basis van de vergaarde informatie.
Het is evident dat deze systemen nieuwe juridische uitdagingen stellen. Er bestaat vandaag geen juridisch raamwerk in België, Europa of wereldwijd dat specifiek toegespitst is op de toepassingen van AI. We moeten ons dus behelpen met de bestaande rechtsregels die een algemeen toepassingsgebied hebben en die dergelijke AI-systemen ontsluiten. Gedacht kan worden aan de Algemene Verordening Gegevensbescherming, beter gekend onder zijn acroniem GDPR, dat toeziet op de bescherming van de verwerking van persoonsgegevens. De verwerking van onze persoonsgegevens of privacy is bijzonder relevant in deze context aangezien deze systemen/algoritmes ons doen en laten (zowel van particulieren, bedrijven als overheden) zouden kunnen ‘screenen’ en de vergaarde informatie soms voor andere dan de beoogde doeleinden kunnen aanwenden of gebruiken.
De Europese Unie wil een pioniersrol spelen op dit vlak en neemt verschillende initiatieven voor de digitale snelweg. Op 21 april 2021 heeft de Europese Commissie een voorstel van verordening gepubliceerd om een allesomvattend regelgevend kader uit te werken voor AI-systemen. Het doel is de invoering van AI in de meest ruime sectoren te bevorderen en de risico’s in verband met bepaalde toepassingen van dergelijke technologieën aan te pakken. De Europese Commissie probeert een uniform juridisch kader voor de hele EU te creëren hetgeen voor ondernemingen tot vereenvoudiging en duidelijkheid zou moeten leiden met gelijke spelregels voor iedereen binnen de EU.
In bepaalde gevallen kunnen de specifieke kenmerken van bepaalde AI-systemen immers nieuwe risico's met zich meebrengen in verband met de veiligheid en de grondrechten van de gebruiker, zoals de menselijke waardigheid, de eerbiediging van het privéleven en het familie- en gezinsleven, de bescherming van persoonsgegevens en non-discriminatie, … Dit leidt tot rechtsonzekerheid voor bedrijven en kan, als gevolg van het gebrek aan vertrouwen, de invoering van AI-technologieën vertragen.
De ontwerpverordening volgt een ‘risico-gebaseerde aanpak’ waarbij een onderscheid wordt gemaakt tussen AI-systemen die i) een onaanvaardbaar risico, ii) een hoog risico en iii) een laag of minimaal risico met zich brengen. De voorschriften verschillen met andere worden per risicocategorie.
Hoog risico AI-systemen die als risicovol worden aangemerkt zijn systemen die bijvoorbeeld gebruikt worden in kritieke infrastructuurnetwerken (bv. vervoer), die het leven en de gezondheid van burgers in gevaar kunnen brengen; onderwijs of beroepsopleiding, die bepalend kunnen zijn voor de toegang tot onderwijs en professionele carrière (bv. verbeteren van examens); veiligheidscomponenten van producten (bv. AI-toepassing in door robots ondersteunde chirurgie), werkgelegenheid en personeelsbeheer, essentiële particuliere en openbare diensten zoals politiediensten, douanediensten, rechtbanken en andere overheden.
Een groot risicogehalte wordt ook toegedicht aan systemen van biometrische identificatie op afstand (bv. gezichtsherkenning) in realtime op openbare plaatsen, zoals op straat. Biometrische identificatie is daarom in principe verboden, behalve in enkele strikt gedefinieerde, beperkte en gereguleerde gevallen, zoals de gerichte opsporing van specifieke slachtoffers van misdrijven.
AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht, zoals registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen; gedetailleerde documentatie met alle nodige informatie om de autoriteiten in staat te stellen het doel en de conformiteit van het systeem te beoordelen; duidelijke en adequate informatie voor gebruikers, etc.
Voor het gebruik van andere AI-systemen met een minimaal risico, zoals bijvoorbeeld “chatbots”, gelden dan weer minimale verplichtingen. In essentie wordt aan de aanbieder van het AI-systeem een transparantieplicht opgelegd: (de gebruiker van de chatbots dient zich bewust te zijn van het feit dat hij met een machine interageert zodat zij met kennis van zaken kunnen beslissen om die interactie aan te vatten).
Ten slotte zijn er ook systemen die een beperkt risico in zich dragen. Zo staat de wetgever het vrije gebruik toe van op AI geïnspireerde videospellen of spamfilters. De ontwerpverordening laat die systemen ongemoeid aangezien het risico voor de rechten of veiligheid van de burgers minimaal of onbestaand is. De meerderheid van de AI-systemen valt binnen deze categorie.
Net als bij de GDPR, kunnen er forse boetes worden opgelegd voor overtreding van de voorschriften van de regelgeving, met administratieve boetes tot 20.000.000 euro of 4% van de totale jaaromzet wereldwijd van de onderneming. De handhaving gebeurt op nationaal niveau en elk land zal een toezichtsautoriteit moeten aanduiden. Er wordt bovendien op Europees niveau een European Artificial Intelligence Board (EAIB) opgericht die de implementatie van de regelgeving moet faciliteren en bepaalde standaarden voor AI-systemen uitwerken.
Momenteel gaat het om een voorstel van verordening dat nog verder het wetgevend traject langs het Europees Parlement en de Raad dient af te af te leggen. De ervaring met de GDPR leert ons dat dit enige tijd in beslag kan nemen. Niettemin is het duidelijk dat deze wetgeving hoog op de prioriteitenlijst staat van de Europese wetgever en binnen afzienbare tijd zal aangenomen worden. Wij volgen alvast nauwgezet de ontwikkelingen ter zake en houden u verder op de hoogte.
