De Europese Unie heeft afgelopen week een reeks richtlijnen gepubliceerd die bedrijven en overheden een leidraad moeten geven bij het ontwikkelen van AI-toepassingen op een ethische manier.
De hoge vlucht van Artificiële Intelligentie
Artificiële Intelligentie of AI beheerst sinds enige tijd heel wat (juridische) debatten. Technologie is inmiddels zo ver geëvolueerd dat slimme en zelflerende computeralgoritmes heel wat taken kunnen overnemen die klassiek door mensen werden uitgevoerd.
Het gaat daarbij meestal over software die op basis van grote hoeveelheden data patronen kan leren herkennen en uit die patronen bepaalde besluiten kan trekken of acties kan ondernemen. AI-toepassingen laten bvb toe om bepaalde medische diagnoses sneller en efficiënter geautomatiseerd te stellen dan wanneer een arts zelf hetzelfde werk zou moeten doen. Recente testen tonen bijvoorbeeld aan dat huidkankerdiagnoses met zeer grote precisie door AI-software gesteld kunnen worden.
Maar ook in andere sectoren vindt Artificiële Intelligentie of Machine Learning nuttige toepassingen. AI kan helpen om verkeersstromen te begeleiden, om individueel rijgedrag te voorspellen (wat erg interessant is voor verzekeraars, die plots het individuele ongevalrisico van een bepaalde persoon kunnen inschatten met grote precisie), consumentengedrag te voorspellen, om onderwijs beter af te stemmen op de noden van studenten, om uit grote hoeveelheden data potentiële fraude te detecteren in bijvoorbeeld de financiële sector of in de online gokwereld, …
Risico’s en bezorgdheden
Heel wat potentiële nuttige toepassingen dus, maar tegelijkertijd stellen zich toch ook heel wat risico’s en bezorgdheden rond het gebruik van Artificiële Intelligentie, met name op het vlak van privacy, non-discriminatie en individuele vrijheid. AI laat immers toe om op zeer grote schaal data over mensen te verwerken en data uit verschillende bronnen aan elkaar te koppelen om daaruit soms erg onverwachte besluiten te trekken. Als die besluiten op hun beurt automatisch tot bepaalde gevolgen leiden (iemand krijgt geen verzekering of lening, iemand krijgt geen woning toegewezen, …) kan dat leiden tot discriminatie waartegen de betrokkene zich slechts zeer moeilijk kan verzetten. Het hilarische “Computer says no” uit de legendarische tv-serie Little Britain wordt zo plots een erg reële situatie.
De EU komt tussenbeide
De EU probeert nu preventief in te grijpen en ervoor te zorgen dat overheden en bedrijven die met AI aan de slag gaan op zijn minst een aantal ethische en democratische principes toepassen die een garantie moeten bieden voor de individuele rechten en vrijheden van de burgers in de Europese Unie.
Hiervoor heeft de EU een groep van 52 deskundigen samengebracht. Zij hebben op basis van hun specifieke vakkennis en ervaring een lijst opgesteld van zeven basisvereisten waaraan volgens hen alle toekomstige AI-systemen zouden moeten voldoen. Deze lijst is verwerkt in een verslag met richtlijnen dat deze week publiek gemaakt werd.
Samengevat zijn deze als volgt:
- Human agency and oversight
AI mag de menselijke autonomie niet in de weg staan. Mensen mogen niet gemanipuleerd of gedwongen worden tot bepaalde gedragingen door AI-systemen en mensen moeten kunnen ingrijpen of toezicht houden op elke beslissing die de software neemt.
- Technische robuustheid en veiligheid
AI moet veilig en accuraat zijn. AI-systemen moeten bestand zijn tegen externe aanvallen en de werking ervan moet betrouwbaar zijn.
- Privacy en gegevensbeheer
Persoonsgegevens die door AI-systemen worden verzameld, moeten veilig en vertrouwelijk verwerkt worden. Ze mogen niet toegankelijk zijn voor onbevoegden en moeten afdoende beveiligd zijn. Dit volgt overigens eigenlijk ook logischerwijze uit een correcte toepassing van de GDPR of AVG, die deze beginselen sowieso ook al oplegt.
- Transparantie
Gegevens en algoritmen die worden gebruikt om een AI-toepassing te maken, moeten toegankelijk zijn en de beslissingen die door de software worden genomen, moeten begrepen en opgespoord kunnen worden door mensen.
- Diversiteit, non-discriminatie en eerlijkheid
Diensten aangeboden op basis van AI moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken en vanzelfsprekend mag op basis van deze criteria door de software niet gediscrimineerd worden.
- Milieu en maatschappelijk welzijn
AI-systemen moeten duurzaam zijn (d.w.z. ze moeten ecologisch verantwoord zijn) en “positieve sociale verandering bevorderen”
- Verantwoordingsplicht
AI-systemen moeten controleerbaar zijn. Potentiële negatieve effecten van systemen moeten van tevoren worden onderzocht en gerapporteerd. Hiermee wordt in se verwezen naar de verplichte Data Protection Impact Assessment (DPIA) of Gegevensbeschermingseffectenbeoordeling onder GDPR of AVG.
Het rapport bevat bovenop bovenstaande principes ook wat een “betrouwbare beoordelingslijst voor AI” wordt genoemd. Dit is een checklist met vragen waarmee deskundigen mogelijke zwakke plekken of gevaren in AI-software kunnen achterhalen en die moet helpen bij het maken van een voorafgaande impact assessment of effectenbeoordeling, al dan niet onder GDPR of AVG.
Geen bindende wetgeving
Deze richtlijnen zijn niet juridisch bindend, maar ze kunnen vorm geven aan toekomstige wetgeving van de Europese Unie. De EU heeft herhaaldelijk gezegd dat zij een leider wil zijn in ethische AI en heeft met de GDPR laten zien bereid te zijn om verreikende wetten te creëren die digitale rechten beschermen.
De beoordelingslijsten zijn ook slechts voorlopig, maar de EU zal de komende jaren feedback van bedrijven verzamelen, met een eindverslag over hun nut in 2020.
In afwachting heeft de EU de European AI Alliance opgericht, een denktank en overlegorgaan waar experten in AI uit allerlei vakgebieden in discussie kunnen gaan met de EU High Level Expert Group on Artificial Intelligence binnen de Europese Commissie. Sirius Legal is, samen met vertegenwoordigers van heel wat universiteiten, overheden en beroepsfederaties, overigens actief lid van deze AI Alliance.
