Onderzoek EU-wetsvoorstel AI-verordening

De leden van het lectoraat Recht & Digitale Technologie van de Juridische Hogeschool Avans&Fontys doen niet alleen onderzoek op het snijvlak van het recht en digitale technologie. Ze leveren ook een bijdrage aan het onderwijs.

Praktijkgericht juridisch onderzoek naar het EU-wetsvoorstel AI-verordening

In het tweede leerjaar gaan studenten een praktijkgericht juridisch onderzoek uitvoeren. Studenten krijgen een onderzoeksvraag van een echte opdrachtgever uit de praktijk, schrijven hier met hun projectgroep een onderzoeksplan voor en gaan dit onderzoek ook daadwerkelijk uitvoeren. Ze leveren dan een onderzoeksrapport en een bijbehorend product, zoals een filmpje, poster of artikel, op aan de opdrachtgever.

Het lectoraat Recht & Digitale Technologie is één van deze opdrachtgevers. Wij zien dat er steeds meer gebruik gemaakt wordt van kunstmatige intelligentie (hierna: AI) door bedrijven, overheden en onderzoeksinstellingen. AI ontwikkelt zich snel. Naar verwachting zal het gebruik daarvan de komende jaren alleen maar gaan toenemen. AI kan veel voordelen opleveren, maar de toepassing van AI brengt ook risico’s en uitdagingen met zich mee, bijvoorbeeld op het terrein van grondrechten die in het geding kunnen komen. De Europese Unie heeft daarom besloten dat er regulering moet komen. Er wordt gewerkt aan een wet met betrekking tot de regulering van AI: de AI-verordening. Wij vroegen ons af wat deze AI-verordening allemaal gaat regelen en of ondernemingen wel weten dat deze verordening eraan komt en wat de gevolgen van deze verordening voor hun onderneming zijn. Wij hebben de studenten gevraagd hier onderzoek naar te doen.

Resultaten

Zeven groepen zijn enthousiast gestart met hun onderzoek. Op 1 juni hebben zij hun resultaten gepresenteerd aan Vivian Dank, lid van het lectoraat. De belangrijkste conclusies van de studenten waren dat de aankomende AI-verordening verschillende risico-categorieën hanteert en afhankelijk van die classificatie verplichtingen oplegt aan organisaties die AI-toepassingen ontwikkelen of inzetten. Hoe hoger het risico, hoe meer verplichtingen. Als de organisaties zich hier niet aan houden, dan kunnen ze onder andere een boete krijgen. Het onderzoek naar de vraag of ondernemingen hiervan op de hoogte zijn, is door de groepen zeer verschillend aangepakt. Sommige studenten hebben een klein aantal ondernemingen geïnterviewd, anderen hebben een groot aantal ondernemingen bevraagd door middel van een enquête. Een groep heeft zelfs medewerking gekregen van de Nationale AI Coalitie[1]. De conclusie was meestal dat bedrijven wel behoefte hadden om nader geïnformeerd te worden over de vereisten van de aankomende AI Verordening. De studenten raadden ons vooral aan om daarvoor gebruik te maken van infographics. Deze werden dan ook het meest opgeleverd als beroepsproduct. Hieronder staan, met toestemming van de studenten, drie voorbeelden opgenomen.

Vivian was zeer onder de indruk van de presentaties en de resultaten die de studenten hebben opgeleverd.

[1] De Nationale AI Coaliatie is een publiek-privaat samenwerkingsverband waarbij overheid, bedrijfsleven, onderwijs- en onderzoeksinstellingen en maatschappelijke organisaties zich inzetten om AI-ontwikkelingen in Nederland te versnellen en AI-initiatieven in Nederland met elkaar te verbinden. https://nlaic.com/over-nl-aic/

Vivian Dank

(Annabel, Femke, Lise, Merlijn) (Aurelie, Alperen, Monera, Stefan) (Emma, Rachelle, Serge, Thomas)