AI Lab van start voor effectief en verantwoord toezicht

Thema:: Artificiële intelligentie

20 oktober 2023

Samenwerken aan een nieuwe generatie verantwoorde AI: dat is het doel van het op 19 oktober gelanceerde ICAI Lab AI4Oversight. In samenwerking met 4 partners en 2 universiteiten, gaan we met het lab niet alleen verantwoorde en uitlegbare AI ontwikkelen, maar ook de samenwerking optimaliseren tussen inspecteurs en AI-systemen. De schaarse inspecteurs worden met nieuwe algoritmes en werkwijzen optimaal ondersteund voor een effectievere inzet van hun tijd.

Partners-bij-ondertekening-ICAI-Lab-AI4Oversight — Betrokken medewerkers TNO vieren ondertekening met boven: (v.l.n.r) Frans van Ette, Erik Peeters, Sharon Prins. En beneden: (v.l.n.r) Steven Vethman, Cor Veenman en Marianne Schaaphok.

Het ICAI Lab AI4Oversight is op 19 oktober officieel gestart en bestaat uit:
• 5 partners: Inspectie Leefomgeving en Transport, Nederlandse Arbeidsinspectie, Inspectie van het Onderwijs, Nederlandse Voedsel- en Warenautoriteit en TNO.
• 2 universiteiten: Universiteit Utrecht en Universiteit Leiden

Optimale inzet inspecties: de sleutelrol van AI

Toezicht houden betekent niet dat je altijd en overal alles continu inspecteert. Dat is onmogelijk. Er moeten dus keuzes worden gemaakt. Daarbij is het de kunst om precies dáár te inspecteren waar de maatschappelijke bijdrage het grootst is.

Maar hoe kom je tot een risicogestuurde aanpak waarbij inspecteurs zo veel mogelijk op de juiste momenten op de juiste plekken worden ingezet? Dat is de opgave waar toezichthouders gezamenlijk een oplossing voor zoeken. En de inzet van artificiële intelligentie (AI) speelt daarbij een grote rol, vooral nu die steeds geavanceerder wordt.

“Waar mogelijk maken we al gebruik van AI voor een verantwoorde, selectieve en effectieve inzet van onze inspecteurs. Maar er liggen meer kansen in het verschiet”, zo vat Mattheus Wassenaar, Inspecteur-Generaal van de ILT, de aanleiding voor de samenwerking samen.

“Samen met universiteiten gaan we methodes ontwikkelen die ervoor zorgen dat onze mensen optimaal door algoritmes worden ondersteund. Inspecteurs zijn schaars en zij genereren daardoor ook niet zoveel data. Dat betekent dus dat we algoritmes nodig hebben die sneller leren, met beperkte hoeveelheden data. Ook is er veel aandacht voor het voorkomen van ongewenste selectievoorkeur. We doen er alles aan om gezamenlijk tot een AI te komen die we op een verantwoorde en betrouwbare manier in het inspectiedomein kunnen inzetten.”

Nieuwe methodes ontwikkelen en testen

Praktijkervaringen hebben al duidelijk gemaakt dat er nieuwe methodes nodig zijn voor AI binnen het toezichtdomein. Dat leidde tot de huidige onderzoeksagenda waarbij universiteiten methodes ontwikkelen die goed aansluiten bij de praktijk. Dat alles in nauwe samenwerking met de deelnemende toezichthouders. Zorgvuldigheid is daarbij het uitgangspunt.

Zo zullen er altijd eerst uitgebreide testen plaatsvinden om te bepalen in hoeverre een AI-toepassing op een effectieve en verantwoorde manier in praktijksituaties kan worden toegepast. Met deze aanpak wordt er dus een brug geslagen tussen theorie en praktijk, waarbij inspecties en TNO gebruik kunnen maken van nieuwe methodes, terwijl de universiteiten hun onderzoek kunnen baseren op praktijkcasuïstiek. De onderzoeksagenda richt zich op de thema’s: samenwerking tussen mens en machine, sneller en eerlijker lerende algoritmes en de bijdrage van AI op het verbeteren van gedrag.

Lees meer over het ICAI Lab AI4Oversight op de website van ICAI (Engelstalig)