AI Systems Engineering & Lifecycle Management
In hoeverre kan een AI-systeem zich aanpassen aan nieuwe wetten en gebruikerswensen? En is een AI flexibel genoeg om snel in te kunnen spelen op maatschappelijke ontwikkelingen? Voor engineers is het een grote uitdaging om tot een toekomstbestendig AI-systeem te komen.
Multidisciplinaire engineers
Om te beginnen moeten engineers rekening houden met de wensen en eisen van de gebruikers en de omgeving waarin een AI-systeem wordt ingezet. Daarnaast moeten de juiste morele en ethische en juridische keuzes worden gemaakt en vastgelegd.
En dat alles niet alleen in de ontwikkelfase, maar juist ook in de fase waarin een AI-systeem daadwerkelijk wordt ingezet. Het doel is immers om tot AI-oplossingen te komen die in staat zijn om zich snel aan te passen aan toekomstige eisen, wensen en veranderende omgevingen waarvan we kunnen aantonen dat deze voldoen aan alle gestelde eisen.
Om een AI-systeem voortdurend up-to-date te houden moeten multidisciplinaire engineers nauw samenwerken met alle betrokkenen en zowel technische als organisatorische aanpassingen doorvoeren.
AI learning
Een belangrijke eigenschap van AI is dat het om een dynamische technologie gaat, waarbij zelflerende algoritmen ervoor zorgen dat zo’n systeem steeds beter wordt in het oplossen van een probleem.
Maar hoe geavanceerder AI-systemen worden, hoe lastiger het voor mensen wordt om die systemen te evalueren op betrouwbaarheid en of dit systeem in alle voorziene omstandigheden de juiste adviezen geeft en beslissingen neemt. Voor sommige betrokkenen betekent dat zelfs dat ze hun werkwijze drastisch moeten aanpassen.
Leren hoe algoritmen werken
De RDW is een van de vele organisaties die momenteel volop in de leermodus zitten om de ontwikkelingen op het vlak van AI bij te kunnen benen.
Nu er steeds meer bedrijven zijn die beweren dat het op korte termijn mogelijk wordt om zelfrijdende auto’s veilig op de openbare weg te laten rijden, moeten de inspecteurs van de RDW niet alleen verstand hebben van de mechanische onderdelen van auto’s, maar ook van de algoritmen die voor de (semi)autonome besturing van zo’n voertuig zorgen.
Een belangrijke vraag daarbij is hoe type goedkeuringen in de toekomst moeten worden georganiseerd. Want wat is zo’n goedkeuring nog waard als zo’n voertuig na een software-update over nieuwe functionaliteiten beschikt die ook invloed hebben op de rijeigenschappen en verkeersveiligheid?
En dit is slechts één voorbeeld van hoe AI een bestaande situatie flink op z’n kop kan zetten.
Vier aandachtspunten voor de levensduur van autonome AI
TNO zet zich in voor de ontwikkeling van autonome AI-systemen die gedurende hun gehele levensduur op een veilige en betrouwbare manier kunnen worden ingezet. Daarbij zijn er vier aandachtsgebieden:
Tijdens de ontwikkeling van de AI-systemen moeten we rekening houden met eisen die zorgen dat een AI veilig en betrouwbaar kan worden ingezet en goed kan worden onderhouden.
Door verificatie & validatie kunnen we ervoor zorgen dat AI-algoritmen op een betrouwbare wijze kunnen worden geëvalueerd. Om zowel tijdens de ontwikkelfase als tijdens het gebruik, aan te kunnen tonen dat het system voldoet aan alle gestelde eisen.
Door op een efficiënte en effectieve manier te bepalen waar en hoe onderhoud aan AI-algoritmen uitgevoerd moet worden (mogelijk als reactie op fouten of ook veranderende eisen).
Door ethische en juridische richtlijnen in AI-algoritmen te implementeren en integreren, om te kunnen voldoen aan veranderende kaders.
Neem contact met ons op
-
Frank Benders
Functie:Principal Systems Engineer / Architect-
Standplaats:Helmond
-
E-mail:E-mail Frank
-
-
Jan-Pieter Paardekooper
Functie:Scientist Integrator-
Standplaats:Helmond
-
E-mail:E-mail Jan-Pieter
-
-
Michael Borth
Functie:Senior Research Fellow-
Standplaats:Helmond
-
E-mail:E-mail Michael
-
Laat je verder inspireren
Human-AI, want samen kunnen mens en machine grotere uitdagingen aan
Steeds meer kunstmatige intelligentie ingezet door overheid
AI in opleiding: FATE ontwikkelt digitale doktersassistent
Onderzoek TNO en Kieskompas: AI-taalmodellen zijn inconsistent en neigen naar links
Impuls voor TNO faciliteiten voor duurzame mobiliteit, biobased bouwen en AI
