Veilige autonome systemen in de echte wereld

AI technologie voor autonome systemen

Er zijn steeds meer systemen zoals  zelfrijdende auto’s  die mensen kunnen ondersteunen door specifieke taken zelfstandig uit te voeren. Maar dit is toch nog niet veilig genoeg om het zonder menselijke inbreng in te zetten. Ook in de robotica worden grote stappen gezet, die veelal in mooie filmpjes op het internet gedeeld worden. Het optreden van de robots in deze filmpjes is wel vaak geheel geprogrammeerd: de robot voert precies uit wat een mens stap voor stap voorgeschreven heeft. Om het systeem op een hoger abstractie niveau veilig en zelfstandig taken uit te laten voeren samen met of in een omgeving met mensen, zijn nog een aantal AI ontwikkelingen nodig.

Artificial intelligence en morele keuzes

Ook op ethisch niveau heeft AI nog flink wat stappen te nemen. Als een mens achter het stuur zit, kijkt die in gevaarlijke situaties niet alleen wat voor hem of haar het veiligst is. Hij of zij zal ook rekening houden met andere weggebruikers. Daarbij moeten er soms morele keuzes worden gemaakt.

AI is daartoe nog niet in staat. Grote vraag: hoe programmeer je morele keuzes in de software van een zelfrijdende auto? En is dat eigenlijk wel wenselijk?

Ontwikkelaars hebben dus ook met dat soort ethische dilemma’s te maken. Niet alleen bij zelfrijdende auto’s, maar ook bij andere door AI aangestuurde autonome systemen, zoals robots.

Vier aandachtspunten voor autonome AI

Binnen TNO werken we aan AI die deze uitdagingen aan kan. We ontwikkelen hybride AI-algoritmen (een combinatie van machinaal leren, symbolisch redeneren en domeinkennis) en software waarmee autonome systemen veilig en effectief in een open omgeving kunnen werken. Hierbij voorzien we dat de mens complexe taken aan het systeem kan geven, en alleen hoeft te communiceren met het systeem als het echt nodig of gewenst is. Daarbij richten we ons op vier aandachtsgebieden:

1. Omgevingsbewustzijn - wat gebeurt er in de omgeving van het systeem, welke gebeurtenissen objecten en situaties zijn er en wat kan het systeem ermee.
2. Zelfbewustzijn – kan het systeem de taak aan die gevraagd wordt? Bijvoorbeeld, als het donker is, heeft het systeem dan wel een camera die dat aankan?
3. Besluitvorming - acties plannen om de gegeven missie uit te voeren. Deze acties moeten veilig en effectief zijn en binnen de operationele randvoorwaardes passen.
4. Systeemintegratie – implementeren van real-time hybride AI-algoritmen voor omgevingsbewustzijn, zelfbewustzijn, en besluitvorming die werken met commercieel beschikbare platformen zoals robots.

De diepte in met use cases

Om meer gevoel te krijgen voor het onderzoek hebben we een aantal use cases uitgewerkt:

• Surveillance met een robot hond
• Autonoom rijden
• Interactie met een autoom systeem
• Zinvolle menselijke controle