Krachten AI bundelen voor de nieuwe generatie autonome besturingssystemen

Verlies van vertrouwen

De afgelopen jaren zijn we getuige geweest van een verschuiving in het sentiment over geautomatiseerd rijden. Het aanvankelijke enthousiasme en optimisme van zowel het publiek als de industrie hebben plaatsgemaakt voor scepsis en pessimisme.

Jan-Pieter Paardekooper weet waarom: "Hoge verwachtingen zijn niet uitgekomen en voorspellingen moesten herhaaldelijk worden bijgesteld. Het vertrouwen in geautomatiseerde technologie is ook ernstig aangetast door ernstige ongevallen met gewonden en doden, vooral in de VS, waar de regelgeving voor het gebruik van geautomatiseerde voertuigen minder streng is dan in andere delen van de wereld.”

“Na tal van incidenten waarbij gedeeltelijk geautomatiseerde voertuigen en autonome taxi's betrokken waren, groeit daar de roep om strengere federale wetgeving voor autonome voertuigen. Het verlies aan vertrouwen in autonoom rijden onder het grote publiek is begrijpelijk. Toch blijven we bij TNO optimistisch over het potentieel van zelfrijdende voertuigen."

AI technieken zelfrijdende voertuigen combineren

De reden voor deze positieve vooruitzichten ligt in TNO's innovatieve kijk op AI-technologie voor zelfrijdende voertuigen. Paardekooper legt uit: “Supervised learning is momenteel de populairste techniek bij machine learning Algoritmes analyseren hierbij gegevens om patronen te identificeren op basis van gelabelde voorbeelden. Naarmate het algoritme meer gegevens verwerkt, worden de beslissingsvaardigheden beter en verfijnder.”

“Deze benadering van AI, die te zien is in technologieën als ChatGPT en het genereren van afbeeldingen (bijv. Midjourney), is zeer succesvol dankzij de overvloed aan gegevens en de vooruitgang in rekenkracht. Daarom is deze vorm van AI de symbolische AI, die vertrouwt op logica en wiskunde om regels te definiëren, voorbijgestreefd. Bij TNO geloven we in het combineren van de sterke punten van zowel lerende systemen als symbolische AI voor de volgende generatie autonome besturingssystemen.”

Leren redeneren

De huidige autonome voertuigen gebruiken neurale netwerken en data om te leren hoe ze veilig kunnen rijden. Paardekooper: “Dit betekent dat de AI verkeersregels en veilig rijgedrag probeert te begrijpen door training vanuit talloze rijsituaties op de weg. Na verloop van tijd raakt het systeem bedreven in het begrijpen van en reageren op de meeste verkeersscenario's.”

“Wanneer zich echter een onbekende situatie voordoet, kan het zijn dat het voertuig niet weet hoe te reageren en volledig tot stilstand komt of, erger nog, de verkeerde beslissing neemt en een ongeluk veroorzaakt. Dit is onvermijdelijk omdat rijvaardigheid niet kan worden geleerd door alleen maar kilometers te maken. Neurale netwerken kunnen het ‘waarom’ achter de voorbeelden niet leren (geen causaliteit), waardoor deze algoritmen onmogelijk verkeersregels kunnen afleiden uit alleen data.”

“Hun onvermogen om autonoom te redeneren of na te denken over hun gedrag wordt duidelijk in complexe, onbekende situaties. Daarom is het essentieel dat het systeem ook de onderliggende regels leert. In wezen leren we autonome voertuigen hoe ze moeten redeneren.”

Black box

Een van de belangrijke voordelen van deze hybride benadering van AI, die zowel lerende als symbolische AI combineert, is de mogelijkheid om te begrijpen hoe autonome voertuigen beslissingen nemen.

Jan-Pieter Paardekooper legt uit: “Met de huidige systemen is dit begrip niet haalbaar; het is alsof je te maken hebt met een black box. Door redeneerregels in te bouwen, kunnen we analyseren wat er gebeurde bij een incident en waarom het gebeurde. Met andere woorden, als ontwikkelaars kunnen we inzicht krijgen in het gedrag van het voertuig en het systeem verbeteren.”

Het werkt als volgt: het voertuig maakt gebruik van sensoren zoals camera's en lidars om de omgeving waar te nemen. Door middel van objectherkenning op basis van neurale netwerken onderscheidt het de positie van objecten en de verkeerssituaties. Daaruit genereert een automatische redeneerstap een soort risicoprofiel door de relevantie van algemene rijregels, zoals gedefinieerd door de ontwikkelaar, te analyseren in combinatie met het waargenomen situatie.

Hierdoor kan het systeem continu het risico van verschillende verkeersscenario's inschatten en er op een veilige, wettelijke, ethische en sociale manier mee omgaan. Paardekooper: “Wanneer het voertuig bijvoorbeeld een fietser inhaalt, neemt het een bredere weg dan wanneer het om een stilstaand object heen manoeuvreert, omdat het systeem via een rijregel heeft geleerd dat een botsing met de fietser meer schade zou veroorzaken dan een botsing met een stilstaand object.”

“Of wanneer een voertuig op een rijstrook rijdt die is gemarkeerd met een doorgetrokken lijn, kan het systeem redeneren om die lijn alleen over te steken in een noodmanoeuvre om een ongeluk af te wenden. Met andere woorden, het systeem weet dat het vermijden van een ongeluk belangrijker is dan het strikt naleven van de verkeerswet – iets wat de meeste bestuurders ook zouden doen.”

“Voorheen hadden voertuigen moeite met dergelijke tegenstrijdige gedragsspecificaties en zouden ze zich in dergelijke scenario's waarschijnlijk onvoorspelbaar gedragen. Zonder redeneervermogen is autonoom rijden onbereikbaar.”

Strategie voor beoordeling in twee richtingen

Ondertussen heeft TNO op de Automotive Campus in Helmond de theorie in praktijk gebracht door samen met partners uit de industrie tests uit te voeren op afgesloten wegen. "De eerste resultaten van het testen van ons hybride AI-systeem in verschillende scenario's zijn veelbelovend", zegt Jan-Pieter Paardekooper.

“De technologie is indrukwekkend en bij TNO geloven we dat het een gamechanger kan zijn. Maar om het veilig op de weg in te zetten, moeten we ervoor zorgen dat het elke situatie aankan.”

Daarom pleit TNO voor een ontwikkelings- en beoordelingsstrategie gebaseerd op twee pijlers die een safety-by-design benadering op componentniveau combineert met een breed scala aan veiligheidsbeoordelingsmethoden.

“Deze alomvattende benadering van veiligheidsbeoordeling is essentieel voor het waarborgen van de betrouwbaarheid en gereedheid van autonome rijtechnologie voor toepassing in de echte wereld. Als we hierin slagen," besluit Paardekooper, "ben ik voorzichtig optimistisch over de toekomst van geautomatiseerd rijden.”