Tijd voor nieuwe belevenissen

Wanneer gaan autonoom rijdende auto’s de weg op?
Essayed Bouzouraa: Daar is geen kort antwoord op te geven. We moeten de omgeving, het domein, vastleggen waarin de techniek gebruikt mag worden en we moeten bepalen wat de auto allemaal mag en kan. Ik heb er vertrouwen in dat we ergens in de komende vijf jaar voorzichtige eerste stappen zetten in geschikte omgevingen, zoals snelwegen.

Een Duitse ethische commissie heeft in 2017 richtlijnen opgesteld voor geautomatiseerd rijdende auto’s. Is de samenleving er klaar voor? Vijf jaar lijkt best vrij snel.
Christoph Lütge: Ik zat in die commissie en houd me als onderzoeker nog steeds met dit onderwerp bezig. Ik bespeur dat het Duitse publiek op het gebied van geautomatiseerde mobiliteit al verder wil gaan dan mag en kan. We praten hier al jaren over en ik zie dat mensen toe zijn aan concrete stappen. Daarom is het tijd om de voordelen te benoemen en het minder te hebben over risico’s en uitdagingen.

Audi heeft het over ‘geautomatiseerd rijden’. Is dat hetzelfde als ‘zelfrijdend’?
Bouzouraa: Wij praten in deze context altijd over geautomatiseerd rijden. Vanaf level 3 is sprake van een systeem als de ‘highway pilot’. Als automobilist kun je dan in specifieke gebieden, die we domeinen noemen, binnen een nauw omschreven kader het rijden aan de auto overlaten. De bestuurder moet de rijtaak weer overnemen als de auto daarom vraagt, maar tot dat moment is de auto verantwoordelijk. Vanaf level 4 vervalt de eis dat de bestuurder moet kunnen ingrijpen. Dit houdt in dat de auto elke denkbare situatie zelf moet afhandelen.
Lütge: In de ethische commissie noemden we dit connectief en geautomatiseerd rijden. In het gewone spraakgebruik wordt dit autonoom rijden genoemd, ook als dat niet helemaal terecht is. Ik geef de voorkeur aan de termen ‘geautomatiseerd’ en ‘in hoge mate geautomatiseerd’ rijden.
Thomas Dahlem: Ik beschouw een systeem als autonoom wanneer het volledig onafhankelijk werkt, zonder de mogelijkheid van menselijke interventie. Dat is niet de visie die wij volgen.

Hoe innig is de samenwerking tussen wetenschap en industrie op dit vlak?
Bouzouraa: We zitten nu in een fase waarin de interdisciplinaire samenwerking van groot belang is. We moeten op dezelfde lijn zitten.
Lütge: Tot nu toe was het zo dat over ethiek in relatie tot technologie pas gepraat werd als een groot probleem was ontstaan. Wij zijn van mening dat we al eerder vragen moeten stellen die verder gaan dan puur de techniek. Dus vragen waarvoor er nu nog geen juridische definities zijn en misschien wel nooit zullen zijn.

Welke vragen bedoelt u precies?
Lütge: Bijvoorbeeld vragen over hoe een geautomatiseerd rijdende auto zich tegenover andere verkeersdeelnemers moet gedragen. Moet de auto bijvoorbeeld uitgesproken defensief rijden en meer afstand houden dan de wetgever verlangt? Voor vertrouwen in de nieuwe technologie is het nodig om dergelijke ethische kwesties onder de aandacht te brengen. Wij willen direct vanuit de ontwikkelingsfase input leveren.
Bouzouraa: Er is een dialoog nodig in de vorm van continue feedback, zowel tijdens de ontwikkeling als tijdens de productiefase. Deze techniek zal immers altijd verder ontwikkeld worden.

Hoeveel nut heeft traditionele autokennis voor geautomatiseerd rijden?
Bouzouraa: We hebben het over een fundamentele transformatie, voor onze klanten wat betreft de toekomstige rijbeleving en voor ons als fabrikant wat betreft ontwikkeling en design. Er zijn diverse sensoren en systemen nodig, op een optimale plek en met een zekere verbinding. Natuurlijk zorgen we ervoor dat een geautomatiseerde Audi er vanbinnen en vanbuiten goed uitziet, maar de ontwikkelingseisen en -processen zijn anders.
Dahlem: We willen klanten een volledig nieuwe belevenis bieden. Daar bedenken we onze auto’s omheen. Dat is nog nooit eerder gedaan. Vrijwel alle componenten in de huidige auto’s moeten we opnieuw bekijken.

Noem eens een voorbeeld?
Bouzouraa: Denk aan vertrouwde zaken als de tankjes voor de ruitensproeiervloeistof. Die krijgen een volledig andere rol. In de toekomst moeten we ervoor zorgen dat de carrosseriesensoren altijd schoon zijn en blijven, zonder dat de inzittenden daaraan hoeven te denken.

Wat is de huidige stand van zaken bij Audi?
Bouzouraa: Onze testauto’s rijden permanent rond om gegevens te verzamelen en ervaring op te doen. Alle sensoren in en op de auto registreren dagelijks heel veel data. Om al die informatie te analyseren, hebben we nieuwe methodes bedacht. We gebruiken bijvoorbeeld kunstmatige intelligentie. Tegelijkertijd werken we aan alle noodzakelijke processen en basisvoorwaarden om de technologie in serieproductie te brengen.
Dahlem: We staan ook nog voor de uitdaging om alle denkbare scenario’s te benoemen en interpreteren. Met andere woorden, hoe de auto zich in specifieke situaties zal gedragen. Dit moeten we doen voordat we allerlei autofuncties kunnen programmeren.

Hoe kun je op elke denkbare situatie anticiperen? Er kan toch van alles gebeuren?
Bouzouraa: Dat klopt. Volgens berichten, gebaseerd op de huidige techniek, zijn busadvertenties met daarin bewegende mensen verkeerd geïnterpreteerd. Het systeem heeft bijvoorbeeld gedacht dat iemand de straat op liep. Vaak stuit de visuele waarneming van camera’s op grenzen. Enige tijd geleden ging op internet de casus rond waarin camerasystemen een fel oplichtende maan aanzagen voor een oranje verkeerslicht. Daarom vertrouwen wij op een combinatie van visuele en actief metende sensoren, zoals radar en lidar.

Hoe win je het vertrouwen van het publiek als dergelijke verhalen rondgaan?
Lütge: Ik denk dat mensen de voordelen inzien. De huidige rijhulpsystemen maken ook al een beetje duidelijk wat te verwachten is. Je kunt niet iedereen overtuigen, maar dat hoeft niet in alle gevallen te maken hebben met gebrek aan vertrouwen.
Bouzouraa: Vertrouwen is essentieel. Het is ook belangrijk dat de inzittenden de keuzes van de kunstmatige intelligentie kunnen volgen. Zo hebben testdeelnemers ons verteld dat een te vloeiende rijstijl onprettig is. Men betwijfelt dan of het systeem wel actief is. Daarom discussiëren we nu intern erover of het stuur moet bewegen tijdens geautomatiseerd rijden, bij wijze van visuele feedback.
Lütge: Dat bewijst echter ook dat niet alles rationeel is te beoordelen. Er komen ook emoties bij kijken. Ik waarschuw ervoor om zorgen te veel te benadrukken. Ook nu vertrouwen verkeersdeelnemers op de techniek, rijden ze soms met zeer hoge snelheden, et cetera.

Hoe kunnen geautomatiseerde en niet-geautomatiseerde auto’s samen de weg op, met name in de beginfase?
Bouzouraa: Daar denken we veel over na. Om te beginnen kunnen we de systemen eerst alleen in specifieke domeinen toelaten. Dat is nu onze denkrichting. De term ‘highway pilot’ wijst daar al op. De snelweg is een nauw omschreven domein, met een duidelijke fysieke en juridische structuur. We moeten echter niet vergeten om in onze aannames over gedrag rekening houden met alle verkeersdeelnemers.
Lütge: Ik denk dat de mix aan soorten auto’s niet zo’n probleem zal zijn. Andere autofabrikanten werken ook hard aan de ontwikkeling en dat leidt tot goede communicatie en veel bewustzijn. Het is slim om er op de snelweg mee te beginnen, maar laten we de andere wegen niet vergeten, vooral die in de stad niet.

Maar in de stad zijn de uitdagingen toch alleen maar groter?
Bouzouraa: Ik ben het ermee eens dat we een allesomvattende aanpak moeten volgen. Maar het stedelijk domein, met fietsers en voetgangers, maakt het alleen maar moeilijker.
Dahlem: Snelwegen lopen ook door stedelijke gebieden, dus we kunnen deze uitdaging stap voor stap aangaan. De techniek moet echter eerst met onoverzichtelijke kruispunten en rotondes overweg kunnen. Denk alleen al aan de bulten op menige rotonde, waar sensoren dus niet overheen kunnen kijken.
Lütge: Het is belangrijk om vooraf de risico’s in te schatten. Welke vinden we acceptabel en welke niet? Daar kijken we nu naar. Het is zoals het is: je kunt niet uitgaan van nul procent risico, dat is onhaalbaar.

Maar hoe weeg je het ene risico af tegen het andere?
Dahlem: De mens is de maatstaf. Mensen kunnen heel goed op het allerlaatste moment nog reageren. Aan systemen met kunstmatige intelligentie stellen we net zulke hoge eisen.
Lütge: Beter autorijden dan de mens is op velerlei manieren te interpreteren. Het werkt contraproductief als de lat te hoog wordt gelegd, bijvoorbeeld te voorzichtig, te sportief of te defensief.

Waar kun je je dan wel aan vasthouden?
Bouzouraa: Op basis van een gemiddelde bestuurder ontwikkelen we een bestuurder die met kunstmatige intelligentie werkt. We weten al dat de highway pilot relatief defensief zal rijden. Het gaat er immers ook om dat gereden worden comfortabel en prettig is. Met een agressieve geautomatiseerde manier van rijden bereik je dat niet. De auto moet zijn inzittenden vanzelfsprekend en veilig door het verkeer loodsen. De grote vraag is op dit moment of en hoe een leercurve van het systeem geaccepteerd wordt.
Lütge: Dat is een goede vraag, die we ook als ethische commissie hebben gesteld. Het moet niet de afzonderlijke auto zijn die zelflerend is, maar het complete wagenpark. In elk geval als we het over veiligheidskwesties hebben. Als iemand op de snelweg liever een beetje langzamer rijdt dan de rest, kun je dat variabel inprogrammeren. Mensen kunnen het begrijpen dat sprake is van een leerproces waarin de beleving van gereden worden nog verandert. Onze samenleving weet al lang dat kunstmatige intelligentie bijleert en zich aanpast.

Als we aan de gemiddelde automobilist denken, is die dan niet in elk land anders?
Bouzouraa: Er is absoluut een verband tussen het individu en de cultuur. Ook daar zijn we mee bezig. Hoe legt een geautomatiseerd rijdende auto het rijgedrag in een bepaalde regio vast? Is er een verbindende eigenschap?
Lütge: In Europa hebben we de bijzondere situatie dat we vaak grenzen passeren en door landen rijden waar de perceptie verschilt. Ik heb in diverse testauto’s gereden en ik heb het gevoel dat er nog geen standaard is bepaald.
Dahlem: Je moet hier best ver over doordenken. Een geautomatiseerde auto die in het ene land is gekocht, moet in de toekomst ook een politieagent uit een ander land herkennen. De kleuren van verkeersborden en bewegwijzering verschillen per land, net zoals het materiaal waarvan het wegdek is gemaakt. Dit betekent dat we ons systeem niet zonder aanpassingen overal kunnen invoeren, of slechts met functiebeperkingen. Maar zoals gezegd, deze technologie zal permanent bijleren en zich aanpassen.
Bouzouraa: Om nog even bij de highway pilot te blijven: vergeet niet dat alleen Duitsland al zo’n 13.200 kilometer aan snelwegnet heeft. Er is voldoende potentie om de voordelen van geautomatiseerd rijden te ervaren. Dat weet ik zeker.