De zelfrijdende auto, kwestie van algoritmes en ethiek

Algoritmes en ethiek
Trendwatcher en futuroloog Richard van Hooijdonk twijfelt niet aan de komst van zelfrijdende auto’s, vliegtuigen, treinen, boten en meer. “Ik hoor de Europese Commissie spreken over rijstroken voor zelfrijdende vrachtwagens en ik praat met de NS over het overstappen via sluisjes tussen twee naast elkaar rijdende treinen.”

Onderwijs op de schop
Die toekomst is realiteit, maar blijft niet ongemerkt, waarschuwt Van Hooijdonk. Deze ontwikkelingen hebben vergaande consequenties. We hebben bijvoorbeeld andere mensen nodig dan nu. Van Hooijdonk noemt: big-dataspecialisten, filosofen en ethische hackers. Hiervoor moet het onderwijs op de schop, want dat levert niet de skills die mensen in de toekomst nodig hebben.

Value of life
Dat zijn volgens Van Hooijdonk: passie, nieuwsgierigheid, kritisch denken, veerkracht (resilience), snel ideeën kunnen genereren en ethiek (‘hoe houden we iedereen gelukkig’). Want gaat het in de toekomst nog om geld (verdienen) als alles is geautomatiseerd of om andere waarden? Zo staat bijvoorbeeld ‘the value of life’ al ter discussie bij het programmeren van het zelfrijdende voertuig. Die neemt beslissingen op basis van algoritmes die uitgaan van zo min mogelijk slachtoffers maken, terwijl mensen het leven van kinderen mogelijk een hogere waarde toekennen dan die van ouderen.

Regeerperiode
Nina Schaap, beleidsmedewerker bij de unit Smart Mobility van het ministerie van IenW zet een stap in het nu en geeft aan wat het ministerie in deze regeerperiode in gang wil zetten. Daarbij benadrukt ze dat er binnen het ministerie ook wordt nagedacht over de langere termijn. De actuele doelen zijn verwoord in de Kamerbrief van 4 oktober over ‘publiek-private samenwerking voor een veilig, vlot en duurzaam systeem voor verkeer en vervoer (smart mobility)’.

Deze ambities zijn vertaald in vier actielijnen: Stimuleren gebruik van bestaande producten en diensten (bijvoorbeeld door in samenwerking met de ANWB het online forum slimonderweg.nl op te zetten); Verantwoorde introductie van nieuwe generatie voertuigen (dit gaat onder meer over het rijbewijs van de zelfrijdende auto); Toekomstbestendige infrastructuur en wegbeheer (denk aan afspraken over beschikbaarheid en kwaliteit van digitale infra of de nieuwe generatie iVRI’s) en ten slotte het zorgvuldig benutten van data-uitwisseling en connectiviteit (onder meer in de Data Task Force).

5 levels
Hoewel de meningen verschillen over de snelheid waarmee de 5 levels van ‘zelfrijden’ hun intrede doen, horen Schaap en haar collega’s van verschillende fabrikanten berichten dat de stap van de huidige level 1 en 2-auto’s naar level 3 (de bestuurder wordt sterk ondersteund, maar is nog verantwoordelijk) ergens tussen 2021 en 2025 zijn intrede zou kunnen doen. “Wij zijn daarom nu al bezig met de  randvoorwaarden, zegt Schaap, om op tijd klaar te zijn.”

“Het gaat bijvoorbeeld om functionele eisen voor toelating. Maar daarbij horen ook eisen aan gedrag, wat is veilig als je taken laat overnemen en weer terug moet nemen? Hoe zit het met de eisen die je stelt aan software-updates, waardoor een voertuig hele andere eigenschappen kan krijgen?”

Ook Schaap gaat in op de ethische vraagstukken die Van Hooijdonk noemde. Sommige vraagstukken zijn context of cultuurgevoelig. Ik vind het fijn als ik merk dat auto’s langzamer rijden als ze mij met mijn zoontje van twee zien. Willen we dan ook dat het zelfrijdende voertuig dat doet? En mag een zelfrijdende auto straks invoegen op een manier die misschien niet heel netjes is, of moet hij blijven wachten tot het helemaal veilig kan, zodat hij het systeem misschien wel laat vastlopen? Je komt in feite op de vraag: hoe willen we dat ons mobiliteitssysteem eruit ziet.”

Eén overheid
Als laatste randvoorwaardelijk aspect noemt Schaap de noodzaak van verdergaande samenwerking. Verschillende overheden (o.a. IenW, de G5 en verscheidene regio’s) trekken daarom nu al gezamenlijk op in de Krachtenbundeling Smart Mobility, waarin wordt samengewerkt om één front te vormen, om gebruik te maken van elkaars sterke punten en om kennis te delen. Over het toegankelijk maken van smart mobility kennis gaat Schaap in het voorjaar een sessie organiseren en roept iedereen op daarbij aan te sluiten: “Ik ga graag in gesprek”.

Historie

Nog een stap verder terug gaat Jan Wouters, manager innovatie en green mobility bij AutomotiveNL én directeur van het NCAD, het Nederlands Centrum voor Autohistorische Documentatie (ook op de Automotive Campus). Hij laat aan de hand van historische beelden zien dat ontwikkelingen soms grillig verlopen en vaak in de kern al een lange voorgeschiedenis kennen.

“We denken heel snel dat iets mogelijk is, maar we vergeten soms de impact van ontwikkelingen op andere sectoren. Bijvoorbeeld de effecten op economie, werkgelegenheid of het aanpassen van de infrastructuur. Een voertuig veranderen is niet moeilijk, maar een heel systeem veranderen is vaak erg complex”.

Automaatbak in 1939
“We leven in het moment en neigen ernaar de ontwikkelingen in het heden te overdrijven door groepsdenken en tunnelvisie. De ontwikkeling van de zelfrijdende auto is in feite al meer dan honderd jaar geleden gestart door steeds verder gaande automatisering van bestuurderstaken; de eerste auto met cruise control was er in 1959, en de eerste automaatbak in 1939. En het elektrische voertuig had ooit al een groter marktaandeel bereikt dan nu het geval is. Soms zijn er parallelle vragen of economische motieven waardoor ontwikkelingen anders lopen dan verwacht.” Wouters hoedt zich dan ook voor voorspellingen. De toekomst is niet te voorspellen. Tot 2030 kun je een beetje inschatten, maar tot 2050 is volstrekt onmogelijk.”