Ongeluk met zelfrijdende auto: leermoment of doordenderen?

"Je verwacht dat een zelfrijdende auto, die vol zit met techniek, superveilig wordt. Maar dat blijkt nu nog niet zo te zijn", zegt Maarten Steinbuch, hoogleraar Automotive aan de Technische Universiteit Eindhoven.

Het dodelijke ongeluk van gisteren in de VS met een zelfrijdende auto roept de vraag op hoe veilig de techniek is die daarbij wordt gebruikt. Taxibedrijf Uber, die de test met de auto uitvoerde, heeft alle experimenten opgeschort en gaat onderzoeken hoe dit heeft kunnen gebeuren.

Het ongeluk gebeurde toen een vrouw met fiets aan de hand overstak, naast het zebrapad. "De auto heeft dat blijkbaar niet gezien of niet begrepen. Dat is een van de problemen van deze technologie: de techniek moet ons nog gaan begrijpen. Daar zijn nog veel metingen voor nodig."

Lantaarnpaal

Het uitsluiten van ongelukken is nauwelijks haalbaar, denkt Steinbuch. "Zo'n auto kijkt om zich heen met camera's en radarsysteem. Het moeilijkste is voor zo'n auto is begrijpen wat hij ziet. Als op het trottoir een lantaarnpaal staat, met vlak daarachter bijvoorbeeld een heel dun iemand, dan moet die auto snappen dat de lantaarnpaal niet kan oversteken, maar de persoon erachter wel."

Sommige situaties zijn voor mensen al moeilijk in te schatten. "Mensen doen soms dingen die wij, ook als menselijke autobestuurder, soms niet verwachten. Dat maakt het zo moeilijk voor autonome auto's."

Toch denkt Steinbuch dat zelfrijdende auto's in de toekomst dit soort situaties kunnen herkennen. "Als jij en ik iets leren tijdens het rijden, kunnen we dat niet zomaar 'uploaden' naar andere chauffeurs. Met computers kan dat wel. Als een computer eenmaal iets heeft geleerd, zouden andere auto's dat bij wijze van spreken met een druk op de knop ook moeten kunnen. Dit ongeluk is heel triest, maar tegelijkertijd ook een leermoment. We moeten goed kijken hoe we hier met zijn allen weer van kunnen leren."

Juist door dat streven naar technische perfectie verliest de industrie andere belangrijke aspecten uit het oog, zegt verkeerspsycholoog Gerard Tertoolen. "Er is helemaal geen aandacht voor de psychologische gevolgen van de ontwikkelingen in deze industrie."

Ongelukken als deze leveren ingewikkelde vraagstukken op. "Er is nu een voetganger doodgereden. Dat is heel erg en ook op degene die achter het stuur zat, heeft dit veel impact. Als bestuurder van een zelfrijdende auto heb je geaccepteerd dat de auto het stuur overneemt. Wie is er dan verantwoordelijk als het misgaat? De fabrikanten van zelfrijdende auto's houden zichzelf buiten schot. Die zeggen dat de bestuurder in de auto altijd verantwoordelijk is."

Daardoor ontstaat een schimmige discussie over de schuldvraag. "Hoe zit dat, als je bij je volle verstand in een auto zit die je niet bestuurt, maar die wel iemand doodrijdt?"

Deuk

Dit ongeluk laat zien dat de techniek feilbaar is, zegt ook Tertoolen. "En dat zeiden ze vroeger ook bij de ontwikkeling van parkeerassistenten, maar het verschilt nogal of je een deuk in je auto hebt of dat je iemand doodrijdt. Dat roept de vraag op: wil je je verantwoordelijkheid in handen leggen van de techniek, op levensbedreigend niveau?"

Tertoolen denkt dat dergelijke ongelukken de koers van de fabrikanten van zelfrijdende auto's niet zullen veranderen. "De techniek dendert door als een olifant in een porseleinkast. Uber zet alle proeven nu stop. Dat is noodzakelijk om goodwill en vertrouwen te kweken en ongetwijfeld zal er een oplossing komen voor dit probleem. Ze trekken nu het boetekleed aan, maar daarna gaan ze gewoon door. Dit zal leiden tot meer ongelukken en meer psychologische conflicten."