Zelfrijdende voertuigen

Zelfrijdende voertuigen verschillen in de mate waarin zij de bestuurder ondersteunen in de rijtaak. Een volledig zelfrijdend voertuig is in staat in alle omstandigheden de rijtaak volledig zelfstandig uit te voeren, zonder dat de bestuurder hoeft in te grijpen. Maar er zijn ook minder-zelfstandige systemen waarbij de bestuurder in meer of mindere mate verantwoordelijkheden heeft. Een volledig zelfrijdend voertuig is momenteel nog niet beschikbaar. Volgens sommigen zal door ontwikkelingen van automatiseringstechnologieën op een dag de volledige rijtaak door de technologie kunnen worden uitgevoerd wanneer we niet zelf willen of kunnen rijden [1]. Er zijn nog te veel onzekerheden om aan te geven op welke termijn dat zal zijn [2] en sommigen betwijfelen zelfs of het ooit echt zover zal komen [3].

In deze factsheet beschouwen we zelfrijdende voertuigen in de breedte. Het gaat om voertuigen waarbij slechts een klein deel van de rijtaak wordt overgenomen door automatiseringstechnologie, tot aan voertuigen waarbij de volledige rijtaak wordt overgenomen (zie de vraag Welke niveaus van zelfrijdende voertuigen worden onderscheiden?). Ook gaat het om alle type voertuigen met geautomatiseerde technologie, van zelfrijdende auto’s tot vrachtwagens (zie bijvoorbeeld de vraag Hoe veilig zijn platooning trucks?) tot busjes (zie bijvoorbeeld de vraag Hoe veilig zijn zelfrijdende shuttles/people movers?).

De meest gebruikte classificatie om onderscheid te maken tussen verschillende niveaus van zelfrijdende voertuigen is de zogenaamde SAE Levels of Driving Automation [4]. Deze classificatie telt zes niveaus die gebaseerd zijn op de mate waarin de technologie de bestuurder ondersteunt in de rijtaak. De niveaus lopen van 0, waarin de bestuurder de rijtaak volledig uitvoert, tot 5, waarin het voertuig de rijtaak volledig uitvoert. Hieronder staan de zes niveaus op een rij:

	Niveau 0: De bestuurder rijdt volledig zelf. Wel kan het voertuig uitgerust zijn met systemen die waarschuwingen geven en/of zeer kortdurend ingrijpen. Denk hierbij aan een waarschuwing wanneer het voertuig uit de rijstrook raakt (Lane Departure Warning) of een noodremsysteem (Autonomous Emergency Brake). Momenteel zijn de meeste voertuigen op de weg van dit niveau (zie de SWOV-factsheet Intelligente transport- en rijhulpsystemen (ITS en ADAS)). Niveau 1: Het voertuig kan zelf sturen of zelf remmen/versnellen. Het gaat hier om ondersteuningstechnologie die helpt om in de rijstrook te blijven rijden (Lane Keeping System) of een veilige afstand tot een voorligger te behouden (Adaptive Cruise Control) (zie de SWOV-factsheet Intelligente transport- en rijhulpsystemen (ITS en ADAS)). De bestuurder moet wel constant in de gaten houden of het voertuig de geautomatiseerde taak goed uitvoert en direct ingrijpen wanneer nodig. Niveau 2: Op het vorige niveau was een van de twee omschreven ondersteuningstechnologieën actief. Op Niveau 2 zijn beide ondersteuningstechnologieën actief. Het voertuig kan op dit niveau dus zelf sturen en remmen/versnellen. Ook hier geldt dat de bestuurder continu toezicht moet houden en moet ingrijpen wanneer nodig. De Tesla Autopilot [5] kan bijvoorbeeld geclassificeerd worden als Niveau 2.
	Niveau 3: Het voertuig kan onder specifieke omstandigheden zelfstandig rijden. Deze omstandigheden kunnen bijvoorbeeld te maken hebben met het type weg, het weer en de drukte op de weg. Als op een gegeven moment niet meer aan de specifieke omstandigheden wordt voldaan, moet de bestuurder de rijtaak overnemen. Hierbij kun je denken aan een voertuig dat doorgaans zelfstandig op de snelweg kan rijden, maar dit niet meer kan wanneer het hard regent of wanneer de belijning op de weg wegvalt.
	Niveau 4: Net zoals op het vorige niveau, kan het voertuig enkel onder specifieke omstandigheden zelfstandig rijden. Maar op Niveau 4 is het niet noodzakelijk dat de bestuurder de rijtaak overneemt wanneer niet meer aan de specifieke omstandigheden wordt voldaan. Het voertuig kan zich bijvoorbeeld zelfstandig parkeren voordat het niet meer in staat is om zelfstandig door te rijden. Niveau 5: Op het hoogste niveau is het voertuig volledig zelfrijdend. Dit wil zeggen dat het voertuig onder alle omstandigheden zelfstandig kan rijden.

De vraag of zelfrijdende voertuigen het verkeer veiliger maken, is niet met een simpele ‘ja’ of ‘nee’ te beantwoorden. Nog niet alle gevolgen van het introduceren van zelfrijdende voertuigen in het verkeer zijn namelijk exact duidelijk.

Zelfrijdende voertuigen kunnen in principe het ongevalsrisico verlagen, omdat de kans op menselijk falen aanzienlijk kan dalen. Typische oorzaken van ongevallen door menselijke fouten liggen in 1) herkenning (bijvoorbeeld onoplettendheid), 2) het nemen van beslissingen (bijvoorbeeld agressief rijgedrag), 3) prestatie (bijvoorbeeld onjuiste besturing van het voertuig), of 4) helemaal niet presteren (bijvoorbeeld in slaap vallen) [6]. Met het voorkomen van deze oorzaken doordat zelfrijdende voertuigen de controle uit de handen van de bestuurder nemen, kan dus in theorie het aantal verkeersongevallen aanzienlijk afnemen. Maar zelfrijdende voertuigen kunnen ook juist voor nieuwe en belangrijke veiligheidsproblemen zorgen, waardoor de verkeersveiligheid mogelijk niet toeneemt, en misschien zelfs afneemt. Dit zal dan met name spelen bij voertuigen die slechts voor een deel zelfrijdend zijn [7]. In die gevallen moet de bestuurder namelijk steeds voldoende alert zijn om in te grijpen of over te nemen als het voertuig het zelf niet meer aankan. Voor mensen is het echter erg lastig om de omgeving steeds goed te monitoren en dus om de controle over te nemen wanneer dat nodig is [8]. Andere potentiële problemen zijn dat bestuurders ten onrechte te veel op het systeem vertrouwen of menen dat het systeem ondersteunt, terwijl dat niet het geval is. Andere, externe veiligheidsrisico’s betreffen cyberaanvallen en kwetsbaarheden in de software waardoor het systeem niet meer functioneert [7]. Daarnaast zouden problemen zich kunnen voordoen door fouten in het systeem, bijvoorbeeld door een algoritme dat niet goed werkt of door kapotte sensoren.

Er zijn tal van andere mogelijke veiligheidseffecten van zelfrijdende voertuigen waar nog relatief weinig onderzoek naar is gedaan. Zo is het bijvoorbeeld mogelijk dat er door de toename in gebruik van zelfrijdende voertuigen er meer voertuigen op de weg zullen rijden, waardoor de mobiliteit en daarmee het aantal ongevallen toeneemt. Een positief effect op de verkeersveiligheid zou kunnen ontstaan wanneer zelfrijdende auto’s als deelauto’s ingezet worden. Zo’n zelfrijdende deelauto brengt een persoon van A naar B, en rijdt daarna door om een andere persoon te vervoeren. Als er veel zelfrijdende deelauto’s worden gebruikt en mensen afstand doen van hun eigen auto, zijn minder parkeerplaatsen nodig. De vrijkomende ruimte kan gebruikt worden om de weg anders in te delen. In deze herindeling kan rekening worden gehouden met de verkeersveiligheid, bijvoorbeeld bredere fietspaden om deze veiliger te maken.

Het is lastig om exact in te schatten wanneer volledig zelfrijdende personenauto’s op de markt zullen verschijnen. Er zijn op dit moment nog erg veel infrastructurele en technologische onzekerheden en uitdagingen (zie de vraag Welke infrastructurele en technische obstakels zijn er bij de transitie naar zelfrijdende voertuigen?), op het gebied van de bestuurder (zie de vraag Welke bestuurders-gerelateerde obstakels zijn er bij zelfrijdende auto’s?) en dat van andere weggebruikers (zie de vraag Hoe reageren andere weggebruikers op zelfrijdende voertuigen?). Schattingen lopen daarom behoorlijk uiteen.

Volgens onderzoek van SWOV in samenwerking met RAI-vereniging uit 2018 (veiligonderwegmetdeauto.nl [9]) duurt het mogelijk nog tientallen jaren voordat auto’s in alle omstandigheden volledig automatisch rijden. Uit het onderzoek werd geconcludeerd dat volledig zelfrijdende voertuigen rond 2065 op de markt komen bij een snel transitiepad. Bij een langzaam transitiepad met technische beperkingen, zullen deze voertuigen nog op zich laten wachten tot 2085.
In 2017 hebben onderzoekers specifiek een inschatting gemaakt voor Nederland [10]. Volgens deze inschatting zullen volledig zelfrijdende personenauto’s commercieel te verkrijgen zijn tussen 2025 en 2045. Wel plaatsen zij hierbij de kanttekening dat het daadwerkelijke tijdspad afhangt van zaken zoals technologische ontwikkeling, beleid, economie en houding van de klant.
We zijn nu, begin 2022, natuurlijk een aantal jaar verder ten opzichte van de schattingen uit 2017 en 2018. Onderzoek laat zien dat schattingen van het moment waarop volledig zelfrijdende voertuigen op de weg verschijnen steeds verder opschuiven over de tijd heen [11]. Momenteel zijn er te veel onzekerheden om concrete jaartallen te noemen en kan enkel een ruwe schatting worden gemaakt wanneer volledig zelfrijdende voertuigen beschikbaar zullen zijn op de markt [2]. Sommige experts betwijfelen zelfs of volledig zelfrijdende voertuigen überhaupt ooit commercieel beschikbaar zullen komen [3].

Momenteel rijden er al deels zelfrijdende voertuigen die commercieel verkrijgbaar zijn in Nederland op de openbare weg. Dit zijn voertuigen die zelf kunnen sturen en afstand kunnen houden tot een voorligger. De bestuurder moet continu toezicht houden en moet ingrijpen wanneer nodig. Dit zijn zogenaamde Niveau 2-voertuigen (zie de vraag Welke niveaus van zelfrijdende auto’s voertuigen worden onderscheiden?), waarvan Tesla’s Autopilot [5] een bekend voorbeeld is.

In Nederland is er nieuwe innovatieve en adaptieve wetgeving gemaakt om grootschalige proeven met zelfrijdende voertuigen op de openbare weg mogelijk te maken, onder andere het Besluit ontheffingverlening exceptioneel vervoer (Boev [12] ) en de Experimenteerwet (uit 2019 [13]). Voor een proef is een (tijdelijke) ontheffing voor het zelfrijdende voertuig van de Rijksdienst voor het Wegverkeer (RDW) nodig. Om deze ontheffing te kunnen verlenen moet een testprocedure doorlopen worden. Alleen met een ontheffing mag een zelfrijdend voertuig de openbare weg op. De ontheffing wordt verleend voor een specifieke proef en geldt enkel voor die proef. Met de juiste ontheffing is het ook mogelijk om een praktijkproef op de openbare weg uit te voeren zonder dat er daadwerkelijk een bestuurder in het voertuig aanwezig hoeft te zijn. In dat geval vindt er toezicht plaats buiten het voertuig. SWOV geeft regelmatig advies over de mens-/gedragsaspecten van proeven met zelfrijdende voertuigen op de openbare weg [14]. Dit advies wordt meegenomen in de beslissing om een ontheffing te verlenen.

Nederland is een van de koplopers in het testen van zelfrijdende voertuigen op de openbare weg. Zo zijn er al veel proeven met zelfrijdende voertuigen uitgevoerd, in uitvoering, of gepland. Een voorbeeld zijn zogenaamde ‘last mile’-proeven. Bij deze proeven rijdt een zelfrijdend busje, ofwel shuttle of people mover (zie Afbeelding 1 en de vraag Hoe veilig zijn zelfrijdende shuttles/people movers?), een vaste en relatief korte route tussen twee locaties, zoals een ov-halte en een ziekenhuis (bijvoorbeeld [15]).

Ook in andere landen wordt gewerkt aan het introduceren van zelfrijdende voertuigen op de openbare weg. Er is een eerste stap gezet voor een gecoördineerde aanpak tussen Europese landen met de zogenaamde Declaration of Amsterdam [16]. In deze declaratie staan gezamenlijke doelen en gezamenlijke acties omschreven. Zo wordt voorkomen dat regels en wetgeving binnen Europa te veel uiteen gaan lopen, wat ontwikkeling in de weg zou zitten. Daarnaast zijn er ook samenwerkingsverbanden wereldwijd, waarbij onder andere de samenwerking tussen Europa, de Verenigde Staten en Japan geformaliseerd is [2].

Momenteel zijn volledig zelfrijdende voertuigen nog niet commercieel verkrijgbaar in Nederland. Huidig verkrijgbare voertuigen met ‘autopilot’ (ook wel ‘pro-pilot’ genoemd) functionaliteiten zijn niet echt volledig zelfrijdend. Dit wil zeggen dat deze voertuigen niet zelfstandig kunnen rijden. Een bekend voorbeeld is de Tesla Autopilot-functionaliteit. Tesla’s met deze functionaliteit zijn zogenaamde Niveau 2-geautomatiseerde voertuigen (zie de vraag Welke niveaus van zelfrijdende auto’s voertuigen worden onderscheiden? voor een overzicht van de verschillende niveaus). Deze Tesla’s kunnen zelf sturen en afstand houden tot een voorligger, maar de bestuurder moet te allen tijde de volledige aandacht bij het rijden houden en alle andere onderdelen van de rijtaak uitvoeren. Als de Autopilot-functionaliteit faalt, moet de bestuurder direct kunnen ingrijpen. Het is daarom van belang en wettelijk verplicht dat de bestuurder het stuur in de handen houdt. De Autopilot-functionaliteit biedt dus ondersteuning, maar is zeker niet volledig zelfrijdend.

Dat een voertuig met autopilot niet echt zelfrijdend is, blijkt niet altijd duidelijk te zijn voor mensen. Analyses van ongevallen met de Tesla Autopilot laten zien dat bestuurders soms te veel vertrouwen lijken te hebben in de Autopilot-functionaliteit [17]. Bestuurders houden bijvoorbeeld hun handen niet aan het stuur of houden de omgeving onvoldoende in de gaten. Een onderzoek waarin bestuurders rijden met geactiveerde Niveau 2-automatisering laat zien dat zelfs wanneer bestuurders hun handen aan het stuur houden en naar de weg kijken, ze kunnen overschatten wat het voertuig kan en zal doen [18]. Dit kan gevaarlijke situaties opleveren. Sommige experts (bijvoorbeeld [19]) geven aan dat de term ‘Autopilot’ de indruk zou kunnen wekken dat het systeem meer kan dan het daadwerkelijk kan en daardoor een rol speelt bij het ontstaan van ongevallen. De keuze voor de term ‘Autopilot’ is ook bekritiseerd door organisaties en overheden [20]. Zo heeft de Duitse overheid Tesla in een brief gevraagd om de term Autopilot niet meer te gebruiken in advertenties.

Verschillende bestaande rijhulpsystemen zetten de eerste stappen naar de ontwikkeling van een volledig zelfrijdend voertuig. In dit antwoord gaan we kort in op wat deze systemen inhouden; zie voor meer informatie de SWOV-factsheet Intelligente transport- en rijhulpsystemen (ITS en ADAS). Intelligente transport- en rijhulpsystemen zijn toepassingen van technologie in voertuigen en de infrastructuur om het verkeer veiliger, efficiënter, comfortabeler, betrouwbaarder en milieuvriendelijker te maken. Een deel van deze systemen is bedoeld om de bestuurder te ondersteunen in de rijtaak. Het gaat bijvoorbeeld om systemen die waarschuwingen kunnen geven en/of zeer kortdurend kunnen ingrijpen. Denk hierbij aan een waarschuwing wanneer het voertuig uit de rijstrook raakt (Lane Departure Warning) of een noodremsysteem (Autonomous Emergency Brake). Het gaat ook om systemen die een deel van de rijtaak kunnen overnemen van de bestuurder. Denk aan technologie die ervoor zorgt dat het voertuig in de rijstrook blijft rijden (Lane Keeping System) of dat het voertuig een veilige afstand tot een voorligger behoudt (Adaptive Cruise Control). Als deze technologieën die een deel van de rijtaak overnemen beide aanwezig zijn in een voertuig, spreken we van een Niveau 2-zelfrijdend voertuig (zie de vraag Welke niveaus van zelfrijdende voertuigen worden onderscheiden?). Deze technologieën moeten worden ontwikkeld en aangevuld om een volledig zelfrijdend voertuig te maken.

De gevolgen van het introduceren van platooning trucks op de weg voor de verkeersveiligheid zijn nog niet exact duidelijk (zie ook de vraag Zullen zelfrijdende voertuigen het verkeer veiliger maken?). In elk geval is er een aantal mogelijke gevaren dat nog moet worden opgelost.

Platooning trucks zijn vrachtwagens die door automatisering een zeer korte volgafstand van elkaar kunnen houden. De vrachtwagens communiceren onderling met elkaar. Ze wisselen informatie uit, zoals hun snelheid en versnelling, om zo acties te synchroniseren [21]. Er zijn al diverse proeven uitgevoerd met platooning trucks, onder andere voor de European Truck Platooning Challenge [22] en het door TNO geleide Europese project Ensemble [23].

Met platooning trucks is de afstand tussen de vrachtwagens kleiner, waardoor er meer ruimte ontstaat op de weg. Deze ruimtewinst is groter naarmate de afstand tussen de geautomatiseerde vrachtwagens kleiner is. Het verkleinen van deze afstand zorgt echter ook voor mogelijke problemen in de veiligheid. Zo mogen de platooning trucks niet op elkaar of op ander verkeer kunnen botsen door bijvoorbeeld technische problemen [24]. Het idee is dat uiteindelijk enkel de bestuurder in de voorste truck de verkeerssituatie in de gaten moet houden. Totdat de techniek zover is, zullen er echter ook nog bestuurders in de achterliggende trucks toezicht moeten houden. Al deze bestuurders moeten een gepaste aandacht behouden en op tijd ingrijpen wanneer dat nodig is [25]. Er kan ook gevaar ontstaan wanneer andere voertuigen van rijstrook veranderen en proberen in te voegen tussen de platooning trucks [24] [26]. Het lijkt erop dat een dergelijk scenario onvermijdelijk is en er zullen dus oplossingen moeten worden gevonden om de veiligheid te behouden. Een ander mogelijk gevaar is dat de platooning trucks van de weg kunnen raken wanneer ze een botsing met ander verkeer proberen te voorkomen.

Het is nog niet helemaal duidelijk in hoeverre zelfrijdende shuttles, ook wel people movers genoemd, veilig zijn voor inzittenden en voor andere weggebruikers. Deze voertuigen zijn namelijk nog in ontwikkeling en worden nog niet op grote schaal toegepast. 

Een zelfrijdende shuttle is een hoog-geautomatiseerd busje dat meerdere mensen, meestal 4-12, kan vervoeren [27]. Momenteel rijden er al zelfrijdende shuttles op speciale wegen in specifieke gebieden van Europa, waarvan sommige ook in Nederland.

De zelfrijdende shuttles die nu op de weg getest worden, zijn nog niet volledig ontwikkeld. Ze stoppen bijvoorbeeld wanneer ze iets (verkeersdeelnemers, statische objecten, enzovoort) detecteren binnen een bepaalde afstand [28]. Ook rijden de shuttles over het algemeen nog erg langzaam, met een gemiddelde snelheid van onder de 21 km/uur [28] of zelfs met een maximumsnelheid van slechts 15 km/uur [15]. Door deze eigenschappen van de shuttles kunnen gevaarlijke inhaalacties van overig verkeer plaatsvinden [28], wat zou kunnen leiden tot een toename van het ongevals- en letselrisico [15].

Wanneer de zelfrijdende shuttles verder ontwikkeld zijn, kunnen ze zorgen voor een verbetering van de verkeersveiligheid aangezien het aantal conflicten op de weg kan verminderen [29], al zijn alle gevolgen van het introduceren van zulk type voertuigen op de weg nog niet exact duidelijk (zie de vraag Zullen zelfrijdende voertuigen het verkeer veiliger maken?).

Infrastructurele obstakels

Nederland heeft naar verhouding veel snelwegen. Zelfrijdende voertuigen van een hoger niveau (zie de vraag Welke niveaus van zelfrijdende auto’s voertuigen worden onderscheiden?) worden waarschijnlijk eerst op de snelweg geïntroduceerd, waarbij het Nederlandse dichte netwerk van snelwegen dus een voordeel kan vormen. Problemen kunnen echter ontstaan doordat Nederlandse snelwegen intensief worden gebruikt en veel op- en afritten hebben. Dit maakt het Nederlandse snelwegsysteem relatief ingewikkeld [10]. De complexiteit zou kunnen worden verkleind als zelfrijdende voertuigen op aparte rijstroken zouden rijden, gescheiden van ander verkeer. Op die manier kunnen conflicten tussen zelfrijdende voertuigen en andere weggebruikers worden geminimaliseerd. Voor een aparte rijstrook voor zelfrijdende voertuigen moet er natuurlijk wel voldoende aanbod zijn en moet er voldoende ruimte zijn. Dit laatste is in Nederland zeker niet vanzelfsprekend. Daarnaast heeft de huidige infrastructuur ook meer in het algemeen aanpassingen nodig om ongevallen met zelfrijdende voertuigen te voorkomen, aangezien deze is ontworpen op mensen en niet op machines [30]. Zo zal bijvoorbeeld de infrastructuur/wegkant geschikt moeten worden gemaakt voor communicatie met de zelfrijdende voertuigen.

Technische obstakels

Een mogelijk technisch obstakel is dat de sensoren van een zelfrijdend voertuig maar een relatief klein stukje van de omgeving kunnen waarnemen. Deze sensoren kunnen daarnaast mogelijk falen door bijvoorbeeld obstructie of weersomstandigheden. De waarnemingscapaciteiten van een zelfrijdend voertuig kunnen uitgebreid worden door informatie uit te wisselen tussen het voertuig en alles wat het voertuig kan beïnvloeden of beïnvloed kan worden door het voertuig, zoals de infrastructuur en andere weggebruikers [31]. Dit wordt ook wel V2X (vehicle-to-everything) communicatie genoemd. Om dit te realiseren en de betrouwbaarheid te garanderen, moet de technologie hierachter, zoals communicatienetwerken, nog verder worden ontwikkeld en is samenwerking tussen alle betrokken partijen nodig [31].

Daarnaast is rijden doorgaans een relatief gemakkelijke taak voor mensen, maar voor een systeem is het lastig te specificeren. Voor elke generieke regel, zoals het behouden van een veilige afstand tot een voorligger, bestaan context-specifieke uitzonderingen. Ook kunnen mogelijk nieuwe, onvoorziene situaties zich voordoen. Om te zorgen dat het systeem hier goed mee om kan gaan, is het van belang om vast te stellen wat voor type data en hoeveel data verzameld moet worden om het systeem te trainen. Nieuwe methodes en benaderingen lijken nodig te zijn om dit goed in te regelen [32].

De technologische ontwikkeling van zelfrijdende voertuigen brengt juridische vraagstukken met zich mee over het overheidsbeleid, verkeersregels en technische normen, en ook ethische vraagstukken.

Juridische vraagstukken

Een belangrijk juridisch vraagstuk is wie verantwoordelijk en aansprakelijk is bij een ongeluk met een zelfrijdend voertuig. Momenteel zijn bestuurders in commercieel verkrijgbare, deels zelfrijdende voertuigen verplicht om de handen aan het stuur te houden en zijn bestuurders altijd verantwoordelijk voor de veiligheid. Bij een ongeval zal daarom in de regel de bestuurder aansprakelijk worden gehouden en niet de ontwikkelaar of producent van het systeem. Wanneer zelfrijdende voertuigen van een hoger niveau commercieel verkrijgbaar zullen zijn en de meeste of alle taken door het voertuig worden uitgevoerd, zal het technisch mogelijk zijn om het stuur voor een langere tijd los te laten. Om deze optie juridisch goed ingebed aan bestuurders aan te bieden, moet de regelgeving eerst worden aangepast. De Rijksdienst voor het Wegverkeer (RDW) onderzoekt hoe de wetgeving op het gebied van zelfrijdende voertuigen moet worden aangepast [33].

Ethische vraagstukken

Er zijn ook belangrijke ethische vraagstukken die een rol spelen bij de introductie van zelfrijdende voertuigen. Een zelfrijdend voertuig moet idealiter altijd de juiste beslissing nemen, zelfs in noodsituaties. Het is echter de vraag of dit mogelijk is en zo niet, op welke gronden dan keuzes gemaakt moeten worden [34]. Moet het voertuig zijn inzittenden beschermen of juist andere weggebruikers? Hangt de beslissing af van hoeveel mensen er gevaar lopen? Of wie er gevaar loopt? Een extreem voorbeeld uit het Moral Machine Experiment van Awad et al. [35] maakt dit duidelijk (zie Afbeelding 3).

Afbeelding 3. Wat is ethisch gezien de juiste beslissing? Een extreem voorbeeld: stel dat een volledig zelfrijdend voertuig met drie inzittenden de controle verliest en niet meer kan remmen. Het voertuig nadert een voetgangersoversteekplaats waarbij het verkeerslicht voor het voertuig groen is. Drie ouderen zijn de weg aan het oversteken terwijl het voetgangerslicht op rood staat. Als het voertuig op de huidige rijstrook blijft zal het de drie ouderen aanrijden. Het voertuig kan uitwijken naar de andere rijstrook, maar zal in dat geval tegen een betonblok aanrijden waarbij de drie inzittenden gevaar lopen. Uit: Awad et al., 2018 [35]; zie: https://www.nature.com/articles/s41586-018-0637-6/figures/1).

Het voorbeeld is natuurlijk extreem, maar ook in minder extreme riskante situaties moet een beslissing worden genomen over hoe deze risico’s worden verdeeld over de betrokken partijen. Autofabrikanten en beleidsmakers worstelen met zulke dilemma’s die niet gemakkelijk met huidige ethische principes zijn op te lossen [35]. Er is een sterke behoefte om morele algoritmes te ontwikkelen die met zulke dilemma’s om kunnen gaan volgens acceptabele ethische normen [34].

Bij de interactie tussen bestuurder en zelfrijdend voertuig zijn er verschillende aspecten van belang. Problemen in de interactie kunnen zich voordoen als (een van) deze aspecten niet op orde zijn. Aspecten die regelmatig worden genoemd in de literatuur zijn: modusbewustzijn, gekalibreerd vertrouwen, gepaste aandacht en behoud van vaardigheden. Hieronder gaan we op elk van deze aspecten in. Problemen kunnen verminderd of zelfs voorkomen worden door goede communicatie tussen bestuurder en voertuig. Hoe deze communicatie kan plaatsvinden staat in de vraag Hoe kunnen zelfrijdende voertuigen en bestuurders en andere weggebruikers met elkaar communiceren?.

Modusbewustzijn

Modusbewustzijn (mode awareness) houdt in dat de bestuurder altijd begrijpt wat de staat, of modus, is van het zelfrijdende voertuig: wie is verantwoordelijk voor (een deel van) de rijtaak, de bestuurder of het voertuig? Dit zorgt ervoor dat de bestuurder zich bewust is van zijn verantwoordelijkheden en hiernaar kan handelen. Als modusbewustzijn niet op orde is, dan kan modusverwarring (mode confusion) ontstaan. Modusverwarring is verwarring bij de bestuurder over de huidige staat van het zelfrijdende voertuig. Dit kan tot gevaarlijke situaties leiden omdat de bestuurder mogelijk incorrect gaat handelen vanuit verwarring. Een incorrecte handeling vanuit modusverwarring heet ook wel een modusfout (mode error) [36]. Een voorbeeld is dat de bestuurder ten onrechte denkt dat het systeem dat afstand houdt tot een voorligger aanstaat en daarom (te) laat op de rem trapt.

Gekalibreerd vertrouwen

Gekalibreerd vertrouwen (calibrated trust) houdt in dat de bestuurder een gepast en reëel vertrouwen heeft in het zelfrijdende voertuig. De mate waarin de bestuurder het voertuig vertrouwt, moet overeenkomen met wat het voertuig daadwerkelijk kan. Wanneer het vertrouwen onterecht groot is, kan dit verkeerd, en daarmee gevaarlijk, gebruik van het voertuig veroorzaken [37]. Anderzijds kan te weinig vertrouwen, of zelfs wantrouwen, leiden tot het niet gebruiken van de automatiseringsfunctionaliteiten, wat de potentiële veiligheidsvoordelen tenietdoet [38].

Gepaste aandacht

De bestuurder moet zijn aandacht richten op activiteiten die kritiek zijn voor veiligheid in het verkeer. Zelfrijdende voertuigen van Niveau 3 en hoger (zie de vraag Welke niveaus van zelfrijdende auto’s voertuigen worden onderscheiden? ) maken het voor de bestuurder echter mogelijk om op bepaalde momenten een niet-rijtaak gerelateerde activiteit uit te voeren. Denk hierbij aan Whatsappen. Maar als de bestuurder verantwoordelijkheden heeft in de rijtaak, is het van belang dat hij hier aandacht aan besteedt. Hij moet dus op tijd stoppen met de niet-rijtaak gerelateerde activiteit en zijn aandacht op de rijtaak richten wanneer dat nodig is. Naast niet afgeleid, moet de bestuurder op kritieke momenten ook niet te vermoeid zijn. Het kan lastiger zijn om gepaste aandacht te hebben in een zelfrijdend voertuig, dan in een conventioneel voertuig [39] [40]. Zo kan het erg vermoeiend zijn om gedurende lange tijd geconcentreerd de rijsituatie in de gaten te houden zonder zelf actief betrokken te zijn bij de rijtaak (zie de SWOV-factsheet Vermoeidheid).

Behoud van vaardigheden

Met toenemende automatisering zal de bestuurder steeds minder zelf actief rijden. Er wordt verwacht dat dit op de lange termijn kan leiden tot een afname van de rijvaardigheid bij de bestuurder [41]. Dit wordt vooral als een mogelijk issue gezien bij zelfrijdende voertuigen van Niveau 3. In dit niveau behoudt de bestuurder de verantwoordelijkheid om de rijtaak over te nemen wanneer nodig, terwijl het voertuig onder bepaalde omstandigheden zelf de rijtaak kan uitvoeren. De bestuurder moet uiteraard zijn vaardigheden om de rijtaak uit te voeren behouden, ook wanneer hier langere periode geen beroep op is gedaan.

De intentie om in een zelfrijdend voertuig te rijden, zal naar verwachting toenemen als de aankoopkosten aanzienlijk afnemen en wanneer mensen tevreden zijn over het voertuig.
Zelfrijdende voertuigen kunnen mobiliteit alleen veranderen als zij door mensen geaccepteerd en gebruikt worden. Onderzoek naar potentiële gebruikers van zelfrijdende auto’s [42] laat zien dat de mogelijke veiligheidsvoordelen, geen issues met parkeren en de mogelijkheid om andere dingen onderweg te doen, het meest aantrekkelijk zijn. Minder aantrekkelijk zijn de kosten, minder controle over de auto en de aansprakelijkheid bij een ongeluk. Deze opinies hebben impact op de intentie om een zelfrijdend voertuig te gaan gebruiken. Volgens voorspellingen van onderzoekers [43] zal er enkel volop gebruik worden gemaakt van zelfrijdende voertuigen wanneer de kosten jaarlijks met 15 tot 20 procent afnemen en iedereen tevreden is met de aankoop. Een ander onderzoek [44] laat zien dat de aankoop van een zelfrijdende auto vooral samenhangt met de verwachte prestaties van het voertuig, het verwachte bedieningsgemak en invloeden van de sociale omgeving. Naarmate iemand meer geneigd is mee te gaan met innovaties in het algemeen, zijn deze verbanden sterker. Deze bevinding betekent dat vooral de innovatiegezinde consumenten de grootschalige introductie van zelfrijdende voertuigen kunnen faciliteren. Om de acceptatie en introductie een impuls te geven, zouden marketingactiviteiten zich daarom waarschijnlijk vooral op deze consumenten moeten richten.

Het lijkt erop dat medeweggebruikers anders reageren op zelfrijdende voertuigen dan op conventionele voertuigen. Het onderzoek op dit gebied is echter gelimiteerd en er is veel dat we nog niet weten. We bespreken hieronder de huidige bevindingen, eerst voor kwetsbare verkeerdeelnemers, zoals fietsers en voetgangers, en vervolgens voor bestuurders van conventionele voertuigen.

Kwetsbare verkeersdeelnemers

Fietsers en voetgangers lijken er nog niet zeker van te zijn dat zelfrijdende voertuigen hen zien en voor hen stoppen [45]. Het is daarom niet verrassend dat deze kwetsbare verkeersdeelnemers conservatiever lijken te zijn met oversteken wanneer er een zelfrijdend voertuig nadert, dan wanneer een conventioneel voertuig dat doet [46] [47] [48]. Goede communicatie van het voertuig met kwetsbare verkeersdeelnemers over zijn intenties (ik rijd door, ik ga stoppen) kan er echter voor zorgen dat de kwetsbare verkeersdeelnemer gemakkelijker en met meer vertrouwen oversteekt [49]. Deze communicatie komt uitgebreider aan bod bij de vraag Hoe kunnen zelfrijdende voertuigen en bestuurders en andere weggebruikers met elkaar communiceren?

Verschillende studies suggereren dat fietsers en voetgangers hun gedrag aanpassen op basis van eerdere ervaringen met zelfrijdende voertuigen [28] [46]. Zo is bijvoorbeeld aangetoond dat fietsers positiever worden over een zelfrijdende shuttle als zij hier eerder mee te maken hebben gehad, maar ook dat zij steeds minder vaak voorrang geven aan het voertuig [28].

Bestuurders van conventionele voertuigen

Onderzoek naar de reactie van bestuurders van conventionele voertuigen op zelfrijdende voertuigen heeft zich tot nu toe vooral gericht op platooning trucks, ofwel geautomatiseerde vrachtwagens die zeer dicht achter elkaar rijden (zie de vraag Hoe veilig zijn platooning trucks?). Bestuurders van conventionele voertuigen lijken zich minder comfortabel en veilig, en meer gestrest te voelen in de nabijheid van platooning trucks [21]. Daarnaast bestaat de mogelijkheid dat de bestuurders hun gedrag laten beïnvloeden door zelf ook met een kleinere afstand dan normaal achter de platooning trucks te rijden [50]. Ook zijn er risico’s met inhalen geconstateerd (zie de vraag Hoe veilig zijn platooning trucks?). Er bestaat echter ook onderzoek dat geen verschil vindt in gedrag bij het inhalen van platooning trucks ten opzichte van niet-geautomatiseerde vrachtwagens [21]. Of bestuurders van conventionele voertuigen wel of niet invoegen tussen de platooning trucks hangt af van de grootte van de afstand tussen die vrachtwagens, waarbij de neiging minder is bij een kleinere afstand [21].

In een onderzoek in de Verenigde Staten [51] zijn ongevalsdata waarbij zelfrijdende auto’s betrokken waren geanalyseerd. Het onderzoek laat zien dat er bij alle ongevallen met een zelfrijdend voertuig in die dataset sprake was van een botsing met een ander, conventioneel voertuig. Bij ongevallen met conventionele, niet-zelfrijdende, voertuigen was er weliswaar ook regelmatig sprake van een botsing met een ander motorvoertuig (68%), maar er vonden daarbij ook nog vaak ongevallen plaats met stilstaande (16%) en niet-stilstaande objecten (14%) of zonder enige botsing (2%). Volgens de onderzoekers lijken zelfrijdende voertuigen niet verantwoordelijk te zijn voor de ongevallen waarin zij betrokken zijn, maar ligt de oorzaak eerder bij bestuurders van conventionele voertuigen. De onderzoekers noemen als mogelijke verklaring voor deze bevinding het feit dat bestuurders van conventionele voertuigen onzeker zijn over wat ze kunnen verwachten van zelfrijdende voertuigen. Waarschijnlijk zijn oorzaken van ongevallen met zelfrijdende voertuigen echter complex en niet toe te schrijven aan slechts één factor. Zo bestaan er bijvoorbeeld ook uitdagingen voor bestuurders van zelfrijdende voertuigen (zie de vraag Welke bestuurders-gerelateerde obstakels zijn er bij zelfrijdende auto’s?) die mogelijk een rol kunnen spelen.

Een zelfrijdend voertuig en de bestuurder communiceren binnen in het voertuig met een Mens-Machine Interface, ook wel een HMI (Human Machine Interface) genoemd (bijvoorbeeld [52]). Een zelfrijdend voertuig en andere weggebruikers kunnen aan de buitenkant van het voertuig communiceren met een externe Mens-Machine Interface, ook wel een eHMI genoemd (bijvoorbeeld [53]). Een HMI en een eHMI moeten ervoor zorgen dat de interactie met het voertuig veilig gebeurt. Communicatie kan plaatsvinden door een of meer zintuigen van de bestuurder of de andere weggebruiker te stimuleren. Bij een HMI kunnen bijvoorbeeld icoontjes worden getoond op het dashboard, (waarschuwings)geluiden worden afgespeeld en trillingen in het stuur worden afgegeven. Als de bestuurder wil communiceren met het voertuig, dan kan dat bijvoorbeeld door knopjes in te drukken op het stuur, via een touchscreen, of spraakgestuurd. Bij een eHMI kunnen andere weggebruikers inzicht krijgen in de intenties van het zelfrijdende voertuig bijvoorbeeld via een tekstbericht op een extern display, een laserprojectie op de straat en door geluiden. Communicatie van andere weggebruikers met het voertuig verloopt bijvoorbeeld via sensoren van het voertuig die non-verbale signalen oppakken, zoals het traject van deze andere weggebruikers.

Omdat goede communicatie zo belangrijk is, wordt onderzocht hoe een HMI en eHMI het beste kunnen worden vormgegeven. Momenteel bestaan er algemene ontwerpprincipes voor intelligente transport- en rijhulpsystemen (zie ook de SWOV-factsheet Intelligente transport- en rijhulpsystemen (ITS en ADAS). Verder onderzoek naar HMI’s vindt bijvoorbeeld plaats in het Europese MEDIATOR-project waarin een HMI wordt ontwikkeld voor deels en volledig zelfrijdende voertuigen voor de communicatie tussen de bestuurder en het voertuig (mediatorproject.eu [54]). Voor eHMI’s is er ook nog verder onderzoek nodig omdat er nog veel aspecten moeten worden verkend om de effectiefste communicatie te borgen [53].

Het besturen van een (deels) zelfrijdend voertuig vereist specifieke vaardigheden. Gerichte training tijdens bijvoorbeeld rijlessen kan daarbij waardevol zijn. De meningen zijn verdeeld of dit moet leiden tot aanpassingen van de formele rijopleidings- en rijexameneisen.
Wanneer voertuigen volledig geautomatiseerd zijn, kunnen ze alle aspecten van het rijden uitvoeren zonder interventie van de mens. Op dat moment spelen de rijvaardigheden en rijgeschiktheid van de mens geen rol meer en zou een rijbewijs technisch gezien niet meer noodzakelijk zijn. Maar voordat we op dat punt zijn aangekomen, bestaan er nog uitdagingen voor de rijvaardigheid en rijgeschiktheid voor lagere niveaus van zelfrijdende voertuigen.

Bij deels zelfrijdende voertuigen voeren de bestuurder en het voertuig de rijtaak samen uit. In dat geval moeten de bestuurder en het voertuig goed samenwerken om een veilige uitvoering te garanderen [55]. Hierbij is het aanpassingsvermogen van de bestuurder belangrijk. Hij moet onder andere modusbewustzijn, gekalibreerd vertrouwen en gepaste aandacht hebben om deze verantwoordelijkheid goed aan te kunnen. Daarnaast moet hij zijn rijvaardigheden behouden (zie de vraag Welke bestuurders-gerelateerde obstakels zijn er bij zelfrijdende auto’s?). Goede communicatie tussen het zelfrijdend voertuig en de bestuurder speelt hierin een belangrijke rol (zie de vraag Hoe kunnen zelfrijdende voertuigen met bestuurders en andere weggebruikers communiceren?). Dit alles kan andere vereisten aan de rijvaardigheid stellen.

In 2020 is een analyse van de literatuur en trainingsbehoeften in combinatie met consultaties met stakeholders uitgevoerd [56]. Op basis hiervan is geconcludeerd dat het waardevol kan zijn om aangepaste training te geven aan bestuurders voor zelfrijdende voertuigen, maar dat dit niet noodzakelijk hoeft te worden opgenomen in huidige rijlessen en eisen voor het rijbewijs. Het is wel van belang om te blijven monitoren en nieuwe inzichten te blijven beoordelen. Op deze manier kan tijdig worden geïdentificeerd wanneer aanpassingen in rijlessen en de rijvaardigheids- en rijgeschiktheidseisen nodig zijn. Uit onderzoek onder rijexaminatoren blijkt echter dat zij bijna unaniem van mening zijn dat er ook aandacht moet worden besteed aan het rijden met de meest voorkomende vormen van rijhulpsystemen [57].

Hieronder vindt u de lijst met referenties uit deze factsheet; alle bronnen zijn in te zien of op te vragen. Via Publicaties vindt u, naast de hier gebruikte bronnen, nog een uitgebreide collectie aan literatuur op het gebied van verkeersveiligheid.

[1]. NHTSA (2021). Automated Vehicles for Safety. National Highway Traffic Safety Administration, NHTSA, Washington D.C. Geraadpleegd 10-08-2021 op www.nhtsa.gov/technology-innovation/automated-vehicles-safety.

[2]. ERTRAC (2019). Connected automated driving roadmap. European Road Transport Research Advisory ERTRAC, Brussels.

[3]. Tabone, W., Winter, J. de, Ackermann, C., Bärgman, J., et al. (2021). Vulnerable road users and the coming wave of automated vehicles: Expert perspectives. In: Transportation Research Interdisciplinary Perspectives, vol. 9, p. 100293.

[4]. SAE (2021). Surface vehicle recommended practice: Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles. SAE J 3016-2021. SAE International.

[5]. Tesla (2021). Autopilot. Geraadpleegd 01-10-2021 op www.tesla.com/nl_NL/autopilot.

[6]. NHTSA (2008). National motor vehicle crash causation survey. Report DOT HS 811 059. National Highway Traffic Safety Administration, NHTSA, Washington, D.C.

[7]. Milakis, D., Arem, B. van & Wee, B. van (2017). Policy and society related implications of automated driving: A review of literature and directions for future research. In: Journal of Intelligent Transportation Systems, vol. 21, nr. 4, p. 324-348.

[8]. Hagenzieker, M.P. (2015). 'Dat paaltje had ook een kind kunnen zijn'. Over verkeersveiligheid en gedrag van mensen in het verkeer. Intreerede 21 oktober 2015 ter gelegenheid van de aanvaarding van het ambt van hoogleraar Verkeersveiligheid aan de faculteit Civiele Techniek en Geowetenschappen van de Technische Universiteit te Delft. TU Delft, Delft.

[9]. SWOV & RAI (2018). Veilig onderweg met de auto. SWOV, Den Haag.

[10]. Milakis, D., Snelder, M., Arem, B. van, Wee, B. van, et al. (2017). Development and transport implications of automated vehicles in the Netherlands: scenarios for 2030 and 2050. In: European Journal of Transport and Infrastructure Research, vol. 17, nr. 1.

[11]. Bazilinskyy, P., Kyriakidis, M., Dodou, D. & Winter, J. de (2019). When will most cars be able to drive fully automatically? Projections of 18,970 survey respondents. In: Transportation Research Part F: Traffic Psychology and Behaviour, vol. 64, p. 184-195.

[12]. Overheid.nl (2005). Besluit ontheffingverlening exceptioneel vervoer. Geraadpleegd 17-03-2022 op wetten.overheid.nl/BWBR0018680/2015-07-01.

[13]. Overheid.nl (2019). Regeling vergunningverlening experimenten zelfrijdende auto. Geraadpleegd 17-03-2022 op wetten.overheid.nl/BWBR0042343/2019-07-01.

[14]. Hoekstra, A.T.G. & Mons, C. (2020). Advisering over praktijkproeven met zelfrijdende voertuigen. Herziening risicomatrix en lessen uit eerdere proeven. R-2020-14. SWOV, Den Haag.

[15]. Jansen, R.J., Mons, C., Hoekstra, A.T.G., Louwerse, W.J.R., et al. (2019). Advies praktijkproef. HagaShuttle. R-2019-10. SWOV, Den Haag.

[16]. Rijksoverheid (2016). Declaration of Amsterdam ‘Cooperation in the field of connected and automated driving’

[17]. OvV (2019). Veilig toelaten op de weg. Lessen naar aanleiding van het ongeval met de Stint. Onderzoeksraad voor Veiligheid, OvV, Den Haag.

[18]. Victor, T.W., Tivesten, E., Gustavsson, P., Johansson, J., et al. (2018). Automation expectation mismatch: Incorrect prediction despite eyes on threat and hands on wheel. In: Human Factors, vol. 60, nr. 8, p. 1095-1116.

[19]. Carsten, O. & Martens, M.H. (2019). How can humans understand their automated cars? HMI principles, problems and solutions. In: Cognition, Technology & Work, vol. 21, nr. 1, p. 3-20.

[20]. Dixon, L. (2020). Autonowashing: The greenwashing of vehicle automation. In: Transportation Research Interdisciplinary Perspectives, vol. 5, p. 100113.

[21]. Aramrattana, M., Habibovic, A. & Englund, C. (2021). Safety and experience of other drivers while interacting with automated vehicle platoons. In: Transportation Research Interdisciplinary Perspectives, vol. 10, p. 100381.

[22]. IenM (2015). Brochure European Truck Platooning Challenge. Minister of Infrastructure and the Environment, Den Haag.

[23]. Ensemble (2021). Platooning together. Geraadpleegd 19-11-2021 op https://platooningensemble.eu/.

[24]. Axelsson, J. (2017). Safety in vehicle platooning. A systematic literature review. In: IEEE Transactions on Intelligent Transportation Systems, vol. 18, nr. 5.

[25]. Biondi, F., Alvarez, I. & Jeong, K.-A. (2019). Human–vehicle cooperation in automated driving: A multidisciplinary review and appraisal. In: International Journal of Human–Computer Interaction, vol. 35, nr. 11, p. 932-946.

[26]. Litman, T. (2022). Autonomous vehicle implementation predictions: Implications for transport planning. Victoria Transport Policy Institute, VTPI.

[27]. Paddeu, D., Parkhurst, G. & Shergold, I. (2020). Passenger comfort and trust on first-time use of a shared autonomous shuttle vehicle. In: Transportation Research Part C: Emerging Technologies, vol. 115, p. 102604.

[28]. Hagenzieker, M., Boersma, R., Velasco, P.N., Ozturker, M., et al. (2020). Automated buses in Europe: An inventory of pilots. TU Delft, Delft.

[29]. Oikonomou, M.G., Orfanou, F.P., Vlahogianni, E.I. & Yannis, G. (2020). Impacts of autonomous shuttle services on traffic, safety and environment for future mobility scenarios. In: IEEE 23rd International Conference on Intelligent Transportation Systems.  p. 1-6.

[30]. Lengyel, H., Tettamanti, T. & Szalay, Z. (2020). Conflicts of automated driving with conventional traffic infrastructure. In: IEEE Access, vol. 8.

[31]. Hetzer, D., Muehleisen, M., Kousaridas, A., Barmpounakis, S., et al. (2021). 5G connected and automated driving: use cases, technologies and trials in cross-border environments. In: EURASIP Journal on Wireless Communications and Networking, vol. 2021, nr. 1, p. 97.

[32]. Czarnecki, K. (2019). Software engineering for automated vehicles: Addressing the needs of cars that run on software and data. In: 2019 IEEE/ACM 41st International Conference on Software Engineering: Companion Proceedings (ICSE-Companion). IEEE. p. 6-8.

[33]. Rizoomes (2020). De veiligheid van de zelfrijdende auto. Geraadpleegd 17-8-2021 op www.rizoomes.nl/veiligheidskunde/de-veiligheid-van-zelfrijdende-autos/.

[34]. Barabás, I., Todoruţ, A., Cordoş, N. & Molea, A. (2017). Current challenges in autonomous driving. In: IOP conference series: materials science and engineering. IOP Publishing. p. Vol. 252, No. 251, p. 012096.

[35]. Awad, E., Dsouza, S., Kim, R., Schulz, J., et al. (2018). The Moral Machine experiment. In: Nature, vol. 563, nr. 7729, p. 59-64.

[36]. Sarter, N.B. & Woods, D.D. (1995). How in the world did we ever get into that mode? Mode error and awareness in supervisory control. In: Human Factors, vol. 37, nr. 1, p. 5-19.

[37]. Lee, J.D. & See, K.A. (2004). Trust in automation: designing for appropriate reliance. In: Human Factors, vol. 46, nr. 1, p. 50-80.

[38]. Parasuraman, R. & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. In: Human Factors, vol. 39, nr. 2, p. 230-253.

[39]. Matthews, G., Wohleber, R., Lin, J. & Panganiban, A.R. (2019). Fatigue, automation, and autonomy. Challenges for operator attention, effort, and trust. In: Mouloua, M., Hancock, P.A. & Ferraro, J. (red.), Human performance in automated and autonomous systems. Current theory and methods. CRC Press, Boca Raton.

[40]. Stapel, J., Mullakkal-Babu, F.A. & Happee, R. (2019). Automated driving reduces perceived workload, but monitoring causes higher cognitive load than manual driving. In: Transportation Research Part F: Traffic Psychology and Behaviour, vol. 60, p. 590-605.

[41]. Navarro, J. (2019). A state of science on highly automated driving. In: Theoretical Issues in Ergonomics Science, vol. 20, nr. 3, p. 366-396.

[42]. Howard, D. & Dai, D. (2014). Public perceptions of self-driving cars: The case of Berkeley, California. In: Transportation Research Board 93rd annual meeting, vol. 14, nr. 4502, p. 1-16.

[43]. Talebian, A. & Mishra, S. (2018). Predicting the adoption of connected autonomous vehicles. A new approach based on the theory of diffusion of innovations. In: Transportation Research Part C: Emerging Technologies, vol. 95, p. 363-380.

[44]. Leicht, T., Chtourou, A. & Ben Youssef, K. (2018). Consumer innovativeness and intentioned autonomous car adoption. In: The Journal of High Technology Management Research, vol. 29, nr. 1, p. 1-11.

[45]. Vissers, L., Kint, S. van der, Schagen, I. van & Hagenzieker, M. (2016). Safe interaction between cyclists, pedestrians and automated vehicles; What do we know and what do we need to know? R-2016-16. SWOV, The Hague.

[46]. Nuñez Velasco, P., Farah, H., Arem, B. van & Hagenzieker, M. (2017). Interactions between vulnerable road users and automated vehicles: A synthesis of literature and framework for future research. In: Proceedings of the Road Safety and Simulation International Conference.  p. 16-19.

[47]. Vlakveld, W., Kint, S. van der & Hagenzieker, M.P. (2020). Cyclists’ intentions to yield for automated cars at intersections when they have right of way: Results of an experiment using high-quality video animations. In: Transportation Research Part F: Traffic Psychology and Behaviour, vol. 71, p. 288-307.

[48]. Vlakveld, W.P. & Kint, S. van der (2018). Hoe reageren fietsers op zelfrijdende auto’s? Gedragsintenties bij ontmoetingen op kruispunten. R-2018-21. SWOV, Den Haag.

[49]. Chang, C.M., Toda, K., Sakamoto, D. & Igarashi, T. (2017). Eyes on a car: an interface design for communication between an autonomous car and a pedestrian. In: Proceedings of the 9th international conference on automotive user interfaces and interactive vehicular applications.  p. 65-73.

[50]. Gouy, M., Wiedemann, K., Stevens, A., Brunett, G., et al. (2014). Driving next to automated vehicle platoons: How do short time headways influence non-platoon drivers’ longitudinal control? In: Transportation Research Part F: Traffic Psychology and Behaviour, vol. 27, p. 264-273.

[51]. Schoettle, B. & Sivak, M. (2015). A preliminary analysis of real-world crashes involving self-driving vehicles. UMTRI-2015-34. University of Michigan Transportation Research Institute.

[52]. Naujoks, F., Wiedemann, K., Schömig, N., Hergeth, S., et al. (2019). Towards guidelines and verification methods for automated vehicle HMIs. In: Transportation Research Part F: Traffic Psychology and Behaviour, vol. 60, p. 121-136.

[53]. Dey, D., Habibovic, A., Löcken, A., Wintersberger, P., et al. (2020). Taming the eHMI jungle: A classification taxonomy to guide, compare, and assess the design principles of automated vehicles' external human-machine interfaces. In: Transportation Research Interdisciplinary Perspectives, vol. 7, p. 100174.

[54]. MEDIATOR (2021). MEdiating between Driver and Intelligent Automated Transport Systems on Our Roads. Geraadpleegd 16-08-2021 op mediatorproject.eu/.

[55]. Petermeijer, S.M., Tinga, A.M., Reus, A. de, Jansen, R.J., et al. (2021). What makes a good team? – Towards the assessment of driver-vehicle cooperation. AutomotiveUI.

[56]. Regan, M., Prabhakharan, P., Wallace, P., Cunningham, M.L., et al. (2020). Education and training for drivers of assisted and automated vehicles. AP-R616-20. Austroads.

[57]. Vlakveld, W.P. & Wesseling, S. (2018). ADAS in het rijexamen. Vragenlijstonderzoek onder rijschoolhouders en rijexaminatoren naar moderne rijtaakondersteunende systemen in de rijopleiding en het rijexamen voor rijbewijs B. R-2018-20. SWOV, Den Haag.