Mensen geven bij ongevallen meer de schuld aan het automatische systeem van een voertuig dan aan de bestuurder

Deskundigen voorspellen dat autonome voertuigen (AV’s) onze wegen uiteindelijk veiliger zullen maken, aangezien de meeste ongevallen worden veroorzaakt door menselijke fouten. Het kan echter enige tijd duren voordat mensen klaar zijn om hun vertrouwen te stellen in een zelfrijdende auto.

Een nieuwe studie in het tijdschrift Risico analyse ontdekte dat mensen bij een ongeval eerder de schuld geven aan het automatiseringssysteem en de fabrikant van een voertuig dan aan de menselijke bestuurder.

Semi-autonome voertuigen (semi-AV’s), waarmee mensen toezicht kunnen houden op het rijden en de controle over het voertuig kunnen nemen, zijn al op de weg. De Tesla Model S 2020 biedt bijvoorbeeld een Autopilot-systeem en de Cadillac CT6 2020 heeft een Super Cruise-systeem. Bij beide moet de bestuurder op elk moment klaar zijn om de auto te besturen.

Deze nieuwe studie suggereert echter dat er waarschijnlijk vragen zullen rijzen over schuld, verantwoordelijkheid en compensatie wanneer een semi-AV bij een botsing betrokken is.

Onderzoekers onder leiding van Peng Liu, een universitair hoofddocent aan het College of Management and Economics aan de Tianjin University, voerden experimenten uit om de reacties van deelnemers op hypothetische semi-AV-crashes te meten. Wanneer een ongeval werd veroorzaakt door het geautomatiseerde systeem van een voertuig, gaven de deelnemers meer schuld en verantwoordelijkheid aan de automatisering en de fabrikant en gaven aan dat het slachtoffer meer gecompenseerd moest worden in vergelijking met een ongeval veroorzaakt door een menselijke bestuurder. Ze oordeelden ook dat de door automatisering veroorzaakte crash ernstiger en minder acceptabel was dan een crash veroorzaakt door een mens, ongeacht de ernst van de crash (waarbij sprake was van een verwonding of een dodelijk ongeval).

Liu en zijn collega’s noemen deze vooringenomenheid tegen geautomatiseerde systemen ‘asymmetrie van schuldattributie’. Het geeft aan dat mensen de neiging hebben om overdreven te reageren op door automatisering veroorzaakte crashes, mogelijk als gevolg van het hogere negatieve affect, of gevoelens en emoties, die door deze crashes worden opgeroepen. Negatieve emoties zoals woede kunnen de toeschrijving van wettelijke verantwoordelijkheid en schuld versterken.

De auteurs wijzen erop dat dezelfde soort affect-geïnduceerde schuldattributie-asymmetrie een rol kan spelen in andere samenwerkingssituaties waarbij mensen en machines betrokken zijn. Bijvoorbeeld chirurgen die werken met medische robots en piloten die werken met militaire drones.

Beleidsmakers en toezichthouders moeten zich bewust zijn van de mogelijke overreactie van mensen op ongevallen waarbij AV’s betrokken zijn wanneer ze beleid opstellen voor de inzet en regulering ervan, met name met betrekking tot financiële compensatie voor slachtoffers die gewond zijn geraakt of gedood door geautomatiseerde systemen. “Volgens onze bevindingen moeten ze misschien de mogelijkheid overwegen dat voor leken, slachtoffers van AV-crashes meer moeten worden gecompenseerd dan gewoonlijk wordt berekend”, schrijven de auteurs.

Een beleid dat toelaat wat volgens mensen “onveilige” semi-AV’s op de weg zijn, kan averechts werken, aangezien de onvermijdelijke ongevallen die zullen plaatsvinden, meer mensen ervan kunnen weerhouden om ze te adopteren. Om de negatieve houding van mensen over semi-AV’s te veranderen, stelt Liu dat “openbare communicatiecampagnes zeer nodig zijn om op transparante wijze nauwkeurige informatie te communiceren, publieke misvattingen weg te nemen en mogelijkheden te bieden om semi-AV’s te ervaren.”

In een eerdere studie voerden Liu en zijn collega’s een veldexperiment uit waarbij 300 deelnemers ervoeren als passagier in een semi-AV. “Deze directe ervaring leidde tot een aanzienlijke toename van het vertrouwen en een vermindering van negatieve gevoelens en emoties over semi-AV’s”, zegt hij.