Kan een zelfrijdende auto u schaden?

Zou u uw leven toevertrouwen aan een autonoom voertuig? Begrijpt u hoe het zal reageren in gevaarlijke situaties? Bent u bereid om binnen te komen zonder de risico’s te kennen?

Met een toenemend aantal autonome voertuigen op onze wegen, zijn er vragen die moeten worden overwogen. In tegenstelling tot menselijke bestuurders hebben deze machines geen morele intuïtie; elke beslissing is een berekend proces.

“Er is een zeker risico aan verbonden wanneer je in een zelfrijdende auto stapt”, zegt universitair hoofddocent Christoph Bartneck van het Human Interface Technology Lab New Zealand (HIT Lab NZ) in UC’s College of Engineering. “Deze machines zijn niet perfect, ze zullen falen en ze zullen mensen pijn doen. Mensen zijn al omgekomen bij incidenten met autonome voertuigen als gevolg van hoe ze zijn geprogrammeerd.”

Hij legt uit dat de fabrikanten van autonome voertuigen de verantwoordelijkheid hebben om duidelijk aan te geven wat de risico’s en onzekerheden zijn bij het gebruik van deze technologie.

“Risico’s en onzekerheid overbrengen is een van de meest uitdagende taken op het gebied van wetenschapscommunicatie, omdat het gebaseerd is op geavanceerde wiskundige concepten, die mensen vaak moeilijk te begrijpen zijn”, zegt hij.

Andere wetenschappelijke velden, zoals geneeskunde, staan ​​voor dezelfde uitdagingen, zegt professor Elena Moltchanova van de School of Mathematics and Statistics in the College of Engineering.

“Artsen moeten patiënten uitleggen dat bepaalde behandelingen een bepaalde kans hebben om te slagen of te mislukken, en dat die behandelingen een zeker risico op bijwerkingen met zich meebrengen. Er is in de medische ruimte veel onderzoek gedaan naar het communiceren van risico’s, zodat zij ‘ zijn veel verder dan we zijn in Human Robot Interaction ”, zegt ze.

In hun laatste onderzoek onderzochten professor Moltchanova en universitair hoofddocent Bartneck het gebruik van verschillende uitdrukkingen en woorden om risico’s en onzekerheid rondom autonome voertuigen te communiceren.

De deelnemers kregen een willekeurige reeks zinnen voorgeschoteld met een woord of zin als “waarschijnlijk”, “waarschijnlijk” en “bijna geen kans” om te beschrijven hoe waarschijnlijk het was dat een situatie zou gebeuren. Ze werd gevraagd om een ​​waarschijnlijkheidspercentage te kiezen (met behulp van de meegeleverde schalen), waarvan ze dachten dat het met dat woord overeenkwam.

“We wilden zien of er een verband was tussen woorden en cijfers. Als we bijvoorbeeld zeggen dat iets heel waarschijnlijk is, denken mensen dan dat de kans dat het gebeurt 50, 70 of 90 procent is”, zegt professor Moltchanova.

Over het algemeen toonde het onderzoek aan dat er een redelijke correlatie bestaat tussen percentages en woorden.

“Aan elk uiteinde van de schaal was er een sterke correlatie; deelnemers kwamen overeen met ‘zeer waarschijnlijk’ met 100 procent en ‘bijna geen kans’ met 0 procent. In het midden, ongeveer 60 tot 80 procent, waren de dingen minder duidelijk met woorden en zinnen door elkaar gebruikt worden, “zegt ze.

Universitair hoofddocent Bartneck zegt dat idealiter zowel woorden als cijfers moeten worden gebruikt bij het communiceren van onzekerheid rond autonome voertuigen om de informatie zo toegankelijk mogelijk te maken.

Hij zegt dat hun onderzoek ook heeft aangetoond dat mensen de kans dat een gebeurtenis zich voordoet met zekerheid verwarren met een uitspraak, en legt uit dat het belangrijk is om onderscheid te maken tussen risico en onzekerheid in openbare communicatie. Terwijl risico zich concentreert op negatieve gebeurtenissen, omvat onzekerheid ook positieve resultaten.

“We moeten mensen vertellen wat de kans is dat een gebeurtenis plaatsvindt en hoe zeker we daarover zijn. Dit zijn twee verschillende dingen, maar mensen hebben moeite om ze van elkaar te scheiden”, zegt universitair hoofddocent Bartneck.

“Als ik bijvoorbeeld zeg ‘Ik ben er zeer zeker van dat de auto niet zal crashen’, zeg ik dat de kans op een crash erg laag is, maar mijn zekerheid of vertrouwen in deze verklaring is erg hoog.”

De onderzoekers vonden dat negatieve en dubbel-negatieve uitingen van onzekerheid moeten worden vermeden om mensen te helpen het verschil tussen waarschijnlijkheid en zekerheid te begrijpen.

Ze benadrukken dat autonome voertuigen niet perfect zijn en totdat de prestaties van een autonoom voertuig minstens zo goed zijn als een menselijke bestuurder, moeten degenen die er gebruik van willen maken zich bewust zijn van en akkoord gaan met de risico’s voordat ze ze gebruiken.

“Het zal nooit perfect zijn, maar we moeten doen wat we kunnen om onzekerheid over technologie, zoals autonome voertuigen, zo goed mogelijk over te brengen, omdat de gevolgen van het niet begrijpen zo gevaarlijk zijn”, zegt universitair hoofddocent Bartneck.