De zelfstandig rijdende wagen in een ongeval

[Vit]

Zover ik weet zal een menselijke bestuurder niet zo geïnteresseerd zijn in het behoud van de boordcomputer,
andersom verwacht ik dat de boordcomputer wel geinteresseerd zal zijn in het behoud van de linker-voorpassagier.

Tenzij je in Engeland of Australië rijdt natuurlijk. Dat wordt lachen als je van de veerpont komt kan ik je voorspellen.

Pardon, wat heeft dat te maken met het belang van degene die link of rechts zit in een zelfrijdende auto?

Jij hebt het over de linker-voorpassagier, dus ik neem aan dat je het over de bestuurder hebt.

[Peter van Velzen]

Dat komt omdat jij, net zoals Jerry Kaplan in dat filmpje, je op het verkeerde getal richt.

Je redenatie is ongetwijfeld juist, maar het is niet voldoende als ik of Kaplan me op het juiste getal richt. De vraag is uiteraard wat een potentiële koper doet! Die zijn ongetwfijfeld niet zo slim as jij. Maar nogmaals, ik verwacht dat dergelijke ingewikkelde redenaties niet aan de machine besteed zullen zijn, Hij zal gewoon minder en zachter botsen en iedereen is veiliger.

[axxyanus]

Dat komt omdat jij, net zoals Jerry Kaplan in dat filmpje, je op het verkeerde getal richt.

Je redenatie is ongetwijfeld juist, maar het is niet voldoende als ik of Kaplan me op het juiste getal richt. De vraag is uiteraard wat een potentiële koper doet! Die zijn ongetwfijfeld niet zo slim as jij. Maar nogmaals, ik verwacht dat dergelijke ingewikkelde redenaties niet aan de machine besteed zullen zijn, Hij zal gewoon minder en zachter botsen en iedereen is veiliger.

Ik zal de vraag eenvoudiger stellen. Wat moet voor jouw prioritair zijn? Dat de wagen probeert ongevallen te vermijden of dat je de ongevallen die gebeuren overleeft?

[Peter van Velzen]

Ik zal de vraag eenvoudiger stellen. Wat moet voor jouw prioritair zijn? Dat de wagen probeert ongevallen te vermijden of dat je de ongevallen die gebeuren overleeft?

Niet eenvoudig genoeg, Overleven - ongeacht het aantal ongevallen zou MIJN proriet zijn. Maar ik ben best tevreden met een auto die - onder alle omstandigheden kiest, voor de zachtste botsing (geen botsing is zachter dat welke botsing dan oko)

[axxyanus]

Ik zal de vraag eenvoudiger stellen. Wat moet voor jouw prioritair zijn? Dat de wagen probeert ongevallen te vermijden of dat je de ongevallen die gebeuren overleeft?

Niet eenvoudig genoeg, Overleven - ongeacht het aantal ongevallen zou MIJN proriet zijn.

En hoe denk je dat dat het gemakkelijkst te bekomen is? Door de auto zo te programmeren dat hij ongevallen probeert te vermijden of door de wagen te programmeren zodat wanneer een ongeval niet te vermijden is, hij je kans op overleven maximaliseert.

[Peter van Velzen]

En hoe denk je dat dat het gemakkelijkst te bekomen is? Door de auto zo te programmeren dat hij ongevallen probeert te vermijden of door de wagen te programmeren zodat wanneer een ongeval niet te vermijden is, hij je kans op overleven maximaliseert.

Door beiden na te streven uiteraard. Zoals ik al zei: Zo zacht mogelijk botsen en niet botsen is de zachtst mogelijke botsing.

[axxyanus]

En hoe denk je dat dat het gemakkelijkst te bekomen is? Door de auto zo te programmeren dat hij ongevallen probeert te vermijden of door de wagen te programmeren zodat wanneer een ongeval niet te vermijden is, hij je kans op overleven maximaliseert.

Door beiden na te streven uiteraard.

Neen dat is niet uiteraard. Een autofabrikant heeft maar een eindig aantal hulpmiddelen die hij kan inzetten in de programmatie die zijn wagens zelfstandig laten rijden. Tijd en onderzoek dat men specifiek richt op één aspect, is tijd en onderzoek dat niet gericht kan worden op een ander aspect. Het is ook niet zo dat elk aspect noodzakelijk evenveel zal bijdragen tot de uiteindelijke veiligheid van de inzittenden.

Zo'n "door beiden na te streven" antwoord is dus helemaal niet uiteraard.

Zoals ik al zei: Zo zacht mogelijk botsen en niet botsen is de zachtst mogelijke botsing.

Maar dat komt helemaal niet naar voor in het vorig deel van je antwoord. Enkel dit deel van je antwoord bekijken, zou me tot het besluit brengen dat je voor een politiek bent die zich voornamelijk richt op het vermijden van ongevallen. Maar dat komt dan niet overeen met je eerste deel van je antwoord dat eerder op een gelijke verdeling van aandacht lijkt te wijzen tussen voorkomen van ongevallen en overleven van ongevallen.

[Peter van Velzen]

Ongetwijfeld kan men zijn aandacht op de eerste plaats richten op het voorkomen van ongevallen of men kan prioriteit geven aan het beperken van de (lichamelijke) schade als er tóch een ongeval plaats heeft. Men kan ook beide aspecten evenveel aandacht geven.

De verhouding tussen de inspanningen die men daartoe levert, is afhankelijk van het te verwachte rendement. (in mensenlevens en in trauma's gerekend uiteraard). Laten we ons even tot mensenlevens beperkem, want de waarde van een trauma ten opzichte van een leven, is een verhouding die zich moeilijk laat bepalen.

Als x het aantal ongevallen is plaats vindt per kilometer, en y is het aantal doden per ongeval. en dx is het aantal ongevallen dat minder plaatheeft als men daaraan prioriteit geef, en dy is het aantal levens dat men redt door de gevolgen van een ongeval te verminderen. Dan moet men als dx*y > x*dy prioriteit geven aan het voorkomen van ongevallen, maar als dx*y < x*dy dan moet met prioriteit geven aan het verzachten van de gevolgen.

Welk van de twe het geval is kan ik niet voorspellen. En het is dus niet opportuun daar nu een keuze in te maken. Dat hangt af van de grootte van de genoemde factoren. Daarbij kunnen we dx en dy alleen maar inschatten, hun werkelijke grootte weten we alleen als we beiden hebben gedaan.

[Peter van Velzen]

Dit onderwerp kwam vandaag aan bod op Scientias. Vreemd dat niemand op het idee komt dat we sommge van de afwegingen helemaal niet kunen maken. Of we nu een zelfrijdende auto zijn, of een menselijke bestuurder. Hoe komt men bijvoorbeeld op het absurder idee, dat men in een dergelijke noodsituaties het onderscheid tussen een arts, een dakloze en een crimineel kunen maken? Die informatie hebben we helemaal niet, en er is ook geen tijd om het uit te zoeken!

Op de een of andere manier kunnen mensen die ethische dillema's verzinnen niet begrijpen, dat we niet alwetend kunnen zijn en dus maar een heel globale inschatting van de consequenties kunnen maken.

[vegan-revolution]

Dankzij deze post van jou hier, Peter, heb ik nu dit al langer bestaande onderwerp in de gaten gekregen. Ja, dat spel zal mensen zeker aan het denken zetten.

Ikzelf ben geneigd om te kiezen voor de optie om de schade zoveel mogelijk evenredig te verdelen onder zowel inzittenden als diegenen die buiten en nabij het voertuig zijn. Ik heb dus nu de optie "de overlijdenskans zo goed mogelijk spreiden" aangevinkt.

[vegan-revolution]

Of we nu een zelfrijdende auto zijn, of een menselijke bestuurder. Hoe komt men bijvoorbeeld op het absurde idee, dat men in een dergelijke noodsituaties het onderscheid tussen een arts, een dakloze en een crimineel zou kunnen maken? Die informatie hebben we helemaal niet ,en er is ook geen tijd om het uit te zoeken!

We kunnen denk ik wel stellen dat iedere bestuurder weer anders zal reageren in vergelijkbare situaties. Daar rolt misschien wel een grove gemene deler uit. Er zal ook een verschil zijn in hoe bestuurders gemiddeld in de praktijk reageren en hoe men gemiddeld vindt dat een bestuurder zou moeten reageren. Uit dat laatste volgt dan ook een grove gemene deler die dan als basis zou kunnen dienen voor de beslisalgoritmes van het besturingssysteem van een zelfrijdende auto. Zo'n beslissingssysteem zal uiteraard nooit "perfect" kunnen zijn, maar dat is het beslissingssysteem van de gemiddelde menselijke bestuurder ook niet.

Er zal meestal zeer snel beslist moeten worden. Hoe kleiner de tijd om te beslissen, hoe grover de methode voor het nemen van een beslissing zal moeten zijn kan ik mij voorstellen.

Een wat mij betreft interessante vraag is of je een zelfrijdende auto ook kunt leren stuntrijden (iets wat de gemiddelde bestuurder nauwelijks zal kunnen), waarmee de mogelijkheden voor het voorkomen van schade nog kunnen worden vergroot.

Dit was trouwens wel een aardige grap met een zogenaamde "zelfrijdende" fiets :

[axxyanus]

Dankzij deze post van jou hier, Peter, heb ik nu dit al langer bestaande onderwerp in de gaten gekregen. Ja, dat spel zal mensen zeker aan het denken zetten.

Ikzelf ben geneigd om te kiezen voor de optie om de schade zoveel mogelijk evenredig te verdelen onder zowel inzittenden als diegenen die buiten en nabij het voertuig zijn. Ik heb dus nu de optie "de overlijdenskans zo goed mogelijk spreiden" aangevinkt.

Waarom zouden anderen evenveel risico moeten lopen, dan de persoon die verantwoordelijk is voor het risico?

IMO moet het risico zoveel mogelijk gedragen worden door de inzittenden. Daarna kunnen we bespreken hoe groot het risico voor de inzittenden mag zijn. Op die manier zullen constructeurs van dergelijke wagen gedwongen zijn om veiligere algoritmes te kiezen. Om de heel eenvoudige reden dat de gevolgen van minder veilige keuzes door de inzittenden en dus hun klanten gedragen zullen worden. In andere gevallen is de verleiding te groot om de gevolgen van minder veilige keuzes op anderen af te wentelen.

[vegan-revolution]

Waarom zouden anderen evenveel risico moeten lopen, dan de persoon die verantwoordelijk is voor het risico?

Het gaat in het geval van een zelfrijdende auto niet om een persoon die achter het stuur zit waaraan je verantwoordelijkheid kunt toedichten. De kwaliteit van de besturing is eerder gelegen in hoe de fabriek die auto heeft afgeleverd. De handelingen van de zelfrijdende auto kunnen dus noch aan de inzittenden noch aan de buitenstaanders worden geweten.

IMO moet het risico zoveel mogelijk gedragen worden door de inzittenden.

Waarom, als géén van de inzittenden de auto bestuurt?

Daarna kunnen we bespreken hoe groot het risico voor de inzittenden mag zijn. Op die manier zullen constructeurs van dergelijke wagen gedwongen zijn om veiligere algoritmes te kiezen. Om de heel eenvoudige reden dat de gevolgen van minder veilige keuzes door de inzittenden en dus hun klanten gedragen zullen worden. In andere gevallen is de verleiding te groot om de gevolgen van minder veilige keuzes op anderen af te wentelen.

Het lijkt mij dat er een regeling ingevoerd kan worden die bewerkstelligt dat verantwoordelijken voor de constructie van de auto financieel voor de aangerichte schade door de zelfrijdende auto moeten opdraaien. De inzittenden blijven wat dat betreft dan buitenspel.

[Peter van Velzen]

Het lijkt mij dat er een regeling ingevoerd kan worden die bewerkstelligt dat verantwoordelijken voor de constructie van de auto financieel voor de aangerichte schade door de zelfrijdende auto moeten opdraaien. De inzittenden blijven wat dat betreft dan buitenspel.

In de Nederlandse wetgeving draait (de verzekering van de) autobezitter altijd al op voor de aangerichte schade bij een botsing met voetgangers en/of fietsers. SImpelweg omdat de laatsten niet verzekerd zijn. waar axxyanus het over heeft is iets anders. De inzittenden hebben geen incentive om hun eigen veiligheid in gevaar te brengen ten bate van het langzaam-verkeer. Hij wil dat de zelfrijdende auto dat probleem voor ons oplost.

[vegan-revolution]

De inzittenden hebben geen incentive om hun eigen veiligheid in gevaar te brengen ten bate van het langzaam-verkeer. Hij wil dat de zelfrijdende auto dat probleem voor ons oplost.

Inzittenden kunnen niets aan hun eigen veiligheid doen als dat aan het besturingssysteem van de zelfrijdende auto wordt overgelaten. Het besturingssysteem van de zelfrijdende auto zal dat dan dus bepalen. Als langzaam-verkeer een factor is, dan zal die factor gewogen in het besturingssysteem van de zelfrijdende auto moeten worden ingebouwd.