De zelfstandig rijdende wagen in een ongeval

[axxyanus]

Joou principe IS geen morele maatstaf! Er is niets moreels aan het maken van een auto die de veiligheid van zijn passagiers ondergeschikt maakt aan de veiligheid van andere automobielgebruikers.

Dat is er wel. De persoon die een wagen in het verkeer brengt, vermindert het gevaar voor zichzelf en vermeerdert dat van de andere weggebruikers. Hij zit nu in een enigzins gepantserde machine dat bescherming bied voor zichzelf maar ook een gevaar oplevert voor de anderen. Ik zie niet wat er in dergelijke omstandigheden mis is om dat te compenseren door in eerste instantie op de veiligheid van de andere weggebruikers te denken.

Het voordeel van deze strategie is dat de enige manier die de programmeurs hier hebben om het risico voor de inzittende te verlagen, is om de wagen zelf minder risico's te laten nemen, terwijl in de andere gevallen er de mogelijkheid is dat de wagen het risico voor zijn inzittenden vermindert ten koste van de andere weggebruikers.

In zekere zin is het omgekeerde het geval, een taxichauffeur heeft meer verantwoordelijkheid ten opzichte van zijn passagiers dan ten opzichte van andere weggebruikers, en heeft eenvoudig niet het recht zijn passagiers op te offeren.

Hij heeft ook niet het recht andere weggebruikers op te offeren. Als ik moet kiezen tussen een taxi-chauffeur wiens enige keuze om zijn passagiers niet op te offeren is om voorzichtig genoeg te rijden i.p.v. dat hij ook de keuze heeft om bepaalde risico's te nemen waardoor hij in bepaalde gevallen andere weggebruikers moet opofferen, dan weet ik wel welke taxi-chauffeur ik zou verkiezen, en dat is niet nummer twee.

Volgens mij zit jij onderbewust vast aan het idee dat de passagiers bestuurders zijn. Ik kan jouw gedachtekronkel op geen andere manier verklaren. Maar het zijn geen bestuurders als het een zelfrijdende auto betreft!

Neen, ik vertrek zoals van in het begin gesteld, van de verantwoordelijkheid voor wie de wagen in het verkeer brengt en daardoor de risico's voor de andere mensen vergroot. Volgens mij snap jij de implicaties niet. Elke andere strategie laat toe dat de wagen risico's neemt ten voordele van zijn passagiers waarbij hij andere weggebruikers opoffert als het misloopt.

[Peter van Velzen]

Dat is er wel. De persoon die een wagen in het verkeer brengt, vermindert het gevaar voor zichzelf en vermeerdert dat van de andere weggebruikers. Hij zit nu in een enigzins gepantserde machine dat bescherming bied voor zichzelf maar ook een gevaar oplevert voor de anderen. Ik zie niet wat er in dergelijke omstandigheden mis is om dat te compenseren door in eerste instantie op de veiligheid van de andere weggebruikers te denken.

Het voordeel van deze strategie is dat de enige manier die de programmeurs hier hebben om het risico voor de inzittende te verlagen, is om de wagen zelf minder risico's te laten nemen, terwijl in de andere gevallen er de mogelijkheid is dat de wagen het risico voor zijn inzittenden vermindert ten koste van de andere weggebruikers.

Ik denk dat dit voordeel tegen zal vallen. In de praktijk zal een dergelijke keuze overigens helemaal niet gemaakt worden, maar zal de computer domweg remmen, ongeacht wie of wat er door vermeden kan worden. In werkelijkheid zal de door jou voorgestelde keuze dus vrijwel nooit gemaakt worden.

Maar nogmaals: Je vergelijkt personen die in de ene auto zitten en zich door de auto in het verkeer laren brengen met andere personsn die in een auto zitten en die deze al dan niet zelf in het verkeer brengen, en offert de levens van de eerste groep op ten faveure van de andere. Dat is moreel niet in de haak.

Je beschouwd de passagiers van de zelfrijdende auto nog steeds als bestuurders en wilt dat de auto hun levens opoffert voor de bestuurders van niet zelfrijdende auto's. dat in zekere zin gewoon verraad! De passagiers mogen van de chauffeur verwachten dat hij hun leven minstens zo goed beschermt al\s het leven van anderen.
De echte bestuurders van niet zelfrijdende auto's zijn de profiteurs van die situatie, en dat is niet eerlijk, want niemand diwngt hen om zichzelf op te offeren, en zij zullen het zeer waarschijnlijk ook niet doen.


Nog even een hypotetisch voorbeeld waarin de keuze die jij voorstaat, er wellicht echt toe doet.

Bij een Y kruizing komt een auto van links en snijdt, de zelfrijdende auto, die niet meer op tijd remmen kan,
De zelfrijdende auto heeft wel demogelijkheid naar rechts uit te wijken en in plaats van een botsing met een ander voertuig aan te gaan dat in dezelde rihting rijdt, tegen een muur aan te rijden.

Het principe van de minste schade, zou hem doen kiezen voor de botsing met het andere voertuig. (minimaal snelheidsverschil). Jouw ontzien van de andere weggebruikers, zou leiden tot een botsing met de muur.
Als een taxichauffeur de laatste keuze zou maken, en het ongeluk overleeft, is hij schuldig aan het onnodig in gevaar brengen van zijn passagier(s) en zal derhalve veroordeelt worden. Maar dat is wel de keuze die jij de zelfrijdende auto wilt laten maken.

In de praktijk zal het meest voorkomende ongeval met een zelfrijdende auto bestaan uit een zelfrijdend auto die stopt voor een oranke verkeerslicht (formeel verplicht), en een niet-zelfrijdende auto die dacht dat het voertuig voor hem - net als hijzelf - bij oranje gewoon door zal rijden, en die er van achteren tegenaan rijdt. Als de zelfrijdende auto dat merkt, zou hij volgens jouw logica moeten ophouden met remmen en volop gas geven. (een verkeersovertreding begaan dus).

Ik denk niet dat de autoriteiten een dergelijk zelfrijdende auto zullen toestaan.

[axxyanus]

Het voordeel van deze strategie is dat de enige manier die de programmeurs hier hebben om het risico voor de inzittende te verlagen, is om de wagen zelf minder risico's te laten nemen, terwijl in de andere gevallen er de mogelijkheid is dat de wagen het risico voor zijn inzittenden vermindert ten koste van de andere weggebruikers.

Ik denk dat dit voordeel tegen zal vallen. In de praktijk zal een dergelijke keuze overigens helemaal niet gemaakt worden, maar zal de computer domweg remmen, ongeacht wie of wat er door vermeden kan worden. In werkelijkheid zal de door jou voorgestelde keuze dus vrijwel nooit gemaakt worden.

Dat is jouw inschatting en die is IMO redelijk naief.

Maar nogmaals: Je vergelijkt personen die in de ene auto zitten en zich door de auto in het verkeer laren brengen met andere personsn die in een auto zitten en die deze al dan niet zelf in het verkeer brengen, en offert de levens van de eerste groep op ten faveure van de andere. Dat is moreel niet in de haak.

Ik snap niet op welke manier jij tot twee groepen komt, dus wees eens wat meer specifiek. We hebben twee wagens, A en B met inzittenden en elk van die wagens geeft een hogere prioriteit aan de veiligheid van de inzittenden van de andere wagen. Dus welke inzittenden worden opgeofferd ten op zichte van de andere? Die in wagen A of die in wagen B?

Je beschouwd de passagiers van de zelfrijdende auto nog steeds als bestuurders en wilt dat de auto hun levens opoffert voor de bestuurders van niet zelfrijdende auto's. dat in zekere zin gewoon verraad! De passagiers mogen van de chauffeur verwachten dat hij hun leven minstens zo goed beschermt al\s het leven van anderen.
De echte bestuurders van niet zelfrijdende auto's zijn de profiteurs van die situatie, en dat is niet eerlijk, want niemand diwngt hen om zichzelf op te offeren, en zij zullen het zeer waarschijnlijk ook niet doen.

Helemaal niet. Ik bekijk de situatie vanuit een perspectief dat elk gemotoriseerd voertuig verplicht zelfrijdend zal zijn.

Nog even een hypotetisch voorbeeld waarin de keuze die jij voorstaat, er wellicht echt toe doet.

Bij een Y kruizing komt een auto van links en snijdt, de zelfrijdende auto, die niet meer op tijd remmen kan,
De zelfrijdende auto heeft wel demogelijkheid naar rechts uit te wijken en in plaats van een botsing met een ander voertuig aan te gaan dat in dezelde rihting rijdt, tegen een muur aan te rijden.

Het principe van de minste schade, zou hem doen kiezen voor de botsing met het andere voertuig. (minimaal snelheidsverschil). Jouw ontzien van de andere weggebruikers, zou leiden tot een botsing met de muur.
Als een taxichauffeur de laatste keuze zou maken, en het ongeluk overleeft, is hij schuldig aan het onnodig in gevaar brengen van zijn passagier(s) en zal derhalve veroordeelt worden. Maar dat is wel de keuze die jij de zelfrijdende auto wilt laten maken.

Jouw scenario lijkt me niet echt relevant. Jouw wagen van links zou namelijk ook de veiligheid van de andere weggebruikers als eerste prioriteit hebben en zou dus helemaal niet snijden. Dat de ene zelf-rijdende wagen een andere snijdt is enkel mogelijk als er andere prioriteiten zijn.

Ik bekijk de situatie dus vanuit het standpunt dat iedereen die een gemotoriseerd voertuig neemt verplicht zal zijn om er een te nemen dat zichzelf bestuurd en dat er beslist moet worden over hoe al die wagens zich moeten gedragen. Mijn optie daarin is dat al die wagens als allereerste prioriteit de veiligheid van de andere weggebruikers moeten hebben. Scenario's die enkel kunnen ontstaan omdat men ook andere gemotoriseerde wagens op de weg toelaat zijn wat mij betreft dan ook van weinig belang.

In de praktijk zal het meest voorkomende ongeval met een zelfrijdende auto bestaan uit een zelfrijdend auto die stopt voor een oranke verkeerslicht (formeel verplicht), en een niet-zelfrijdende auto die dacht dat het voertuig voor hem - net als hijzelf - bij oranje gewoon door zal rijden, en die er van achteren tegenaan rijdt. Als de zelfrijdende auto dat merkt, zou hij volgens jouw logica moeten ophouden met remmen en volop gas geven. (een verkeersovertreding begaan dus).

Sorry maar je bent gewoon aan het zoeken naar problemen voor mijn principe zonder de zaken door te denken voor je eigen principe. Zou die zelfrijdende auto niet op net de zelfde manier moeten reageren als zijn eerste prioriteit de veiligheid van de eigen inzittenden was of zelfs als hij de veiligheid van zowel eigen inzittenden als anderen in overweging nam. Zou niet in al die gevallen het vermijden van een ongeval door gas te geven de uitkomst zijn?

Trouwens het is nog niet zeker dat de wagen daardoor een overtreding zou begaan. Je mag namelijk een oranje licht voorbij rijden als je niet meer op een voldoende veilige manier kan stoppen. Ik ga ervan uit dat een wagen die je achteraan aanrijd als je zou stoppen een sterke indicatie is dat het onvoldoende veilig is om te stoppen.

[Peter van Velzen]

Beste axxyanus, nu kom je wéér met een veronderstelling. En wel deze: dat álle auto's zelfbesturend zouden zijn. Onder die omstandigheden werkt jouw regel uiteraard prima, maar ik kan me die voorwaarde niet uit de oorsponkelijk vraagstelling herinneren. Je verzint die er nu bij, om gelijk te krijgen, maar dat noemen ze de doelpalen verschuiven! Foei, dat valt me van je tegen.

Verder eet je ook nog een van twee walletjes, door te veronderstellen dat er geen storingen kunnen optreden , die mijn scenario mogelijk maken, terwijl je wél aanneemt dat er storingen optreden die jouw keuze voor het laten sterven van de eigen passagiers een optie maken. Zo lusten we er nog wel een!

[axxyanus]

Beste axxyanus, nu kom je wéér met een veronderstelling. En wel deze: dat álle auto's zelfbesturend zouden zijn. Onder die omstandigheden werkt jouw regel uiteraard prima, maar ik kan me die voorwaarde niet uit de oorsponkelijk vraagstelling herinneren. Je verzint die er nu bij, om gelijk te krijgen, maar dat noemen ze de doelpalen verschuiven! Foei, dat valt me van je tegen.

Mij best hoor, zelfs dan doen je voorbeelden weinig ter zake. Het is namelijk onmogelijk om een strategie uit te kiezen waarvoor niemand een situatie kan bedenken die volgens die persoon oneerlijk zal uitdraaien met die strategie. Proficiat je hebt zo'n voorbeeld gevonden. Je bent het niet eens met mijn keuze mij best, mensen mogen verschillende prioriteiten hebben. Mijn prioriteiten zijn IMO het best gediend met de keuze die ik gemaakt heb. Jij mag andere prioriteiten hebben en kan dus op een andere optie terechtkomen.

Verder eet je ook nog een van twee walletjes, door te veronderstellen dat er geen storingen kunnen optreden , die mijn scenario mogelijk maken, terwijl je wél aanneemt dat er storingen optreden die jouw keuze voor het laten sterven van de eigen passagiers een optie maken. Zo lusten we er nog wel een!

Dan zijn we met twee, niet waar. Zoals jij vergat dat jouw keuze evengoed de wagen zou aanzetten om door het oranje te rijden.

[Peter van Velzen]

Ongeacht de theoretische situatie die wij hier bespreken. Is het mijns inziens te verwachten, dat auto's die ongelukken automatisch gaan vookomen in de toekomst de norm gaan worden. Dat gaat - denk ik - via een veel simpelere methode dan die welke wij hier bespreken. Het is voor computersystemen immers simpel om informatie uit te wisselen. Daardoor weten zelfrijdende auto's straks ook van elkaar wat ze gaan doen. Hierdoor zal dit dilemma in de praktijk nauwelijks voorkomen.

De zelfrijdende auto's zullen een veel simpeler programma hebben, dan we hier postuleren. Waarschijnlijk is inormatie uitwissel niet eens zo hard nodig. Waarschijnlijk zal het algoritme gewoon snelheidsverschillen met andere objecten altijd zodanig beperken dar er op tijd geremd kan worden - zelfs als het remsysteem aanzienlijk slechter functioneert dan het officiëel zou moeten. De overwegingen die wij hier hanteren zullen waarschijnlijk überhaupt geen rol spelen.

Ik verwacht één regel:
Beperk snelheidsverschillen ten opzichte van objecten die je bij constante snelheid zou gaan raken. bij een afstand s tot v = 2s/at² waarbij a bijvoorbeeld 50% van de te verwachten remversnellingi is.

En dat zal wellicht alles zijn.

[Peter van Velzen]

Uiteraard gebeurd dan dit:
De auto doet precies wat axxyanus wil en wat ik verwachtte: Keurig stoppen.

[Peter van Velzen]

Ditzelfde onderwerp komt op in deze youtube video.


Ik ben persoonlijk van mening dat het probleem niet zozeer samenhangt met zelfstandig rijdende wagen, maar met verkeersgedrag in het algemeen. Waarom zouden wij van de zelfstandig rijdende wagen een ander gedrag eisen dan van de menselijke bestuurder?

[axxyanus]

Ik ben persoonlijk van mening dat het probleem niet zozeer samenhangt met zelfstandig rijdende wagen, maar met verkeersgedrag in het algemeen. Waarom zouden wij van de zelfstandig rijdende wagen een ander gedrag eisen dan van de menselijke bestuurder?

Omdat we van zo'n wagen verwachtingen kunnen hebben, die we niet van mensen kunnen hebben. Het is bv niet nodig dat zo'n wagen om de twee uur een pauze neemt om te voorkomen dat die in slaapt valt.

[Peter van Velzen]

Omdat we van zo'n wagen verwachtingen kunnen hebben, die we niet van mensen kunnen hebben. Het is bv niet nodig dat zo'n wagen om de twee uur een pauze neemt om te voorkomen dat die in slaapt valt.

Dat soort eisen bedoel ik uiteraard niet. Ik bedoel slechts, dat je van de zelfrijdende auto geen andere prioriteiten moet verwachten dan van een menselijke bestuurder. Dan blijf je uiteraard - zoals in het filmpje wordt aangevoerd - met het probleem zitten: Mag of moet de zelfrijdende auto in sommige gevallen de verkeersregels overtreden?

[axxyanus]

Omdat we van zo'n wagen verwachtingen kunnen hebben, die we niet van mensen kunnen hebben. Het is bv niet nodig dat zo'n wagen om de twee uur een pauze neemt om te voorkomen dat die in slaapt valt.

Dat soort eisen bedoel ik uiteraard niet. Ik bedoel slechts, dat je van de zelfrijdende auto geen andere prioriteiten moet verwachten dan van een menselijke bestuurder. Dan blijf je uiteraard - zoals in het filmpje wordt aangevoerd - met het probleem zitten: Mag of moet de zelfrijdende auto in sommige gevallen de verkeersregels overtreden?

Ik ben niet akkoord dat een zelfrijdende auto de zelfde prioriteiten moet hebben als een menselijke bestuurder. Van een menselijke bestuurder verdragen we dat die handelt uit zelfbehoud. Ik denk niet dat dat een goed idee is voor een zelfrijdende auto.

[Peter van Velzen]

[Ik ben niet akkoord dat een zelfrijdende auto de zelfde prioriteiten moet hebben als een menselijke bestuurder. Van een menselijke bestuurder verdragen we dat die handelt uit zelfbehoud. Ik denk niet dat dat een goed idee is voor een zelfrijdende auto.

Zover ik weet zal een menselijke bestuurder niet zo geïnteresseerd zijn in het behoud van de boordcomputer,
andersom verwacht ik dat de boordcomputer wel geinteresseerd zal zijn in het behoud van de linker-voorpassagier.

JIj hecht minder aan die inzittende dan aan andere mensen, maar ik verwacht niet dat de auto dat onderscheid zal maken, En als hij dat wel doet, wil niemand er (linksvoor) in zitten - zoals het filmpje ook zegt.

In de praktijk zal dit echter een niet-bestaand probleem zijn. De auto zal domweg zo weinig mogelijk andere dingen met zo weinig mogelijk snelheidsverschil trachten te raken en daar waarschijnlijk beter in zijn dan welke menselijke bestuurder dan ook, Uiteraard zal hij daardoor een weinig sportief rijgedrag tonen. Ik verwacht dat zo'n voertuig eigenlijk zelden of nooit hard zal remmen, vanwege de veiligheidsmarge die hij inbouwt.De enige ongelukken die ik verwacht zullen andere bestuurders zijn, die er achterop rijden, omdat ze niet zitten op te letten. Of wat mij overkwam. Een niet geheel nuchtere bestuurder die mij inhaalde en van de zijkant ramde, terwijl ik rechtdoor reed met niets of niemand voor me. Misschein ook zou de zelfrijdende auto in dat geval de vluchtstrook induiken omdat hij de lomperd wel in zijn vizier had. (hij heeft waarschijnlijk een aparte achteruitkijkcamera waar hij ook mee kijkt als hij helemaal niet naar links wil. Ik kijk in zo'n geval gewoon voor me)

[Vit]

Zover ik weet zal een menselijke bestuurder niet zo geïnteresseerd zijn in het behoud van de boordcomputer,
andersom verwacht ik dat de boordcomputer wel geinteresseerd zal zijn in het behoud van de linker-voorpassagier.

Tenzij je in Engeland of Australië rijdt natuurlijk. Dat wordt lachen als je van de veerpont komt kan ik je voorspellen.

[Peter van Velzen]

Zover ik weet zal een menselijke bestuurder niet zo geïnteresseerd zijn in het behoud van de boordcomputer,
andersom verwacht ik dat de boordcomputer wel geinteresseerd zal zijn in het behoud van de linker-voorpassagier.

Tenzij je in Engeland of Australië rijdt natuurlijk. Dat wordt lachen als je van de veerpont komt kan ik je voorspellen.

Pardon, war heeft dat te maken met het belang van degene die link of rechts zit in een zelfrijdende auto?

[axxyanus]

[Ik ben niet akkoord dat een zelfrijdende auto de zelfde prioriteiten moet hebben als een menselijke bestuurder. Van een menselijke bestuurder verdragen we dat die handelt uit zelfbehoud. Ik denk niet dat dat een goed idee is voor een zelfrijdende auto.

Zover ik weet zal een menselijke bestuurder niet zo geïnteresseerd zijn in het behoud van de boordcomputer,
andersom verwacht ik dat de boordcomputer wel geinteresseerd zal zijn in het behoud van de linker-voorpassagier.

JIj hecht minder aan die inzittende dan aan andere mensen, maar ik verwacht niet dat de auto dat onderscheid zal maken, En als hij dat wel doet, wil niemand er (linksvoor) in zitten - zoals het filmpje ook zegt.

Dat komt omdat jij, net zoals Jerry Kaplan in dat filmpje, je op het verkeerde getal richt.

Stel dat we een gebeurtenis E hebben. Dan is P[E] de kans dat die gebeurtenis zich zal voordoen. Nu O is de gebeurtenis van een ongeval en S is de gebeurtenis dat je komt te sterven. Nu waar jij en Kaplan jullie op richten is P[S|O]. Namelijk de kans dat als je in een ongeval terechtkomt dat je zal sterven. Dat is het verkeerde cijfer. Waar je je op moet richten is P[S ∩ O]. Namelijk de kans dat als je in de wagen stapt dat je zal sterven ten gevolge van een ongeval. En als je twee wagens hebt is het mogelijk dat P[S ∩ O] voor de ene wagen kleiner is dan voor de andere terwijl het voor P[S|O] omgekeerd is.

We hebben namelijk dat P[S|O] = P[S ∩ O]/P[O] of anders geformuleerd: P[S ∩ O] = P[O] * P[S|O]. Of in mensentaal. De kans dat je zal sterven ten gevolge van een ongeval is de kans op een ongeval vermenigvuldigd met de kans dat je zal sterven in het geval van een ongeval.

Jij en Jerry Kaplan richten je uitsluitend op de P[S|O] factor en verwaarlozen de P[O] factor. Dat betekent dus dat jullie een verhoogde kans op een ongeval aanvaarden omdat jullie in dat geval de risico's op een ander afschuiven.

Mijn standpunt is dat P[S|O] niet minimaal moet zijn, omdat de enige manier om dan toch een lage P[S ∩ O] te verkrijgen is om P[O] naar beneden te halen. Met andere woorden als mensen een aanvaardbare kans willen om een rit te overleven dan zal dat moeten gebeuren door de kans op een ongeval te verkleinen i.p.v. de kans om een ongeval te overleven. Dat lijkt mij een veel betere prioriteit.