De zelfstandig rijdende wagen in een ongeval

[Peter van Velzen]

Ik kies eerlijk gezegd ook voor a. Uiteraard niet omdat Feno de boom heeft laten omwaaien, net zo min als ik b of c zou kiezen omdat Axxyanus en Jagang blijkbaar in overtreding zijn (de auto zou alleen 100 rijden waar dat mag en waar je 100 mag, mag je niet fietsen). Maar omdat de auto ongetwijfeld een airbag heeft en de kans dat Feno het overleeft waarschijnlijk groter is dat dat Axyanus of Jagang - laat staan het kind - het overleven. De auto echter kiest ongetwijfeld voor een route dwars door de kruin of de wortels van de boom heen, omdat hij sneller kan denken dan wij en weet dat er meer dan drie mogelijkheden zijn. (ja ik weet dat die er per definitie niet waren, maar daar heeft de computer uiteraard schijt aan)

[Fenomeen]

Hehe, probeer ik het te simplificeren, komt hij weer aan.

[Dat beloof ik]

Ik ga er van uit dat een zelfrijdende auto meer in de gaten houdt dan wij denken.
Hij zal continu een 360 graden scan maken, dat is dus al meer dan een menselijke bestuurder.
En dus zal die computer heel goed in staat zijn om zelf in een bepaald geval te doen wat het beste is.

Daarnaast moeten we niet de illusie hebben alles te kunnen regelen.
Dat gaat niet.
Er spelen factoren mee die de auto niet kan weten.
"De minste gewonde" bijvoorbeeld klinkt goed, maar de auto is daar niet de bepalende factor.
Dat ligt nl ook aan hoe iemand die aangereden wordt reageert en neerkomt.
Zoiets is niet te programmeren.

Dat is overigens geen reden om tegen zelfrijdende auto's te zijn, want als een mens bestuurder is speelt exact hetzelfde mee, alleen maken we ons er dan totaal niet druk om.

[Jagang]

Er zitten ook "bugs" in mensen, ook al noemen we dat slechte gewoonten.

Toch heeft wetware de interactie met de niet-virtuele wereld nog altijd een stuk beter onder de knie dan hard- & software.
En ik verwacht dat dat voorlopig nog wel even zo blijft, aangezien het biologische brein een vanzelfsprekende ontwikkeling heeft gekend binnen een niet-virtuele wereld.
De robotica moet daar nog helemaal naartoe worden ontwikkeld, en het is maar de vraag in hoeverre min of meer traditioneel functionerende computers hier in kunnen slagen.
Biologische hersenen werken nu immers niet bepaald slechts met nulletjes en eentjes, maar ook met alle denkbare breuken daartussen.

En dat een computer niet leert van ervaringen kan anders uitgelegd worden dat een computer geen leer-proces nodig heeft.

Wel, het zou m.i. toch beter zijn dat een computer enige leercapaciteiten heeft, dan dat er naderhand allerlei bugs handmatig moeten worden gepatched.

Mensen kunnen ook uitvallen en rare dingen doen omdat er bv een slagader barst of omdat er een wesp rond het hoofd van de bestuurder zoemt.

Klopt, maar op dit moment gaan apparaten nog altijd vaker kapot dan mensen.
De kans op een rokende printplaat tijdens het rijden is groter dan die op een herseninfarct achter het stuur.
Bovendien worden producten nu al vaak te vroeg in de markt gezet, voordat ze goed uitontwikkeld zijn.
Dat mondt nogal eens uit in pechgevallen.
Tot zover weinig aan de hand, maar ik zie dat niet graag gebeuren met computers waaraan ik mijn leven toevertrouw.
Die moeten in het verkeer minstens zo betrouwbaar functioneren als ikzelf, en bij voorkeur nog wat beter.

Hoe kijk je trouwens aan tegen het gegeven dat vliegtuigen zichzelf eigenlijk al jaren vliegen, terwijl dat gegeven nooit de piloten uit de cockpit heeft verbannen?
Als computertechniek werkelijk zo feilloos werkt, waar zijn die piloten dan nog voor nodig?
En hoeveel tijd heb je om bij een wegvoertuig de controle over te nemen wanneer de computers falen, aangenomen dat de optie om zelf de besturing over te nemen aanwezig is?

[Peter van Velzen]

En hoeveel tijd heb je om bij een wegvoertuig de controle over te nemen wanneer de computers falen, aangenomen dat de optie om zelf de besturing over te nemen aanwezig is?

Dat hangt van de situatie af. In de file heb je alle tijd. In de situatie die Axxyanus ons voorlegt, heb je absoluut géén tijd. Ik durf te stellen dat het eerste vaker voor zal komen dan het tweede, dus alle reden om het stuur nog even op zijn plaats te laten.

[axxyanus]

Mijn keuze is (a). Niet omdat ik iets tegen Feno heb hoor. Maar mijn redenering is dat Feno de wagen in het verkeer brengt en dat die dus in de eerste instanties de risico's daarvan voor zich moet nemen i.p.v. anderen daar voor te laten opdraaien zoals in geval (b) en (c).

No offence taken.

Valt wat voor te zeggen.
Maar verkoopt het dan nog?

Misschien niet maar dat is een andere vraag. De kwestie is in hoeverre de techniek te vertrouwen is. Indien de techniek minder betrouwbaar is dan de gemiddelde bestuurder, dan lijkt het me helemaal onverantwoord dat je zo'n voertuig in het verkeer brengt en de risico's op de anderen afwentelt. Indien de techniek betrouwbaarder is dan de gemiddelde bestuurder dan zal in het algemeen je persoonlijk risico nog steeds lager zijn, zelfs als in dit soort zeldzame gevallen de wagen jou het grootste risico laat dragen en is het toch in je voordeel om je door dit soort wagen te laten rijden dan zelf achter het stuur te zitten.

[axxyanus]

Er zitten ook "bugs" in mensen, ook al noemen we dat slechte gewoonten.

Toch heeft wetware de interactie met de niet-virtuele wereld nog altijd een stuk beter onder de knie dan hard- & software.
En ik verwacht dat dat voorlopig nog wel even zo blijft, aangezien het biologische brein een vanzelfsprekende ontwikkeling heeft gekend binnen een niet-virtuele wereld.

Dat klopt. Maar nu wordt het een kosten-baten analyse, terwijl hoe het oorspronkelijk geformuleerd werd de machine nooit het voordeel kon halen omdat de nadelen van de mens nooit onder de loep terecht kwamen.

Biologische hersenen werken nu immers niet bepaald slechts met nulletjes en eentjes, maar ook met alle denkbare breuken daartussen.

Op welke manier is dat van belang? In de praktijk is het namelijk belangrijker binnen welke foutenmarge de resultaten betrouwbaar zijn. Dat de hersenen analoog zouden werken en dus in theorie zo nauwkeurig kunnen zijn als we maar willen, brengt ons weinig soelaas als we bedenken dat er daardoor ook gemakkelijk ruis op zit en dat in de praktijk computers op heel wat gebieden nauwkeuriger zijn.

En dat een computer niet leert van ervaringen kan anders uitgelegd worden dat een computer geen leer-proces nodig heeft.

Wel, het zou m.i. toch beter zijn dat een computer enige leercapaciteiten heeft, dan dat er naderhand allerlei bugs handmatig moeten worden gepatched.

Ik weet niet. Dat "handmatig" patchen kan even automatisch gaan als al die computers die automatisch een upgrade krijgen, En het voordeel van dergelijke patches is dat ze beschikbaar zijn voor een hele hoop wagens, terwijl een leermoment altijd beperkt is tot één wagen in één bepaalde situatie.

Mensen kunnen ook uitvallen en rare dingen doen omdat er bv een slagader barst of omdat er een wesp rond het hoofd van de bestuurder zoemt.

Klopt, maar op dit moment gaan apparaten nog altijd vaker kapot dan mensen.
De kans op een rokende printplaat tijdens het rijden is groter dan die op een herseninfarct achter het stuur.

Waarschijnlijk wel, ik ga er dan ook van uit dat in dergelijke wagens de nodige redundantie zal ingebouwd worden zodat één rokende printplaat, niet fataal hoeft te zijn.

Bovendien worden producten nu al vaak te vroeg in de markt gezet, voordat ze goed uitontwikkeld zijn.
Dat mondt nogal eens uit in pechgevallen.
Tot zover weinig aan de hand, maar ik zie dat niet graag gebeuren met computers waaraan ik mijn leven toevertrouw.
Die moeten in het verkeer minstens zo betrouwbaar functioneren als ikzelf, en bij voorkeur nog wat beter.

OK, maar je bent je nu wel echt sterk aan het richten op de huidige technische mogelijkheden. Het ethisch dilemma was meer gericht op een situatie waarin de techniek mature genoeg was.

Hoe kijk je trouwens aan tegen het gegeven dat vliegtuigen zichzelf eigenlijk al jaren vliegen, terwijl dat gegeven nooit de piloten uit de cockpit heeft verbannen?
Als computertechniek werkelijk zo feilloos werkt, waar zijn die piloten dan nog voor nodig?
En hoeveel tijd heb je om bij een wegvoertuig de controle over te nemen wanneer de computers falen, aangenomen dat de optie om zelf de besturing over te nemen aanwezig is?

Ik beweer niet dat de computertechniek nu zo feilloos werkt. Dat de computer redelijke feilloos werkte was enkel bedoeld als werkhypothese om het dilemma in te bespreken. Niet als realistische beschrijving van onze huidige situatie.

[Jagang]

Akkoord.. In mijn volgende post ga ik het ethische uitgangspunt dat je kiest nog even testen op hardheid.
Niet dat dat slecht hoeft te zijn, maar er zijn m.i. nog wel een paar open eindjes die eerst verduidelijkt moeten worden.

[vegan-revolution]

Ik heb gekozen voor "iets anders". Ik neig ernaar de eerste prioriteit te leggen bij het zoveel mogelijk voorkomen van schade aan andere weggebruikers, maar de daaropvolgende prioriteit zou dan wat mij betreft moeten zijn om de schade aan passagiers in de zelfrijdende auto zoveel mogelijk te voorkomen.

Een andere mogelijkheid zou kunnen zijn om de passagiers zelf te laten beslissen welke volgorde van schademijding moet worden gehanteerd middels een in de zelfrijdende auto aangebrachte schakelaar. In "stand 1" worden de passagiers van de zelfrijdende auto het meest ontzien, in "stand 2" wordt een evenredige middeling tussen schade aan passagiers en schade aan medeweggebruikers gezocht en in "stand 3" worden medeweggebruikers het meest ontzien. Verdere differentiatie is natuurlijk nog mogelijk : bijvoorbeeld door kleinere mensen te bevoordelen boven grotere mensen.

[Jagang]

Mijn keuze is (a). Niet omdat ik iets tegen Feno heb hoor. Maar mijn redenering is dat Feno de wagen in het verkeer brengt en dat die dus in de eerste instanties de risico's daarvan voor zich moet nemen i.p.v. anderen daar voor te laten opdraaien zoals in geval (b) en (c).

IMO is een dergelijke strategie ook de enige manier om de fabrikanten te verplichten hun wagen zo te programmeren dat de risico's die genomen worden door de wagen over het algemeen verantwoord zijn, want dat is wat hun klanten in dergelijke omstandigheden zullen willen. Anders zal de neiging ontstaan om de wagen bepaalde risico's te laten nemen om zo tijdwinst te maken, als de gevolgen toch grotendeels door de anderen gedragen worden. Zoals nu een aantal menselijke bestuurders ook wel eens durven doen.

Akkoord.
Al ben ik persoonlijk niet zo voor de "vereconomisering" van leed: Het is een uitgangspunt waarmee ik in dit geval uit de voeten zou kunnen, als er nog een paar losse eindjes aan elkaar kunnen worden geknoopt.

Degene die een voertuig in het verkeer brengt, draagt in eerste instantie het risico, zeg je.
Dan is mijn volgende vraag: Wie brengt de auto in het verkeer?
Is/zijn dat de inzittende(n), of is dat de eigenaar?

Als het de inzittenden zijn, moet het m.i. ook geen probleem zijn om in de situatie die fenomeen schetst, een bus vol passagiers tegen de boom te laten knallen als dat economisch gezien de beste optie is, en er en passant twee fietsers te sparen zijn. De inzittenden hebben immers het risico genomen om aan boord van de bus te stappen, en deze daarmee collectief "in het verkeer te brengen".

Als de eigenaar degene is die het voertuig "in het verkeer brengt", verschuift de risicolast van de passagier naar degene die het voertuig in bezit heeft.
De inzittende kan dan tevens eigenaar van het voertuig zijn, maar dat is niet noodzakelijkerwijs het geval.
Nu is het dus eens geen privé-auto, maar een taxi die tegen de boom knalt.
Had de taximaatschappij meer oog moeten hebben voor het welzijn van de inzittende(n)?

[Peter van Velzen]

Ik vroeg me ineens af, of we niet wat algemener moeten denken.

Als wij van mening zijn dat de veiligheid van de andere weggebruikers zwaarder weegt dan de belangen van de inzittenden, dan kunnen we eigenlijk stellen dat auto’s verboden hadden moeten worden, want zonder auto’s op de weg zijn de andere weggebruikers altijd veiliger! Het is een beetje vreemd om dit principe pas te gaan toepassen als er al met zekerheid een ongeluk gaat gebeuren. Dezelfde logica gaat op voor motoren en fietsen en voor paarden. Alleen voetgangers is veruit de veiligste oplossing.

Als men tóch accepteert dat er auto’s zijn, dan valt er weer alles voor te zeggen om die auto’s die automatisch gaan remmen als er een ongeluk dreigt plaats te vinden, verplicht te stellen. En dat betekent weer dat de zelfrijdende auto in het ideale geval dat Axxyanus veronderstelt dan juist verplicht zou zijn. Zolang geen ongeluk dreigt mag men ook zelf sturen, maar als iemand iets doet dat gevaarlijk is, dan moet de auto ingrijpen. (ook als die iemand een andere weggebruiker is!) Als het aantal ongelukken dan drastisch afneemt, heeft er niemand wat te klagen. En als we verder niets meer te klagen hebben, kunnen we altijd nog over het – dan zeldzame - dillemma nadenken.

[axxyanus]

Mijn keuze is (a). Niet omdat ik iets tegen Feno heb hoor. Maar mijn redenering is dat Feno de wagen in het verkeer brengt en dat die dus in de eerste instanties de risico's daarvan voor zich moet nemen i.p.v. anderen daar voor te laten opdraaien zoals in geval (b) en (c).

IMO is een dergelijke strategie ook de enige manier om de fabrikanten te verplichten hun wagen zo te programmeren dat de risico's die genomen worden door de wagen over het algemeen verantwoord zijn, want dat is wat hun klanten in dergelijke omstandigheden zullen willen. Anders zal de neiging ontstaan om de wagen bepaalde risico's te laten nemen om zo tijdwinst te maken, als de gevolgen toch grotendeels door de anderen gedragen worden. Zoals nu een aantal menselijke bestuurders ook wel eens durven doen.

Akkoord.
Al ben ik persoonlijk niet zo voor de "vereconomisering" van leed: Het is een uitgangspunt waarmee ik in dit geval uit de voeten zou kunnen, als er nog een paar losse eindjes aan elkaar kunnen worden geknoopt.

Ik zie het net als een manier om de vereconomisering te voorkomen. Vooral het voorkomen van moral hasard situaties, waarbij men voor een bepaalde beslissing gaat omdat de eventuele winsten voor jezelf zijn maar de eventuele kosten voor een ander.

De economische optie zie ik eerder als optie (1).

Als het de inzittenden zijn, moet het m.i. ook geen probleem zijn om in de situatie die fenomeen schetst, een bus vol passagiers tegen de boom te laten knallen als dat economisch gezien de beste optie is, en er en passant twee fietsers te sparen zijn. De inzittenden hebben immers het risico genomen om aan boord van de bus te stappen, en deze daarmee collectief "in het verkeer te brengen".

Dat klopt en het is dan aan de samenleving om specificatie op te leggen aan openbaar vervoer maatschappijen dat we het risico voor de pasagiers over het algemeen toch aanvaardbaar vinden, door o.a. snelheidsbeperkingen op te leggen of een zekere robustheid op te leggen, zodat de pasagiers in dat soort omstandigheden toch nog een kans maken of door te beslissen dat dit soort situatie zelden genoeg voorkomt dat het risico hoe dan aanvaardbaar is.

Als de eigenaar degene is die het voertuig "in het verkeer brengt", verschuift de risicolast van de passagier naar degene die het voertuig in bezit heeft.
De inzittende kan dan tevens eigenaar van het voertuig zijn, maar dat is niet noodzakelijkerwijs het geval.
Nu is het dus eens geen privé-auto, maar een taxi die tegen de boom knalt.
Had de taximaatschappij meer oog moeten hebben voor het welzijn van de inzittende(n)?

Alleen als de manier waarop de taximaatschappij haar wagenpark afgesteld heeft, een hoger risico zou betekenen voor de pasagiers dan normaal. De taximaatschappij is ook niet verantwoordelijk als de boom rechtstreeks op de auto terechtkomt en de pasagiers zo omkomen.

[axxyanus]

Ik vroeg me ineens af, of we niet wat algemener moeten denken.

Als wij van mening zijn dat de veiligheid van de andere weggebruikers zwaarder weegt dan de belangen van de inzittenden, dan kunnen we eigenlijk stellen dat auto’s verboden hadden moeten worden, want zonder auto’s op de weg zijn de andere weggebruikers altijd veiliger! Het is een beetje vreemd om dit principe pas te gaan toepassen als er al met zekerheid een ongeluk gaat gebeuren. Dezelfde logica gaat op voor motoren en fietsen en voor paarden. Alleen voetgangers is veruit de veiligste oplossing.

Waarom is het vreemd om dat principe pas toe te passen als een ongeval onvermijdelijk is? Zolang de ongevallen vermeden worden, is er toch geen probleem? Stel dat op een bepaald moment een ongeval (werk, verkeer, wat dan ook) onvermijdelijk is. Maar door je acties kan je kiezen of er enkel stoffelijke schade is of dat er ook gewonden vallen? Zie jij het dan niet als een morele verplichting om in deze omstandigheden te kiezen voor de acties die enkel stoffelijke schade aanrichten? En als jij het in deze omstandigheden als een morele verplichting ziet om die andere mensen te ontzien, leid jij daaruit af dat je op geen enkele manier een risico mag vormen voor andere mensen? Leid je hieruit af dat werknemers geen mensen mogen aannemen voor een baan waar risico's aan verbonden zijn?

[Peter van Velzen]

Ik vroeg me ineens af, of we niet wat algemener moeten denken.

Als wij van mening zijn dat de veiligheid van de andere weggebruikers zwaarder weegt dan de belangen van de inzittenden, dan kunnen we eigenlijk stellen dat auto’s verboden hadden moeten worden, want zonder auto’s op de weg zijn de andere weggebruikers altijd veiliger! Het is een beetje vreemd om dit principe pas te gaan toepassen als er al met zekerheid een ongeluk gaat gebeuren. Dezelfde logica gaat op voor motoren en fietsen en voor paarden. Alleen voetgangers is veruit de veiligste oplossing.

Waarom is het vreemd om dat principe pas toe te passen als een ongeval onvermijdelijk is? Zolang de ongevallen vermeden worden, is er toch geen probleem? Stel dat op een bepaald moment een ongeval (werk, verkeer, wat dan ook) onvermijdelijk is. Maar door je acties kan je kiezen of er enkel stoffelijke schade is of dat er ook gewonden vallen? Zie jij het dan niet als een morele verplichting om in deze omstandigheden te kiezen voor de acties die enkel stoffelijke schade aanrichten? En als jij het in deze omstandigheden als een morele verplichting ziet om die andere mensen te ontzien, leid jij daaruit af dat je op geen enkele manier een risico mag vormen voor andere mensen? Leid je hieruit af dat werknemers geen mensen mogen aannemen voor een baan waar risico's aan verbonden zijn?

Ik ben van mening dat het niet geheel consequent is om de belangen van de inzittenden voorrang te geven zolang de kans dat het misgaat klein is maar ze secundair te maken, als de kans dat het mis gaat groot is. Ik mis de reden daarvoor. Waarom verleg je je prioriteiten van de inzittenden naar de overige weggebrukers afhankelijk van de mate van waarschijnlijkheid van een ongeval? Verder is de logische consequentie van die redenatie - mijjns inziens - dat een buschaffeur eerder de bus in volle vaart tegen een betonnen bunker zou moeten later aanrijden, dan dat hij een spelend kind mag raken. Ben je die mening écht toegedaan? Dat de buschauffeur een computer is, zou mijns inziens niets moeten mogen uitmaken.

Het komt mij voor dat je in elke situatie alle belangen moet laten meewegen. Uiteraard wordt het belang van de mogelijke slachtoffers - INCLUSIEF de inzittenden - wel groter naarmate de kans op een ongeluk groter wordt, maar de verschuiving van inzittenden naar andere weggebruikers acht ik nogal kunstmatig.

[axxyanus]

Ik vroeg me ineens af, of we niet wat algemener moeten denken.

Als wij van mening zijn dat de veiligheid van de andere weggebruikers zwaarder weegt dan de belangen van de inzittenden, dan kunnen we eigenlijk stellen dat auto’s verboden hadden moeten worden, want zonder auto’s op de weg zijn de andere weggebruikers altijd veiliger! Het is een beetje vreemd om dit principe pas te gaan toepassen als er al met zekerheid een ongeluk gaat gebeuren. Dezelfde logica gaat op voor motoren en fietsen en voor paarden. Alleen voetgangers is veruit de veiligste oplossing.

Waarom is het vreemd om dat principe pas toe te passen als een ongeval onvermijdelijk is? Zolang de ongevallen vermeden worden, is er toch geen probleem? Stel dat op een bepaald moment een ongeval (werk, verkeer, wat dan ook) onvermijdelijk is. Maar door je acties kan je kiezen of er enkel stoffelijke schade is of dat er ook gewonden vallen? Zie jij het dan niet als een morele verplichting om in deze omstandigheden te kiezen voor de acties die enkel stoffelijke schade aanrichten? En als jij het in deze omstandigheden als een morele verplichting ziet om die andere mensen te ontzien, leid jij daaruit af dat je op geen enkele manier een risico mag vormen voor andere mensen? Leid je hieruit af dat werknemers geen mensen mogen aannemen voor een baan waar risico's aan verbonden zijn?

Ik ben van mening dat het niet geheel consequent is om de belangen van de inzittenden voorrang te geven zolang de kans dat het misgaat klein is maar ze secundair te maken, als de kans dat het mis gaat groot is.

Dat mag. Maar aangezien je al mijn vragen hierboven ontwijkt wanneer die proberen te peilen hoe consequent jij de zaken wel doordenkt, heb ik weinig zin om daar verder op in te gaan.

Als consequentie zo belangrijk is, toon dan hoe jij die consequentie zou doorvoeren in andere situaties.

Ik mis de reden daarvoor. Waarom verleg je je prioriteiten van de inzittenden naar de overige weggebrukers afhankelijk van de mate van waarschijnlijkheid van een ongeval? Verder is de logische consequentie van die redenatie - mijjns inziens - dat een buschaffeur eerder de bus in volle vaart tegen een betonnen bunker zou moeten later aanrijden, dan dat hij een spelend kind mag raken. Ben je die mening écht toegedaan? Dat de buschauffeur een computer is, zou mijns inziens niets moeten mogen uitmaken.

Ja, die mening ben ik echt toegedaan. Maar je kan dat niet echt verwachten van een buschauffeur omdat die in dergelijke omstandigheden zuiver reflexmatig reageert.

Het komt mij voor dat je in elke situatie alle belangen moet laten meewegen. Uiteraard wordt het belang van de mogelijke slachtoffers - INCLUSIEF de inzittenden - wel groter naarmate de kans op een ongeluk groter wordt, maar de verschuiving van inzittenden naar andere weggebruikers acht ik nogal kunstmatig.

Waarom is dat kunstmatig? Je zegt zelf dat de belangen veranderen? Waarom zou het veranderen van de belangen geen verschuiving kunnen veroorzaken.

Wij vinden het redelijk normaal dat werknemers bepaalde aan bepaalde risico's onderhevig zijn tijdens het uitoefenen van hun job en dat ze zorg dragen voor de infrastructuur. Maar als een ongeval onvermijdelijk wordt en men heeft de keuze tussen de infrastructuur proberen te sparen met als gevolg redelijk wat gewonden of de infrastructuur totaal de vernieling in helpen maar enkel stoffelijke schade, dan is er IMO weinig twijfel welke keuze men als ethisch zal beoordelen. Daar gebeurt dus net een zelfde soort verschuiving waar zolang de risico's beperkt blijven men die risico's toelaat in het belang van de werkgever maar op het moment dat een ongeval onvermijdelijk is men de belangen van de werknemers volop voorrang geeft.