Vrijdenken zonder Kerk

[Peter van Velzen]

De vraag of een algoritme beter is dan een mens om uit metingen een betrouwbare voorspelling te doen over het toekomstig aantal auto-ongelukken waar iemand bij betrokken zal raken, is een heel andere vraag of het wel beter is dat we dit soort gegevens gebruiken om verzekeringspremies mee te bepalen.

Niet zo heel anders. Beide is een kwestie van waarschijnlijkheid, en daarmee in zekere zin een "feitelijke" afweging.
Dit is tegenstelling tot de vraag. Is het moreel aanvaardbaar. om (meer) mensen (meer) kwaad te doen, als we daarmee (meer) geld uitsparen?

Ik dacht dat uit de context duidelijk was dat die tweede vraag als een ethische vraag moest geïnterpreteerd worden, blijkbaar niet.

Die eerste vraag is ook helemaal geen kwestie van waarschijnlijkheid. Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter. Dat er in de individuele inschattingen waarschijnlijkheden meespelen, maakt het antwoord op de gestelde vraag nog geen kwestie van waarschijnlijkheid. Een dokter die in 95% van de gevallen een juiste diagnose stelt is (op dat vlak) beter dan een dokter die maar in 90% van de gevallen een juiste diagnose stelt.

Wat denk je dat '"waarschijnlijkheid" betekent anders dan de kans op een bepaald resultaat (zoals de kans op een juiste diagnoze) ?
Waarom zou het onethisch zijn om "dit soort" gegevens te gebruiken om verzekeringspremies mee te bepalen ? Over welk "soort" gegevens heb je het dan ?

Overigens is het weliswaar waarschijnlijker dat de dokter die 95% van de gevallen een juiste diagnoze heeft gesteld, dat ook in de toekomst vaker zal doen, dan dan de doktter die dat slechts in 90% van de gevallen deed. Maar dat is niet noodzakelijkerwijs altijd. het geval

[axxyanus]

Wat denk je dat '"waarschijnlijkheid" betekent anders dan de kans op een bepaald resultaat (zoals de kans op een juiste diagnoze) ?

Peter we spreken niet over waarschijnlijkheden als het om stochastische processen gaat. Een machine waarvan maar 5% van de producten moet verworpen worden, is een betere machine dan een machine die het zelfde produceert maar waarvan 10% moet worden verworpen. Die eerste machine is niet waarschijnlijk beter, die is gewoon beter.

Waarom zou het onethisch zijn om "dit soort" gegevens te gebruiken om verzekeringspremies mee te bepalen ? Over welk "soort" gegevens heb je het dan ?

Dat is naast de kwestie. Waar het om draait is dat het om twee verschillende vragen gaat. Namelijk de ethische vraag en de vraag wie de meest nauwkeurige/betrouwbare gegevens zou leveren: een menselijk (intuïtieve) expert of een algoritme/formule/protocol. Amemrauder schrijft ergens iets dat het om de tweede vraag zou gaan om dan drie voorbeelden naar voor te schuiven waar hij de eerste, ethische vraag stelt. Waar ik dus op wijs, is dat hij een wisseltruc probeert uit te voeren.

Overigens is het weliswaar waarschijnlijker dat de dokter die 95% van de gevallen een juiste diagnoze heeft gesteld, dat ook in de toekomst vaker zal doen, dan dan de doktter die dat slechts in 90% van de gevallen deed. Maar dat is niet noodzakelijkerwijs altijd. het geval

Waarom zit jij dit hypothetisch voorbeeld zo te ontleden? Als ik in een volgende bijdrage een voorbeeld gebruik met een dobbelsteen en schrijf over een kans van ⅙ om een ⚀ te gooien, ga jij dan ook de opmerking maken dat dobbelstenen niet perfect zijn en dat de kans op een ⚀ waarschijnlijk niet exact ⅙ is? Ja in de praktijk is het nooit zo eenvoudig als in een hypothetisch voorbeeld dat ter illustratie gebruikt wordt. Daar zijn de deelnemers hier op dit forum zich over het algemeen wel bewust van denk ik. Ik begrijp dus niet goed waar de drang vandaan komt om deze (hypothetische) voorbeelden zo onder de loep te nemen.

[Amerauder]

Alsof alledaagse dingen omdat ze alledaags zijn daarom minder waarde zouden hebben. Niets is minder waar. Conventies en oordelen komen in alle soorten en maten, sommige zijn onzin, andere behoren tot het hoogste dat de mensheid heeft voortgebracht.

Daarmee ben je weer terug bij AF in het morele monopoly-spel.

Is het beter? Zou het beter kunnen zijn?

Drie voorbeelden waarbij we deze vragen kunnen stellen:

Drie voorbeelden waarbij jij de zaak vertroebelt, door van betekenis te wisselen. Daar waar het hier gaat over expertise, dus over beter in een vaardigheid, stel jij in die drie voorbeelden je de vraag naar beter als een ethische vraag.

Grappig dat het toch steeds weer op een morele kwestie wordt gegooid. Nee, dat is het niet.

Ja, natuurlijk zit er ook altijd een ethische dimensie aan alles wat er ook maar in het minste toe doet, en ik snap ook wel waarom je daar aan moet denken, maar dat is niet waar het hier om gaat, dat is hier niet waar het woord ‘beter’ naar verwijst.

Het gaat hier in al deze voorbeelden (de verloskundige, de leraar, de recruiter, de soldaat, etc.) overduidelijk niet over een moreel goed en kwaad, maar over een kwalitatief goed en slecht, over expertise en vaardigheid, kracht en gezondheid. Vandaar: waardeoordeel. Dat is toch echt iets heel anders dan de voorwaarden waaronder je de hemel mag betreden.

Een soldaat die zomaar in het wilde weg mensen vermoordt is niet alleen moreel verkeerd bezig, hij is bovendien kwalitatief weinig waard: niemand zou veel geld willen besteden aan zijn diensten.

Voedsel bereiden is daar een goed voorbeeld van. Een goede kok maakt een gezonde en smakelijke maaltijd. Je kunt daar wel moraliteit bij slepen als je wilt, want een goede kok behoort dat ook te doen, maar dat is in principe niet waar je het over hebt als je de maaltijd goed noemt. De maaltijd is niet goed in morele zin, maar in esthetische, het is een voortreffelijke maaltijd.


We kunnen keuzes die gemaakt worden aan de hand van een algoritme of protocol vergelijken met keuzes die voortkomen uit het menselijk oordeel, zoals je met de hand bereid voedsel kunt vergelijken met machinegefabriceerd voedsel.

Daarover kun je zeggen: machinevoedsel is goedkoper om te produceren, dus je krijgt meer ‘waar voor je geld’. Een duidelijk voordeel. Maar er zitten ook nadelen aan. Het machinegefabriceerde voedsel bevat allerlei chemicaliën, en allerlei voedingsstoffen gaan in het proces verloren, hetgeen ziekte veroorzaakt, etc. Bovendien is de smaak lang niet zo goed.

Neem je deze nadelen – die dus, nogmaals, absoluut niet met moraliteit in verband hoeven te worden gebracht – mee in je overweging, kijk je naar het totaalplaatje, dan zie je dat machinegefabriceerd voedsel over het geheel genomen eigenlijk helemaal niet beter is, maar met name goedkoper. Uiterst veelzeggend voor deze situatie is dat laag-technologisch geproduceerd voedsel onder namen als ‘ambachtelijk’ en ‘biologisch’ wordt verkocht als premium.

We lopen hier dus tegen zekere grenzen aan van wat er met machines mogelijk is.

Deze grenzen, die op het gebied van voedsel dus algemene geaccepteerd zijn en erkend worden, zijn voor mij op het gebied van AI even duidelijk zichtbaar, maar hier lijkt het alsof nog lang niet iedereen dit in kan zien.

Als het algortime betere resultaten kan voorleggen dan een persoon, dan is het algoritme de expert.

En dat is dus precies de vraag waar het hier om draait.

Wel dan heb je mij goed beet gehad. Ik meen mij opmerkingen van jou te herinneren die er op neerkwamen dat durven twijfelen dat mensen beter waren als algoritmes neerkwam op mensen als onbetrouwbaar e.d. te beschouwen.

Ik meen zelfs de overpeinzing gelezen te hebben dat als zou blijken dat mensen minder goede besluiten zouden nemen dan algoritmes, we die extra problemen om mensen toch te laten beslissen er maar bij moeten nemen.

We moeten dus ook niet alle onderwerpen op één hoop willen gooien, maar per onderwerp bepalen of een algoritme beter zou kunnen zijn of niet.

Schaken kan een algoritme duidelijk prima (als winnen het doel van het spel zou zijn, wat in essentie op een misvatting berust) en autorijden lijkt me ook in de toekomst prima mogelijk, maar dan heb je het dus over extreem simpele aangelegenheden, onder zeer restrictieve condities.

Zodra het over iets minder restrictie-gebonden en daardoor complexere zaken hebt, zoals medische of juridische kwesties, waarbij je altijd met veel en veel meer factoren te maken hebt, dan blijft het maar zeer de vraag of een algoritme op dit niveau van complexiteit wel mee kan draaien, en is het inderdaad maar beter om de menselijke zwaktes voor lief te nemen.

Wat denk je dat '"waarschijnlijkheid" betekent anders dan de kans op een bepaald resultaat (zoals de kans op een juiste diagnoze) ?

Peter we spreken niet over waarschijnlijkheden als het om stochastische processen gaat. Een machine waarvan maar 5% van de producten moet verworpen worden, is een betere machine dan een machine die het zelfde produceert maar waarvan 10% moet worden verworpen. Die eerste machine is niet waarschijnlijk beter, die is gewoon beter.

Je lijkt in deze lijn van gesprek een belangrijk punt over het hoofd te zien.

De voorbeelden spelen in veel gevallen op het maximum van het menselijk kunnen.

Dat betekent dat de situatie niet achteraf beoordeeld kan worden om te bepalen of het oordeel dat de dokter gemaakt had de juiste was, of niet – of de leraar, of de wervingsagent, of de soldaat, etc.

Het is in deze gevallen niet als een kind dat een rekensommetje maakt, waar de volwassenen vervolgens over kunnen oordelen of hij het 'goed' of 'fout' heeft gedaan. Het is belangrijk om je te realiseren dat dit hogere niveau van begrip is in deze gevallen afwezig is, of het zou door een god moeten worden aangereikt.

De dokter is zelf de maatstaf van gezond of ongezond. Hij velt dat oordeel niet alleen, hij is dat oordeel.

Dat betekent – laat dit goed tot je doordringen – dat je daar dus op geen enkele manier een berekening op los kunt laten omtrent hoeveel procent van de gevallen hij 'gelijk' had. Absoluut uitgesloten. Wat wil je doen, zijn dode patiënten tellen? Maar hoe weet je dat de dood door hem kwam? Hij is degene die dat kan beoordelen!

Bij het schaakspel kan het nog een heel klein beetje, want dan is er een duidelijk zichtbare winconditie, die in de werkelijkheid altijd ontbreekt, en is allerlei informatie beschikbaar die in de werkelijkheid per definitie ontbreekt.

En zelfs in het schaakspel, waarin alles zo ongelooflijk veel simpeler en helderder en eenduidiger is dan in de werkelijkheid, is deze beperking overduidelijk zichtbaar: alleen vanuit het perspectief van een betere speler kan de zet van een slechtere speler naar waarde geschat worden. Andersom gaat dat niet: de slechtere speler kan niet beoordelen of de betere speler een goede zet doet of een slechte.

[heeck]

Amerauder,

Of je nu het uit handen geven van persoonlijk oordelen als probleem van een hele samenleving ziet en je er bij neerlegt dat je daar de koers niet van kunt verleggen, of dat je hier onvermoeibaar individuen de “juiste weg” bij tracht te brengen . . . .
je wilt iets veranderen terwijl je juist mijn navragen daarover ook weer afkeurt.

Het lijkt er steeds sterker op dat je je hart wil luchten en daar toch weer niet tevreden mee bent en dan onder het motto dat je niet begrepen wordt, maar extra rondjes draait om dezelfde moraliserende rotonde.

Misschien is een nog naakter beseffen effectiever:
https://www.changefactor.nl/kennis/stap ... en-kotter/

. . .
. . .
Ook Kotter stelt dat urgentie aanwezig moet zijn, maar voegt daarnaast nog een element toe: je hebt mensen nodig in je organisatie die het geloof in de verandering verspreiden.

Roeland

[Peter van Velzen]

Wat denk je dat '"waarschijnlijkheid" betekent anders dan de kans op een bepaald resultaat (zoals de kans op een juiste diagnoze) ?

Peter we spreken niet over waarschijnlijkheden als het om stochastische processen gaat. Een machine waarvan maar 5% van de producten moet verworpen worden, is een betere machine dan een machine die het zelfde produceert maar waarvan 10% moet worden verworpen. Die eerste machine is niet waarschijnlijk beter, die is gewoon beter.

Dat is helemaal geen antwoord op mijn vraag. Wie zijn overigens die "wij" die niet het woord waarschijnlijkheid gebruiken als het over een rij toevalstoestanden en hun bijbehorende simultane kansverdeling gaat. Ik hoor er in elk geval niet bij. Ik gebruik liefst altijd de term waarschijnlijk om te voorkomen dat ik iets als zeker voorstel dat slechts in 999 van de duizend gevallen waar is. Met name als het over mensen gaat is dat ethisch juister dan 7 miljoen (van de 7 miljard) mensen negeren.

Waarom zou het onethisch zijn om "dit soort" gegevens te gebruiken om verzekeringspremies mee te bepalen ? Over welk "soort" gegevens heb je het dan ?

Dat is naast de kwestie. Waar het om draait is dat het om twee verschillende vragen gaat. Namelijk de ethische vraag en de vraag wie de meest nauwkeurige/betrouwbare gegevens zou leveren: een menselijk (intuïtieve) expert of een algoritme/formule/protocol. Amemrauder schrijft ergens iets dat het om de tweede vraag zou gaan om dan drie voorbeelden naar voor te schuiven waar hij de eerste, ethische vraag stelt. Waar ik dus op wijs, is dat hij een wisseltruc probeert uit te voeren.

Wederom geen antwoord op de vraag die ik stelde. Ik tracht er achter te komen wat je met "de ethische vraag" bedoelde. En uit je reactie wordt ik niets wijzer. Ik was dus genoodzaakt terug te zoeken naar de plek waar Amerauder zijn drie ethische vragen stelde naar aanleiding van jouw feitelijke veronderstelling. Dat heb ik dus gedaan en het lijkt me nu duidelijk wat jullie beiden trachtten te zeggen.

Overigens is het weliswaar waarschijnlijker dat de dokter die 95% van de gevallen een juiste diagnoze heeft gesteld, dat ook in de toekomst vaker zal doen, dan dan de dokter die dat slechts in 90% van de gevallen deed. Maar dat is niet noodzakelijkerwijs altijd. het geval

Waarom zit jij dit hypothetisch voorbeeld zo te ontleden? Als ik in een volgende bijdrage een voorbeeld gebruik met een dobbelsteen en schrijf over een kans van ⅙ om een ⚀ te gooien, ga jij dan ook de opmerking maken dat dobbelstenen niet perfect zijn en dat de kans op een ⚀ waarschijnlijk niet exact ⅙ is? Ja in de praktijk is het nooit zo eenvoudig als in een hypothetisch voorbeeld dat ter illustratie gebruikt wordt. Daar zijn de deelnemers hier op dit forum zich over het algemeen wel bewust van denk ik. Ik begrijp dus niet goed waar de drang vandaan komt om deze (hypothetische) voorbeelden zo onder de loep te nemen.

Deze opmerking had ik bewust in kleine letters gezet omdat ze me onbelangrijk leek. Maar wellicht is ze wel belangrijk. Als twee dokters 120 maal met dezelfde dobbelsteen gooien en de een gooit in 19 gevallen een ⚀, terwijl de ander dat 18 keer doet. (90/95 = 18/19!) Dan heeft dat niets te maken met een imperfecte dobbelsteen te maken, maar is gewoon toeval! In geval de ene dokter 18 van de 20 keer een juiste diagnoze stelt en de andere dokter 19 keer dan is dat wellicht ook toeval. als het 180 en 190 van de 200 keer is dan is het waarschijnlijker dat de ene dokter "gewoon beter" is dan de ander. (percentages zijn op zich vaak bedriegelijk als je de "sample size" niet kent).


Heb ik het mis met de volgende conclusie?

Jij trachtte uit te leggen dat algoritmes soms aantoonbaar betrouwbaarder antwoorden opleveren dan mensen - soms zelfs beter dan menselijke experts. Terwijl Amerauder trachte uit te leggen dat sommige besluiten ethische overwegingen dienen te bevatten en derhalve niet aan amorele algoritmes moeten worden over gelaten. Jullie praatten dus gewoon langs elkaar heen. Net als wij(jij en ik) vaak. Jouw verwoedde pogingen om zulks uit te leggen niettegenstaande.

[Peter van Velzen]

Grappig dat het toch steeds weer op een morele kwestie wordt gegooid. Nee, dat is het niet.

Ja, natuurlijk zit er ook altijd een ethische dimensie aan alles wat er ook maar in het minste toe doet, en ik snap ook wel waarom je daar aan moet denken, maar dat is niet waar het hier om gaat, dat is hier niet waar het woord ‘beter’ naar verwijst.

Ik kreeg duidelijk een andere indruk. Maar het is wellicht slechts een subtiel verschil.
In jouw redenatie spelen vele typisch menselijke waarde-oordelen mee waarvan de ethische uiteraard de belangrijkste is. Waarde-oordelen zijn echter ook vooroordelen.

Bijvoorbeeld:

Daarover kun je zeggen: machinevoedsel is goedkoper om te produceren, dus je krijgt meer ‘waar voor je geld’. Een duidelijk voordeel. Maar er zitten ook nadelen aan. Het machinegefabriceerde voedsel bevat allerlei chemicaliën, en allerlei voedingsstoffen gaan in het proces verloren, hetgeen ziekte veroorzaakt, etc. Bovendien is de smaak lang niet zo goed.

Je veronderstelt blijkbaar dat door een mens bereid voedsel minder chemicaliën zou bevatten. Niets is minder waar. Ons voedsel bestaat vrijwel geheel uit chemische verbindingen en een mens bevat ongeveer 20.000 verschillende organische verbindingen die niet in machines voorkomen! Het is absoluut niet noodzakelijk dat er in een machine voedingsstoffen verloren gaan. (hoe kom je daarbij?) en in mensenhanden niet. Ook bevat een mens veel meer ziektekiemen dan een machine. En over de smaak valt ook te twisten!
De reden waarom anderen alleen jouw ethische oordelen van belang achten is mijns inziens omdat ze jouw andere waarde-oordelen niet delen. Je blijkt er gewoon niet genoeg van af te weten!

Zodra het over iets minder restrictie-gebonden en daardoor complexere zaken hebt, zoals medische of juridische kwesties, waarbij je altijd met veel en veel meer factoren te maken hebt, dan blijft het maar zeer de vraag of een algoritme op dit niveau van complexiteit wel mee kan draaien, en is het inderdaad maar beter om de menselijke zwaktes voor lief te nemen.

Bij medische kwesties zijn morele vragen het belangrijkste en bij juridische kwesties gaat het over niets anders dan dat! Moraal en Ethiek zijn geen zaken die door denkbeeldige goden worden bepaald maar staan geheel ten dienste van het samenwerkingsverband van mensen: De maatschappij. Andere overwegingen zijn dus nauwelijks van belang.

De dokter is zelf de maatstaf van gezond of ongezond. Hij velt dat oordeel niet alleen, hij is dat oordeel.

Onzin! Ik bepaal zelf of ik naar de dokter ga. De dokter weet wellicht waarom ik mij ziek voel, dat ik het ben bepaal ik!

En zelfs in het schaakspel, waarin alles zo ongelooflijk veel simpeler en helderder en eenduidiger is dan in de werkelijkheid, is deze beperking overduidelijk zichtbaar: alleen vanuit het perspectief van een betere speler kan de zet van een slechtere speler naar waarde geschat worden. Andersom gaat dat niet: de slechtere speler kan niet beoordelen of de betere speler een goede zet doet of een slechte.

Dat kan hij vaak wel! Hij heeft er echter veel meer tijd voor nodig dan Stockfish. Hij kan soms zelfs bepalen of Stockfish het mis heeft. Dat komt omdat er een eenvoudige manier is om de kwaliteit objectief te meten. Objectief meten kan men gerust zowel aan een geschikte machine over laten als aan een leek met het juiste werktuig.

[axxyanus]

Het gaat hier in al deze voorbeelden (de verloskundige, de leraar, de recruiter, de soldaat, etc.) overduidelijk niet over een moreel goed en kwaad, maar over een kwalitatief goed en slecht, over expertise en vaardigheid, kracht en gezondheid. Vandaar: waardeoordeel. Dat is toch echt iets heel anders dan de voorwaarden waaronder je de hemel mag betreden.

Een soldaat die zomaar in het wilde weg mensen vermoordt is niet alleen moreel verkeerd bezig, hij is bovendien kwalitatief weinig waard: niemand zou veel geld willen besteden aan zijn diensten.

Maar in uw voorbeeld was het net een voordeel voor de menselijk soldaat dat hij minder kwalitatief was. Het feit dat menselijke soldaten vaak er opzettelijk naast schoten leek jij daar als een voordeel neer te zetten.

En wat betreft uw Tesla en verzekeringsvoorbeeld, dat is natuurlijk duidelijk wel een ethische kwestie. De belangrijkste vraag daar is in hoeverre we willen toelaten dat dergelijke gegevens worden gebruikt om verzekeringspremies te laten bepalen. Inhoeverre die gegevens door een algoritme dan wel door een expert worden verwerkt lijkt me van veel minder belang dan de vraag of we het doorgeven van dat soort gegevens wel willen toelaten.

Voedsel bereiden is daar een goed voorbeeld van. Een goede kok maakt een gezonde en smakelijke maaltijd. Je kunt daar wel moraliteit bij slepen als je wilt, want een goede kok behoort dat ook te doen, maar dat is in principe niet waar je het over hebt als je de maaltijd goed noemt. De maaltijd is niet goed in morele zin, maar in esthetische, het is een voortreffelijke maaltijd.

Ik ben het principieel oneens met het bovenstaande. Ik ga er van uit dat je met "kok" hierboven de kok als expert bedoelt en niet gewoon de persoon die maaltijden klaarmaakt, waarbij moeder of vader des huizes dan de kok van dienst kunnen zijn.

De taak van de expert is niet om zelf te beslissen maar om zijn opdrachtgever te helpen met te beslissen [door advies] en daarna die beslissing [helpen] uit te voeren. Daar kunnen natuurlijk deontologische en wettelijke beperkingen aan vastzitten maar de taak van de kok is om een maaltijd te koken die zo goed mogelijk aan de wensen van zijn opdrachtgever voldoet. Die opdracht zal natuurlijk vaak inhouden dat de maaltijd gezond en smakelijk moet zijn maar dat dat vaak deel uitmaakt van de opdracht is niet hetzelfde als dat het deel uitmaakt van zijn taak. Waarbij ik taak hier gebruik in de betekenis van wat de algemene verplichtingen zijn van iemand die als kok wil functioneren in tegenstelling tot de specifieke verplichtingen waarvan sprake is bij een opdracht.

Ik meen zelfs de overpeinzing gelezen te hebben dat als zou blijken dat mensen minder goede besluiten zouden nemen dan algoritmes, we die extra problemen om mensen toch te laten beslissen er maar bij moeten nemen.

We moeten dus ook niet alle onderwerpen op één hoop willen gooien, maar per onderwerp bepalen of een algoritme beter zou kunnen zijn of niet.

Schaken kan een algoritme duidelijk prima (als winnen het doel van het spel zou zijn, wat in essentie op een misvatting berust) en autorijden lijkt me ook in de toekomst prima mogelijk, maar dan heb je het dus over extreem simpele aangelegenheden, onder zeer restrictieve condities.

Zodra het over iets minder restrictie-gebonden en daardoor complexere zaken hebt, zoals medische of juridische kwesties, waarbij je altijd met veel en veel meer factoren te maken hebt, dan blijft het maar zeer de vraag of een algoritme op dit niveau van complexiteit wel mee kan draaien, en is het inderdaad maar beter om de menselijke zwaktes voor lief te nemen.

Maar de vraag is evengoed of mensen wel op dat nivo van complexiteit kunnen meedraaien. Een boel algorimes in de vorm van protocollen zijn juist ingevoerd om mensen beter om te kunnen laten gaan met heel die complexiteit. Protocollen in de chirurgie en de luchtvaart helpen mensen een beter overzicht te houden en hebben het aantal medische fouten en ongevallen gereduceerd.

De dokter is zelf de maatstaf van gezond of ongezond. Hij velt dat oordeel niet alleen, hij is dat oordeel.

Ik ben het dus grondig oneens met het bovenstaande. Het komt er namelijk op neer dat een dokter zich niet zou kunnen vergissen.

Dat betekent – laat dit goed tot je doordringen – dat je daar dus op geen enkele manier een berekening op los kunt laten omtrent hoeveel procent van de gevallen hij 'gelijk' had. Absoluut uitgesloten. Wat wil je doen, zijn dode patiënten tellen? Maar hoe weet je dat de dood door hem kwam? Hij is degene die dat kan beoordelen!

Natuurlijk kan je daar wel een berekening op los laten. Een voorbeeld: Je verzamelt een aantal foto's van longen die genomen werden van patiënten een aantal jaar terug. Ondertussen weet je van die patiënten welke uiteindelijk kanker hebben gekregen en welke niet. Je laat nu die foto's aan dokters zien om te evaluren of er tekenen van kanker op zijn terug te vinden of niet. Ook voed je de foto's aan een algoritme om die vraag te beantwoorden. Daarna kan men nakijken wie van de twee groepen de betere score heeft.

[Amerauder]

je wilt iets veranderen terwijl je juist mijn navragen daarover ook weer afkeurt.

Nee hoor dat keur ik helemaal niet af, ik ben er zelfs uitgebreid op in gegaan. Wel wijs ik het verlangen maatschappelijke verandering teweeg te brengen af, en benoem ik dat als een onjuiste interpretatie van mijn woorden. Dat betekent toch niet dat ik die vraag afkeur?

Waarom wil je mijn woorden toch zo graag als een ‘wil tot verandering’ uitleggen? Dat is het allerminst. Verre van.

Het lijkt er steeds sterker op dat je je hart wil luchten en daar toch weer niet tevreden mee bent en dan onder het motto dat je niet begrepen wordt, maar extra rondjes draait om dezelfde moraliserende rotonde.

Haha en waar zou ik niet tevreden over zijn?

Niet begrepen worden is onvermijdelijk als je ook maar enigszins complexe zaken of confronterende zaken bespreekt.

Het publiek begrijpt de zetten van een schaakspeler ook niet. Denk je dat hem dat deert?

Het is vooral grappig.

Waarom denk je dat ik iets wil veranderen?

Waarom denk je dat ik een moraal zou willen prediken?

En – wat zegt het eigenlijk over jou dat je dit blijft herhalen nadat ik al heb uitgelegd van niet?


***

Grappig dat het toch steeds weer op een morele kwestie wordt gegooid. Nee, dat is het niet.

Ja, natuurlijk zit er ook altijd een ethische dimensie aan alles wat er ook maar in het minste toe doet, en ik snap ook wel waarom je daar aan moet denken, maar dat is niet waar het hier om gaat, dat is hier niet waar het woord ‘beter’ naar verwijst.

Ik kreeg duidelijk een andere indruk. Maar het is wellicht slechts een subtiel verschil.
In jouw redenatie spelen vele typisch menselijke waarde-oordelen mee waarvan de ethische uiteraard de belangrijkste is. Waarde-oordelen zijn echter ook vooroordelen.

Klopt het is ook subtiel, omdat kwalitatief beter en moreel beter in veel gevallen met elkaar overeenkomen. Toch is het belangrijk om het verschil met zeden prediken te zien om niet de draad kwijt te raken zoals heeck.

Waardeoordelen zijn ook nauw verwant aan ethische oordelen. Toch is er een wereld van verschil. Immorele zaken kunnen immers waardevol zijn, en ook waardeloze mislukkelingen mogen soms naar de hemel.

Daarover kun je zeggen: machinevoedsel is goedkoper om te produceren, dus je krijgt meer ‘waar voor je geld’. Een duidelijk voordeel. Maar er zitten ook nadelen aan. Het machinegefabriceerde voedsel bevat allerlei chemicaliën, en allerlei voedingsstoffen gaan in het proces verloren, hetgeen ziekte veroorzaakt, etc. Bovendien is de smaak lang niet zo goed.

Je veronderstelt blijkbaar dat door een mens bereid voedsel minder chemicaliën zou bevatten. Niets is minder waar. Ons voedsel bestaat vrijwel geheel uit chemische verbindingen en een mens bevat ongeveer 20.000 verschillende organische verbindingen die niet in machines voorkomen!

Peter als je niet weet wat het woord chemicaliën betekent en hoe het wordt gebruikt in relatie tot voedsel dan kun je dat beter even opzoeken.

Hier, ik help je wel even:

Chemicaliën
Stoffen die door chemische fabrieken gemaakt worden
Scheikundig bereide stoffen

Het gaat dus om iets heel anders dan chemische verbindingen per se.

Het is een veel voorkomende verwarring overigens, waarbij men het belangrijke verschil niet in wenst te zien tussen natuurlijke, en door mensen gecreëerde substanties. Dit misverstand ligt aan het hart van deze discussie. Het is in wezen hetzelfde misverstand als dat waarbij men het verschil niet in wenst te zien tussen intelligentie en kunstmatige intelligentie, tussen echt en gefabriceerd. Als je goed tot je door laten dringen waarom het woord 'fabricatie' tevens de betekenis van 'nep' draagt dan zie je iets van waar het hier om te doen is, wat het te betekenen heeft dat men dit onderscheid niet wenst te erkennen.

Het is absoluut niet noodzakelijk dat er in een machine voedingsstoffen verloren gaan. (hoe kom je daarbij?) en in mensenhanden niet.

Ook hier, als je niet weet dat bij het bewerken van voedsel voedingswaarde verloren gaat – en dat dus over het algemeen geldt: hoe meer bewerkt, hoe ongezonder – dan is het beter om je daar eens wat meer in te verdiepen dan om te blijven volharden in deze onwetendheid, en die als argument naar voren te schuiven. Ergens niet van op de hoogte zijn vormt, ben ik bang, niet zo'n sterk argument.

Bedenk je dat alleen al bij zoiets simpels als een appel in een blender gooien of het koken van groente al veel verloren gaat. Vergelijk dat met wat er in een fabriek gebeurt en dan kun je nagaan dat er na zo’n intensief proces vrijwel niets van waarde overblijft.

Interessante materie hoor, zeker de moeite waard om je eens in te verdiepen!

Ondertussen is het verhaal over voedsel bedoeld als een simpel voorbeeld over de werking van machines in het algemeen, om duidelijk te maken waar bijvoorbeeld AI staat in het grotere geheel. Als het je aan deze basis kennis ontbeert dan ga je het voorbeeld niet kunnen bevatten, en zie je ook niet wat het zegt over machines in een veel bredere zin.

Zodra het over iets minder restrictie-gebonden en daardoor complexere zaken hebt, zoals medische of juridische kwesties, waarbij je altijd met veel en veel meer factoren te maken hebt, dan blijft het maar zeer de vraag of een algoritme op dit niveau van complexiteit wel mee kan draaien, en is het inderdaad maar beter om de menselijke zwaktes voor lief te nemen.

Bij medische kwesties zijn morele vragen het belangrijkste en bij juridische kwesties gaat het over niets anders dan dat! Moraal en Ethiek zijn geen zaken die door denkbeeldige goden worden bepaald maar staan geheel ten dienste van het samenwerkingsverband van mensen: De maatschappij. Andere overwegingen zijn dus nauwelijks van belang.

De verbindende factor tussen waardeoordelen en ethische overwegingen is dus complexiteit. Omdat het complex is kun je het niet tot domme regeltjes reduceren, en dus kan de AI er niets mee, die immers alleen op het niveau van domme regeltjes kan opereren, zoals die van het schaakspel.

De dokter is zelf de maatstaf van gezond of ongezond. Hij velt dat oordeel niet alleen, hij is dat oordeel.

Onzin! Ik bepaal zelf of ik naar de dokter ga. De dokter weet wellicht waarom ik mij ziek voel, dat ik het ben bepaal ik!

Ja, goed, ik wou het niet nog complexer maken door ook de patiënt er bij te betrekken, maar daar geldt natuurlijk exact hetzelfde. Ook voor het oordeel van de patiënt geldt dat niemand dan hemzelf beter kan oordelen of hij 'gelijk' heeft of niet. Ook dit is niet als een rekensom met een goed of fout antwoord. Dat oordeel is het begin en einde van de hele kwestie, dat geldt hier evenzeer.

Als de dokter en patiënt het niet met elkaar eens zijn is er sprake van een impasse. Er is dan geen enkele rekensom die zou kunnen bepalen wie er 'gelijk' heeft en dat is dus ook precies waarom de AI hier geen raad mee zou weten.

[Amerauder]

Het gaat hier in al deze voorbeelden (de verloskundige, de leraar, de recruiter, de soldaat, etc.) overduidelijk niet over een moreel goed en kwaad, maar over een kwalitatief goed en slecht, over expertise en vaardigheid, kracht en gezondheid. Vandaar: waardeoordeel. Dat is toch echt iets heel anders dan de voorwaarden waaronder je de hemel mag betreden.

Een soldaat die zomaar in het wilde weg mensen vermoordt is niet alleen moreel verkeerd bezig, hij is bovendien kwalitatief weinig waard: niemand zou veel geld willen besteden aan zijn diensten.

Maar in uw voorbeeld was het net een voordeel voor de menselijk soldaat dat hij minder kwalitatief was. Het feit dat menselijke soldaten vaak er opzettelijk naast schoten leek jij daar als een voordeel neer te zetten.

Klopt, het nadert elkaar hier heel dicht. Toch is een soldaat die altijd alleen maar exact de order opvolgt niet kwalitatief de beste. Dat lijkt soms zo, maar geloof me maar, in de praktijk is het veel beter als je ondergeschikten een behoorlijke dosis zelfsturend vermogen hebben, dat ze zelf hun eigen kastanjes uit het vuur halen en niet constant bij de hand hoeven te worden genomen.

Wat betreft de kok zou ik dus zeggen dat de beste kok diegene is die de beste maaltijden kan produceren, niet de kok die zijn opdrachtgevers het best gehoorzaamt, nee, dat lijkt me niet. Wat als de opdracht het verkeerd heeft? We kunnen van de opdrachtgever niet verwachten dat hij alles het beste weet, soms is dat nu juist de reden om een expert in te huren: omdat die het beter weet.

Gehoorzaamheid is ook een deugd, en als je dat wilt betrekking bij je waardering van de kwaliteiten van een kok dan snap ik dat, maar het staat lang niet zo centraal als de vaardigheid van het koken zelf, die ook een uiterst eigenwijze en ongehoorzame kok kan hebben.

En wat betreft uw Tesla en verzekeringsvoorbeeld, dat is natuurlijk duidelijk wel een ethische kwestie. De belangrijkste vraag daar is in hoeverre we willen toelaten dat dergelijke gegevens worden gebruikt om verzekeringspremies te laten bepalen.

Het is inderdaad ook een ethische kwestie, maar niet alleen een ethische kwestie. Zie je dan niet hoe de verschillende lagen dwars door elkaar heen lopen, vechtend om aandacht?

Enerzijds speelt inderdaad de vraag of het ethisch is om deze info te gebruiken, maar laat die toch niet alle aandacht opeisen, want tegelijkertijd speelt ook de vraag of het algoritme überhaupt in staat is om iemand op zijn rijgedrag te beoordelen. Dat is waar het hier om gaat, en het lijkt me overduidelijk niet het geval.

Dat betekent – laat dit goed tot je doordringen – dat je daar dus op geen enkele manier een berekening op los kunt laten omtrent hoeveel procent van de gevallen hij 'gelijk' had. Absoluut uitgesloten. Wat wil je doen, zijn dode patiënten tellen? Maar hoe weet je dat de dood door hem kwam? Hij is degene die dat kan beoordelen!

Natuurlijk kan je daar wel een berekening op los laten. Een voorbeeld: Je verzamelt een aantal foto's van longen die genomen werden van patiënten een aantal jaar terug. Ondertussen weet je van die patiënten welke uiteindelijk kanker hebben gekregen en welke niet. Je laat nu die foto's aan dokters zien om te evaluren of er tekenen van kanker op zijn terug te vinden of niet. Ook voed je de foto's aan een algoritme om die vraag te beantwoorden. Daarna kan men nakijken wie van de twee groepen de betere score heeft.

Ja, goed, zulke spellen kun je spelen natuurlijk.

En je kunt ook schaakspeler een wedstrijdje laten doen wie het snelst een serie schaakpuzzels op kan lossen.

Of je kunt boksers meenemen naar de kermis en kijken wie het hardst tegen de boksbal kan slaan.

Allemaal leuk en aardig. Maar wie denkt dat hij op basis van dat soort grappen kan bepalen wie de beste schaakspeler, of de beste bokser, of de beste dokter is, die liegt zichzelf voor. Zo werkt het natuurlijk niet.

[heeck]

Haha en waar zou ik niet tevreden over zijn?

Niet begrepen worden is onvermijdelijk als je ook maar enigszins complexe zaken of confronterende zaken bespreekt.

Het publiek begrijpt de zetten van een schaakspeler ook niet. Denk je dat hem dat deert?

Het is vooral grappig.

Waarom denk je dat ik iets wil veranderen?

Waarom denk je dat ik een moraal zou willen prediken?

En – wat zegt het eigenlijk over jou dat je dit blijft herhalen nadat ik al heb uitgelegd van niet?

Ik zou ontevreden zijn als ik bij verduidelijken van complexe (of confronterende) zaken, wat ik vaak heb gedaan, na afloop kennelijk niet begrepen werd.

En wat ik zeg is daar een indicatie van. Eentje waar je kennelijk niet begrijpelijker op in wilt of kunt gaan.

Roeland

[Amerauder]

Pardon, dus er is ergens iets wat jij niet begrijpt, en dat heeft ergens iets te maken met moraliteit en een wil tot verandering?

Nou, dat geloof ik graag, maar vager kan het niet. Geef dan eens aan wat het is dat je niet begrijpt, met veel precisie, en hoe dat zich verhoudt tot moraliteit en de wil tot verandering, met veel precisie. Waar heb je het anders over?

Je vraagt of ik er op in kan gaan, nou, geef eens iets concreets om in te gaan dan?

[heeck]

Pardon, dus er is ergens iets wat jij niet begrijpt, en dat heeft ergens iets te maken met moraliteit en een wil tot verandering?

Nou, dat geloof ik graag, maar vager kan het niet. Geef dan eens aan wat het is dat je niet begrijpt, met veel precisie, en hoe dat zich verhoudt tot moraliteit en de wil tot verandering, met veel precisie. Waar heb je het anders over?

Je vraagt of ik er op in kan gaan, nou, geef eens iets concreets om in te gaan dan?

Hier is de tweede stap in mijn vraagstelling:
viewtopic.php?p=613750#p613750

Het zal toch niet onmogelijk zijn om samen een gevallen steek op te halen?
Tenzij we onderling lijden aan mijn motto en je er genoegen mee hebt te nemen dat je bij mij je ei niet kwijt kunt.

Roeland

[Amerauder]

Nog concreter heeck! Spel het maar gewoon lekker uit!

Bedoel je deze vraag?

Vandaar mijn nu herhaalde vraag aan jou hoe je in een moderne samenleving -zonder die vlaggetjes- van de door jou ongewenste toestand naar de door jou gewenste zal komen.

Zoals gezegd impliceert dit een verlangen naar maatschappelijke verandering. Aangezien dat een verlangen is dat ik afwijs, kan ik ook niet op de door jou gevraagde wijze op de vraag ingaan. Ik deel het uitgangspunt niet, snap je? Ik wil helemaal niet naar een 'gewenste toestand' toe, wat je je daar ook bij voorstelt. Integendeel.

[heeck]

Nog concreter heeck! Spel het maar gewoon lekker uit!

Bedoel je deze vraag?

Vandaar mijn nu herhaalde vraag aan jou hoe je in een moderne samenleving -zonder die vlaggetjes- van de door jou ongewenste toestand naar de door jou gewenste zal komen.

Zoals gezegd impliceert dit een verlangen naar maatschappelijke verandering. Aangezien dat een verlangen is dat ik afwijs, kan ik ook niet op de door jou gevraagde wijze op de vraag ingaan. Ik deel het uitgangspunt niet, snap je? Ik wil helemaal niet naar een 'gewenste toestand' toe, wat je je daar ook bij voorstelt. Integendeel.

Ik begreep dat de door jou gewenste toestand is wat ik al en nu weer vet aanhaalde:

Niet quota’s, maar mensen moeten beslissingen nemen.

Daar past mijn vraag m.i. heel goed bij want het ontgaat me hoe je dat wilt bereiken en het impliceert duidelijk dat je een gewenste toestand ziet als die waar mensen beslissingen (moeten) nemen en de ongewenste is die waarbij (onder andere) quota's dat zouden doen.

Nu kan het wezen dat je het vet aangehaalde inclusief het direct daaraan voorafgaand inleidende, niet als "een maatschappelijke verandering''" ziet en dan wordt de begripskloof wel erg diep en onvoldoende smal.

Laat dan maar zitten, want ik heb dan kennelijk teveel moeite om jouw complexe spoken te ontwaren.

Roeland

[axxyanus]

Wat betreft de kok zou ik dus zeggen dat de beste kok diegene is die de beste maaltijden kan produceren, niet de kok die zijn opdrachtgevers het best gehoorzaamt, nee, dat lijkt me niet. Wat als de opdracht het verkeerd heeft? We kunnen van de opdrachtgever niet verwachten dat hij alles het beste weet, soms is dat nu juist de reden om een expert in te huren: omdat die het beter weet.

Zo wat als de opdracht verkeerd was? Als een opdrachtgever een expert inhuurt en dan het advies van die expert wil negeren, dan is dat zijn eigen verantwoordelijkheid.

Gehoorzaamheid is ook een deugd, en als je dat wilt betrekking bij je waardering van de kwaliteiten van een kok dan snap ik dat, maar het staat lang niet zo centraal als de vaardigheid van het koken zelf, die ook een uiterst eigenwijze en ongehoorzame kok kan hebben.

Welk punt wil je nu juist maken. Het lijkt me dat je het nu hebt over de kok als stielman, de persoon die over de vaardigheden beschikt om een specifiek doel te bereiken, terwijl je het oorspronkelijk leek te hebben over de kok die in zijn hoedanigheid als expert, de beslissing neemt over het te bereiken doel.

[over testla en de verzekeringen]
Enerzijds speelt inderdaad de vraag of het ethisch is om deze info te gebruiken, maar laat die toch niet alle aandacht opeisen, want tegelijkertijd speelt ook de vraag of het algoritme überhaupt in staat is om iemand op zijn rijgedrag te beoordelen. Dat is waar het hier om gaat, en het lijkt me overduidelijk niet het geval.

Ik zie niet in wat daar zo overduidelijk aan is. Wat mij betreft lijkt het best mogelijk dat zo'n algoritme die gegevens voldoende kan interpreteren zodat er een duidelijk correlatie onstaat tussen de beoordeling van het algoritme en het aantal ongevallen dat iemand later heeft. Zou dat niet het geval zijn, dan lost dit probleem zich vanzelf op want dan zullen de verzekeringsmaatschappijen na enkele jaren merken dat het volgen van een dergelijk algoritme hen verliezen oplevert.

Natuurlijk kan je daar wel een berekening op los laten. Een voorbeeld: Je verzamelt een aantal foto's van longen die genomen werden van patiënten een aantal jaar terug. Ondertussen weet je van die patiënten welke uiteindelijk kanker hebben gekregen en welke niet. Je laat nu die foto's aan dokters zien om te evaluren of er tekenen van kanker op zijn terug te vinden of niet. Ook voed je de foto's aan een algoritme om die vraag te beantwoorden. Daarna kan men nakijken wie van de twee groepen de betere score heeft.

Ja, goed, zulke spellen kun je spelen natuurlijk.

En je kunt ook schaakspeler een wedstrijdje laten doen wie het snelst een serie schaakpuzzels op kan lossen.

Of je kunt boksers meenemen naar de kermis en kijken wie het hardst tegen de boksbal kan slaan.

Allemaal leuk en aardig. Maar wie denkt dat hij op basis van dat soort grappen kan bepalen wie de beste schaakspeler, of de beste bokser, of de beste dokter is, die liegt zichzelf voor. Zo werkt het natuurlijk niet.

In zoverre het bovenstaande grappen zijn, lijken het grappen van jou makelij.
Wat is het specifiek probleem met mijn voorbeeld? Hoe denk je dat experten geleerd hebben hoe dergelijke foto's te interpreteren?

Je tegenvoorbeelden zijn problematisch in zoverre dat het evalueren van dergelijk foto's geen competitie is. Men zet geen twee dokter tegenover elkaar die proberen zelf een juiste diagnose te stellen terwijl ze tegelijkertijd de ander proberen te verhinderen een juiste diagnose te stellen.

Het stellen van een juiste diagnose lijkt me meer overeen te komen met het oplossen van een schaakpuzzel dan met het winnen van een partij.