Vrijdenken zonder Kerk

[Amerauder]

Of het middel werkt of niet is gewoon een menselijk oordeel, alsof alle oordelen een even groot gewicht hebben.

Even opletten nu, want ik zeg juist precies het tegenovergestelde. Ik benadruk juist hoe belangrijk het is te blijven oordelen. Dat is het exacte tegendeel van: “alle oordelen hebben hetzelfde gewicht.”

Ik neem het juist op voor het oordeel van de expert, weet je nog? Ik plaats juist het oordeel van de expert die zich door zijn expertise laat leiden in groot contrast met de gedachteloze ‘het zal allemaal wel’ mentaliteit waarin meer waarde wordt gehecht aan wat de algoritmes voorschrijven.

Zie je dan niet dat dat de weg is die we zijn ingeslagen?

Dat wij mensen onze beperkingen hebben die ons niet altijd toelaat het legitieme van het bedrog te onderscheiden, is geen reden om te weigeren dat onderscheid te erkennen en alles onder één hoop te gooien van wat mensen doen.

Alles gewoon platslaan tot een menselijk oordeel, is standaard gereedschap van de kwakzalver en de bijgelovige. Of het middel werkt of niet is gewoon een menselijk oordeel, alsof alle oordelen een even groot gewicht hebben.

Klopt helemaal. Dat is daar inderdaad absoluut geen reden toe, en als dat is wat jij denkt dat ik beweer, dan heb ik geen flauw idee hoe je daarbij komt.

Kun je me citeren waar ik iets zeg dat jij vindt lijken op “weigeren een onderscheid te maken”? Of “alle oordelen hebben hetzelfde gewicht”? Of zijn die toevoegingen enkel jouw fabricatie?

Ik zeg juist dat we wel moeten oordelen, en dat betekent dus het verschil tussen een goede en een slechte keuze blijven benadrukken, en dat we het dus niet voor een uitgemaakte zaak moeten houden. Juist te pretenderen dat het een reeds uitgemaakte zaak is, is stoppen met oordelen. Dan laat je het oordeel aan iets of iemand anders over en ben je een gemakkelijke prooi voor kwakzalvers.

Ik probeer een ontologisch onderscheid duidelijk te maken en jij komt steeds met epistemologische hindernissen, alsof het probleem van in de practijk het één van het ander te onderscheiden op een of andere manier ons moet verhinderen om het verschil in karakter te erkennen tussen de twee.

“Alsof de praktijk....”

Let wel, dat is de werkelijkheid waar je het over hebt.

Ja, inderdaad ben ik van mening dat we de werkelijkheid mee moeten rekenen ja!

Wat je zegt is eigenlijk niet een zo heel ver verwijderd van: “ik wil die opdringerige realiteit mij niet laten beletten te dagdromen over een theoretische grens tussen kwakzalvers en betrouwbare wetenschappers.”

Prima, dagdroom lekker voort! Ik spreek met geen enkel woord tegen dat ontologische onderscheid van jou, integendeel, ik ga er volledig in mee. Vooral blijven doen.

Ondertussen maken mensen van vlees en bloed concrete besluiten omtrent welke vormen van medisch ingrijpen ze over hun lichaam afroepen. Die grens van jou is theoretisch, maar die keuze niet. En soms maakt men de verkeerde keuze. Maar te stoppen met kiezen, om het aan de algoritmes over te laten, lijkt mij de meest trefzekere manier om aan de kwakzalvers alleenheerschappij toe te kennen.

[axxyanus]

Of het middel werkt of niet is gewoon een menselijk oordeel, alsof alle oordelen een even groot gewicht hebben.

Even opletten nu, want ik zeg juist precies het tegenovergestelde. Ik benadruk juist hoe belangrijk het is te blijven oordelen. Dat is het exacte tegendeel van: “alle oordelen hebben hetzelfde gewicht.”

Ik neem het juist op voor het oordeel van de expert, weet je nog? Ik plaats juist het oordeel van de expert die zich door zijn expertise laat leiden in groot contrast met de gedachteloze ‘het zal allemaal wel’ mentaliteit waarin meer waarde wordt gehecht aan wat de algoritmes voorschrijven.

Neen, jij neemt het niet op voor de expert. Jij neemt het op voor het imago van de expert. Als het algortime betere resultaten kan voorleggen dan een persoon, dan is het algoritme de expert.

Dat wij mensen onze beperkingen hebben die ons niet altijd toelaat het legitieme van het bedrog te onderscheiden, is geen reden om te weigeren dat onderscheid te erkennen en alles onder één hoop te gooien van wat mensen doen.

Alles gewoon platslaan tot een menselijk oordeel, is standaard gereedschap van de kwakzalver en de bijgelovige. Of het middel werkt of niet is gewoon een menselijk oordeel, alsof alle oordelen een even groot gewicht hebben.

Klopt helemaal. Dat is daar inderdaad absoluut geen reden toe, en als dat is wat jij denkt dat ik beweer, dan heb ik geen flauw idee hoe je daarbij komt.

Ach kom nu. Ik ben het onderwerp nog niet vergeten waarin o.a. jij de rede en zelfs de rekenregels als een afspraak afdeed. Als je van mening bent dat wat een goed oordeel is en wat een slecht oordeel, gewoon een kwestie van afspraken is, zoals de regels van een bordspel een kwestie van afspraken zijn, zonder enige weerspiegeling van de werkelijkheid dan praten we over conventies. Zoals de keuze om links of rechts van de weg te rijden. Op die manier is wat orthodoxe geneeskunde is en wat kwakzalverij gewoon een conventie, we hadden gewoon andere afspraken kunnen maken over wat werkt en wat niet.

[Amerauder]

Als het algortime betere resultaten kan voorleggen dan een persoon, dan is het algoritme de expert.

En dat is dus precies de vraag waar het hier om draait.

Is het beter? Zou het beter kunnen zijn?

Waarom – en op basis waarvan – gelooft men eigenlijk dat het algoritme betere resultaten zou kunnen produceren?

Drie voorbeelden waarbij we deze vragen kunnen stellen:


1) In Libië zijn autonome drones ingezet. Dus in plaats van een soldaat die besluit of hij iemand doodschiet of niet, wordt de keuze nu door een algoritme gemaakt. Ja, ze krijgen beide natuurlijk een opdracht van hogerhand, maar de beslissing of de persoon die ze in het vizier hebben ook echt onder het bevel valt, alsmede de beslissing om het bevel op te volgen of niet, wordt nu weggenomen.

Merk op dat uit onderzoek blijkt dat soldaten in een groot deel van de gevallen expres mis schieten, om op die manier het bevel om iemand te doden te omzeilen. Wat heeft het te betekenen als deze uiterst menselijke neiging buitenspel wordt gezet?

Is het nu 'beter' dat het algoritme een besluit maakt dat voorheen door mensen werd genomen?


2) Tesla heeft een eigen verzekeringsservice, de premie waarvan mede bepaald wordt door de zogenaamde 'Safety Score' van de gebruiker. Deze score wordt door het algoritme vastgesteld, en zou iets moeten zeggen over het vermeende rijgedrag van de bestuurder op basis van gegevens als: hoe vaak remt deze bestuurder, op welk tijdstip begeeft hij zich op de weg. Het algoritme wordt dus gebruikt om te bepalen hoe veilig iemand rijdt! Is een algoritme daartoe in staat?

Je kunt dit voorbeeld gemakkelijk bagatelliseren, ach ja die gekke Elon Musk heeft weer iets verzonnen. Maar misschien is dit wel een inkijkje in de toekomst?

Is het een 'verbetering' dat het algoritme meebepaalt hoeveel verzekeringspremie moet worden afgestaan?


3) Outlook, het mailprogramma van Windows geeft mij sinds kort de mogelijkheid om met een druk op de knop een automatisch antwoord te genereren. De antwoorden die worden voorgesteld zijn specifiek toepasselijk op het bericht waar het een antwoord op is. Krijg ik een verzoek dan suggereert hij: "komt in orde". Rapporteert iemand wat hij gedaan heeft dan suggereert hij: "top, bedankt." Als ik van deze optie gebruik zou maken dan bepaalt het algoritme dus welke woorden in mijn e-mail gaan.

Is het 'beter' als het algoritme de woordkeuze van mijn berichten laat bepalen?


Een ding kunnen we in ieder geval vaststellen: de suggestie dat deze drie voorbeelden een 'verbetering' omhelzen getuigt van een zeer laag mensbeeld. Ja, als de mens die vervangen wordt door een algoritme een volledige idioot zou zijn, ja, dan zou het een verbetering zijn. Maar wat als hij dat niet is? Wat als hij nou juist heel goed wist waar hij mee bezig was?

Als je van mening bent dat wat een goed oordeel is en wat een slecht oordeel, gewoon een kwestie van afspraken is, zoals de regels van een bordspel een kwestie van afspraken zijn, zonder enige weerspiegeling van de werkelijkheid dan praten we over conventies.

Goed en slecht zijn inderdaad geen 'afspiegeling van de werkelijkheid', ze zijn een waardeoordeel over de werkelijkheid.

Bovendien suggereer je voortdurend dat conventies en oordelen van weinig waarde zouden zijn, door je gebruik van het woordje 'gewoon'. Alsof alledaagse dingen omdat ze alledaags zijn daarom minder waarde zouden hebben. Niets is minder waar. Conventies en oordelen komen in alle soorten en maten, sommige zijn onzin, andere behoren tot het hoogste dat de mensheid heeft voortgebracht.

[heeck]

(Bovendien suggereer je voortdurend dat conventies en oordelen van weinig waarde zouden zijn, door je gebruik van het woordje 'gewoon'.)

Alsof alledaagse dingen omdat ze alledaags zijn daarom minder waarde zouden hebben. Niets is minder waar. Conventies en oordelen komen in alle soorten en maten, sommige zijn onzin, andere behoren tot het hoogste dat de mensheid heeft voortgebracht.

Daarmee ben je weer terug bij AF in het morele monopoly-spel.

Hoe bepaal ik en niet te vergeten die ander, de Morele Milieuzone waar ik me wel/niet aan wens te houden, of wordt gehouden.
Geef me op zijn minst 7 van de hoogste die de mensheid heeft voortgebracht en waar die welke effecten hebben.
Al is het maar om niet in jouw lage mensbeeld te verdwalen.

Roeland

[axxyanus]

Als het algortime betere resultaten kan voorleggen dan een persoon, dan is het algoritme de expert.

En dat is dus precies de vraag waar het hier om draait.

Wel dan heb je mij goed beet gehad. Ik meen mij opmerkingen van jou te herinneren die er op neerkwamen dat durven twijfelen dat mensen beter waren als algoritmes neerkwam op mensen als onbetrouwbaar e.d. te beschouwen.

Ik meen zelfs de overpeinzing gelezen te hebben dat als zou blijken dat mensen minder goede besluiten zouden nemen dan algoritmes, we die extra problemen om mensen toch te laten beslissen er maar bij moeten nemen.

En afgaand op uw voorbeelden hieronder blijkt inderdaad voor jou het helemaal niet de vraag te zijn waar het om draait.

Is het beter? Zou het beter kunnen zijn?

Waarom – en op basis waarvan – gelooft men eigenlijk dat het algoritme betere resultaten zou kunnen produceren?

Omdat daar onderzoek naar gedaan is. En dat onderzoek bevestigt dat het mogelijk is dat algoritmes betere resultaten afleveren. Zeker als je protocollen en formules die mensen moeten volgen, bij de algoritmes rekent.

De huidige stand van het onderzoek geeft aan dat in 60% van de gevallen een protocol/formule/algoritme beduidend betere resultaten oplevert dan de resultaten van de adviseurs/experts. [Uit: "Ons feilbaar denken" door Daniel Kahneman]

Is het beter? Zou het beter kunnen zijn?
Drie voorbeelden waarbij we deze vragen kunnen stellen:

Drie voorbeelden waarbij jij de zaak vertroebelt, door van betekenis te wisselen. Daar waar het hier gaat over expertise, dus over beter in een vaardigheid, stel jij in die drie voorbeelden je de vraag naar beter als een ethische vraag.

De vraag of een algoritme beter is dan een mens om uit metingen een betrouwbare voorspelling te doen over het toekomstig aantal auto-ongelukken waar iemand bij betrokken zal raken, is een heel andere vraag of het wel beter is dat we dit soort gegevens gebruiken om verzekeringspremies mee te bepalen.

Als je van mening bent dat wat een goed oordeel is en wat een slecht oordeel, gewoon een kwestie van afspraken is, zoals de regels van een bordspel een kwestie van afspraken zijn, zonder enige weerspiegeling van de werkelijkheid dan praten we over conventies.

Goed en slecht zijn inderdaad geen 'afspiegeling van de werkelijkheid', ze zijn een waardeoordeel over de werkelijkheid.

Alleen als je "goed" en "slecht" in een morele betekenis gebruikt. Niet als je "goed" en "slecht" in een beschrijvende betekenis gebruikt, zoals goed in koken, in de betekenis dat de overgrote meerderheid de maaltijden bereid door die persoon, weet te waarderen.

Bovendien suggereer je voortdurend dat conventies en oordelen van weinig waarde zouden zijn, door je gebruik van het woordje 'gewoon'. Alsof alledaagse dingen omdat ze alledaags zijn daarom minder waarde zouden hebben. Niets is minder waar. Conventies en oordelen komen in alle soorten en maten, sommige zijn onzin, andere behoren tot het hoogste dat de mensheid heeft voortgebracht.

Dat is jouw interpretatie die komt omdat je steeds een morele kijk mengt in feitelijke vragen. Ik gebruik "gewoon" hier in de betekenis van niet onnodige ingewikkeld. Als we gewoon konden afspreken met welke behandelingen we welke ziektes zouden kunnen genezen, dan zou de wetenschappelijke benadering om te bepalen welke behandelingen nu wel of niet werken, onnodig ingewikkeld zijn. Die gewone afspraken zouden heel waardevol zijn, want ze zouden ons heel wat tijd, energie, geld en leed besparen bij het effectief behandelen van allerlei kwalen.

[Peter van Velzen]

De vraag of een algoritme beter is dan een mens om uit metingen een betrouwbare voorspelling te doen over het toekomstig aantal auto-ongelukken waar iemand bij betrokken zal raken, is een heel andere vraag of het wel beter is dat we dit soort gegevens gebruiken om verzekeringspremies mee te bepalen.

Niet zo heel anders. Beide is een kwestie van waarschijnlijkheid, en daarmee in zekere zin een "feitelijke" afweging.
Dit is tegenstelling tot de vraag. Is het moreel aanvaardbaar. om (meer) mensen (meer) kwaad te doen, als we daarmee (meer) geld uitsparen?
Dit is minder makkelijk te beantwoorden door een algoritme. Je zou op het eerste gezicht denken dat het antwoord altijd "nee" zou moeten zijn, maar als dat geld dan niet meer kan worden uitgegeven op honger en dodelijke ziektes mee te bestrijden, dan wordt dat ook weer twijfelachtig.

[axxyanus]

De vraag of een algoritme beter is dan een mens om uit metingen een betrouwbare voorspelling te doen over het toekomstig aantal auto-ongelukken waar iemand bij betrokken zal raken, is een heel andere vraag of het wel beter is dat we dit soort gegevens gebruiken om verzekeringspremies mee te bepalen.

Niet zo heel anders. Beide is een kwestie van waarschijnlijkheid, en daarmee in zekere zin een "feitelijke" afweging.
Dit is tegenstelling tot de vraag. Is het moreel aanvaardbaar. om (meer) mensen (meer) kwaad te doen, als we daarmee (meer) geld uitsparen?

Ik dacht dat uit de context duidelijk was dat die tweede vraag als een ethische vraag moest geïnterpreteerd worden, blijkbaar niet.

Die eerste vraag is ook helemaal geen kwestie van waarschijnlijkheid. Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter. Dat er in de individuele inschattingen waarschijnlijkheden meespelen, maakt het antwoord op de gestelde vraag nog geen kwestie van waarschijnlijkheid. Een dokter die in 95% van de gevallen een juiste diagnose stelt is (op dat vlak) beter dan een dokter die maar in 90% van de gevallen een juiste diagnose stelt.

[TIBERIUS CLAUDIUS]

Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter.

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

[heeck]

Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter.

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

Die naslag geldt nauwelijks bij waarde-oordelen met een emotionele component.

Roeland

[TIBERIUS CLAUDIUS]

Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter.

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

Die naslag geldt nauwelijks bij waarde-oordelen met een emotionele component.

Roeland

Emotie is meestal de oorzaak van verkeerde conclusies.

[heeck]

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

Die naslag geldt nauwelijks bij waarde-oordelen met een emotionele component.

Roeland

Emotie is meestal de oorzaak van verkeerde conclusies.

Jawel. Alleen loopt moraal in dit topic onafgescheiden mee.

Roeland

[TIBERIUS CLAUDIUS]

Jawel. Alleen loopt moraal in dit topic onafgescheiden mee.

Roeland

Moraal en emoties zijn verschillende dingen.
Emotie kan soms de moraal verdringen.

[heeck]

Jawel. Alleen loopt moraal in dit topic onafgescheiden mee.

Roeland

Moraal en emoties zijn verschillende dingen.
Emotie kan soms de moraal verdringen.

Weegt dan zwaarder. En vaak nog terecht ook. Inderdaad.

Roeland

[axxyanus]

Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter.

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

Dat lijken mij op dit moment onbelangrijke details. Waar het om gaat is dat je besluit-actoren met elkaar kan vergelijken en dat hoewel de besluiten zelf een waarschijnlijkheidskarakter hebben, dat niet hoeft te betekenen dat wie van de actoren beter is in het komen tot een juist besluit, ook een waarschijnlijkheidskarakter heeft.

[TIBERIUS CLAUDIUS]

Als persoon A een bepaald soort situaties in 70% van de gevallen goed inschat en persoon B schat in dat soort gevallen de situatie maar in 60% van de gevallen goed in, dan is persoon A beter.

Dat is niet zeker.
Bekijk hiervoor:
1. fouten van de eerste soort.
2. fouten van de tweede soort.
onder statistiek van de Hypothese rekening.

Dat lijken mij op dit moment onbelangrijke details. Waar het om gaat is dat je besluit-actoren met elkaar kan vergelijken en dat hoewel de besluiten zelf een waarschijnlijkheidskarakter hebben, dat niet hoeft te betekenen dat wie van de actoren beter is in het komen tot een juist besluit, ook een waarschijnlijkheidskarakter heeft.

Toch laat zich je voorbeeld wel aanvullen waardoor de kans dat op deze manier er fout wordt gekozen vrij groot is.
Vooral als het aantal trekkingen n vrij klein is, bijvoorbeeld maar n=10.

Natuurlijk wordt de kans op een verkeerde beslissing heel klein als n=1000.