De Na-aap is geen machine.

[Peter van Velzen]

Uit een paralelle discussie. Een vraag en een antwoord, die - wellicht onbedoelt - een interessante gedachte opriepen.

"Wat is er belangrijk aan om te beseffen dat iets zich wel of niet zou functioneren als een (uiterst gecompliceerde) machinerie?"

Ik weet niet of dat belangrijk is. Wat ik belangrijk vind is dat machines een schepper hebben en na-apen niet. Die schepper heeft een doel voor ogen gehad, en derhalve facetten ingebouwd, die er voor zorgen dat de machine aan dat doel beantwoort. Als dat doel er niet is, en dus ook die voorzieningen niet, functioneert de entiteit uiteraard anders. Na-apen vertonen doorgaans een veel veelzijdiger gedrag dan machines. Ze staan lang niet altijd te wachten totdat hun heer en meester de aan/uit knop aanraakt. Waarschijnlijk zullen ook de machines die de na-aap maakt in de toekomst veelzijdiger gedrag gaan vertonen en enigermate zelfstandig opereren, maar uitsluitend als de na-aap dit wil. En geloof mij: De na-aap zal altijd facetten inbouwen die garanderen dat de machine doet wat ie (van de na-aap) moet doen. Ik verwacht eigenlijk, dat er altijd wel een "knop" aan zal zitten die de na-aap kan bedienen.

Dank je voor het veroorzaken van dit idee. De voornaamste reden om bij het zien van een horloge, een horlogemaker te veronderstellen, is het feit dat er bedieningsknoppen aanzitten. Waarom heb ik die opmerking nog nergens gelezen?

[siger]

Ik heb een hekel aan dat zwalpen tussen vis en vlees. Make up your mind. We leven in onze wereld, en dat is er een van verandering, keuzes maken, dingen doen. Niet met in het achterhoofd dat we dat maar wat spelen, maar in het volle besef dat het er op aan komt in het leven van ons, mensen.

Je geeft hier een pleidooi voor pragmatisme en verbind dit naar een tak van wetenschap, of in ieder geval een niet traditionele verklaringsmethodiek, waarvan de wiskunde voor een handjevol mensen is weggelegd.

Ik weet niet of we mekaar goed begrijpen. Mijn pleidooi is er een voor de solide realiteit van het dagelijks leven van om het even wie. "In onze wereld leven" is wat we normaal, terecht, aantoonbaar doen. Ook neurologen. Daarvan vertrekkend kan wetenschap allerlei trachten te begrijpen en te verhelpen, maar de bewering "ons dagelijks leven is slechts een illusie" is gratis kwak, steunt op niets en klopt nergens mee (tenzij voor illusionisten in de trant van yakkers die beweren dat de prehistorie een illusie is.)

[siger]

"Wat is er belangrijk aan om te beseffen dat iets zich wel of niet zou functioneren als een (uiterst gecompliceerde) machinerie?"

Ik weet niet of dat belangrijk is.

Het is ook helemaal niet belangrijk. Het zijn net de illusionisten die daar al jaren een halszaak van maken:

Als jij vindt dat je geen robot bent gedraag je je als een creationist die niet bij de apen wil horen...

Wél belangrijk is - en daar gaat menigeen de fout in - is of we mensen (zoals we die vandaag kennen) mogen behandelen alsof ze robotten (zoals we die vandaag kennen) zijn.

Dat onderscheid toonde Bob elders mooi aan met een simpele vraag: "is het moreel aanvaardbaar robotten te bouwen die volledig menselijk zijn, om ze dingen te laten doen (vb ontmijning) die we niet door mensen willen laten doen omwille van het risico?".

[heeck]

Juist,
Het gaat om de vrees dat we zeer gecompliceerde biorobots die we mens of aap noemen zouden behandelen als andere biorobots die we insecten noemen.
Het zit hem niet in het machinale.
Zie voor legio toelichtingen "the atheïst en de Bonobo" en vanzelf Peter Singer.
Roeland

[Blues-Bob]

Roeland,
Graag expliciteren:
Wat zit hem niet in het machinale? Ik neem aan dat je niet moraliteit bedoelt? Want waar zit moraliteit dan in (als ik zo vrij mag zijn daar verder over na te denken)? Als menschen "vleeschelijke" machines zijn, en die moraliteit niet in het machinale zit, zijn mensen dan in potentie morele wezens, of sluit dat elkaar uit?

Of zit moraliteit hem in functioneren? Of is moreel handelen een illusie?

Groet,

Bob
Edit: Laat ik erbij ook vermelden dat "biorobotica" bij mijn weten vooral doelgericht toegepast en onderzocht wordt. Wat, indien ik goed geinformeerd ben, de topicstarter feitelijk in het gelijk stelt. Geschapen zijn voor een bepaald doel, weegspiegelt het doel in de gebruikte robotica, "biorobotica" of "robotrobotica". Waarbij we weer terug zijn bij mijns inziens interessante vragen: "wat is het nut van het vervaardigen van mensen, als we mensen op een veel leukere manier kunnen voortbrengen? en "Als we mensen gaat voortbrengen (en in lijn daarvan verder ontwikkelen, al dan niet met behulp van opvoeding) met een bepaald voorafbepaald doel (bijvoorbeeld ontmijning), hoe moreel is dat?" Dat is de vraag naar wat het bekijken van menschen, in alle onderzoeksgebieden én alle samenlevingsdisciplines, als zijnde machines. Laten we vooral uit blijven steunen dat het individu geen voorbestemd doel heeft, noch een van buitenaf bepaald doel. Doelmatigheid van de mensch, mier, of marsmannetjes, komt voort uit individuen (die bijvoorbeeld doelgerichte immitatie (doelgerichte immitatietheorie) en/of simulatie (simulatie theorie) kennen). Daarbij zijn individuele levende wezens, adaptieve systemen, die zich aanpassen aan de omgeving, al-dan-niet door de omgeving aan te passen.

[Peter van Velzen]

Juist,
Het gaat om de vrees dat we zeer gecompliceerde biorobots die we mens of aap noemen zouden behandelen als andere biorobots die we insecten noemen.
Het zit hem niet in het machinale.
Zie voor legio toelichtingen "the atheïst en de Bonobo" en vanzelf Peter Singer.
Roeland

Ik blijf van mening dat je het ware kenmerk van machines maar niet wil zien en nog steeds denkt dat je van machines kunt spreken zonder dat er een ontwerper, bouwer of eigenaar is. Zelfs een Robot (Rabotnik=Arbeider) heeft een baas. De na-aap is eigen baas, en zo hoort het ook!

[axxyanus]

Juist,
Het gaat om de vrees dat we zeer gecompliceerde biorobots die we mens of aap noemen zouden behandelen als andere biorobots die we insecten noemen.
Het zit hem niet in het machinale.
Zie voor legio toelichtingen "the atheïst en de Bonobo" en vanzelf Peter Singer.
Roeland

Ik blijf van mening dat je het ware kenmerk van machines maar niet wil zien en nog steeds denkt dat je van machines kunt spreken zonder dat er een ontwerper, bouwer of eigenaar is.

Ik vind het eigenaardig als je over ware kenmerken spreekt bij zaken die op mij helemaal niet als kenmerk overkomen. Een eigenaar hebben is geen kenmerk, dat is een wettelijke toestand. Toen de slavernij werd afgeschaft veranderde er niets waarlijks aan de mensen die daardoor hun vrijheid verkregen.

Een bouwer hebben of ontwerper zegt enkel iets over de oorsprong van iets maar niets over kenmerken. Stel dat we ooit een robot bouwen die wat zijn gedrag betreft men niet van mensen kan onderscheiden. Waarom zouden we die dan niet als zijn eigen baas beschouwen? Ik zie niet in waarom het feit dat hij ontworpen is, daarin zoveel verschil zou mogen maken.

[siger]

Ik begrijp niet wat Peter Singer hier komt doen. Kort gezegd bepleit Singer dat de scheiding tussen een dolfijn en een vlieg belangrijker is dan de scheiding tussen mens en andere aap. Maar hij gelooft wel in de scheiding(en).

Het is onvoorstelbaar vermoeiend dat men blijft trachten een automaat gelijk te stellen aan een mens.

Is hier feitelijk iemand die gelooft dat mensen buiten de natuur vallen of bovennatuurlijke ingrediënten bevat? Nee toch?

Is hier iemand die mijn automatische waterpomp mensenrechten wil toekennen? Nee toch?

[axxyanus]

Het is onvoorstelbaar vermoeiend dat men blijft trachten een automaat gelijk te stellen aan een mens.

Op welke manier doet men dat dan? Ik heb hier niemand gezien die de huidige automaten gelijk stelt aan een mens. Wat ik wel gezien heb en wat ik ook doe, is de principiële scheiding die sommigen lijken te willen maken tussen een automaat en een mens in vraag te stellen.

Is hier feitelijk iemand die gelooft dat mensen buiten de natuur vallen of bovennatuurlijke ingrediënten bevat? Nee toch?

Ik zou daar niet te zeker van zijn. Het gebeurt regelmatig genoeg dat ik met iemand in gesprek raak, die langs de ene kant de mens volledig als een natuurlijk product beschrijft maar langs de andere kant zich heel ongemakkelijk voelt als je naar de toekomst toe de mogelijkheid van machines met menselijke trekjes aankaart. Blijkbaar bestaat er bij sommige mensen nog steeds een emotionele behoefte om als mens op een of andere manier speciaal te zijn die voor automaten onbereikbaar is ook al zullen ze rationeel beamen dat daar geen reden voor is.

[siger]

Het is onvoorstelbaar vermoeiend dat men blijft trachten een automaat gelijk te stellen aan een mens.

Op welke manier doet men dat dan? Ik heb hier niemand gezien die de huidige automaten gelijk stelt aan een mens. Wat ik wel gezien heb en wat ik ook doe, is de principiële scheiding die sommigen lijken te willen maken tussen een automaat en een mens in vraag te stellen.

Dus je stelt niet de scheiding tussen mensen en automaten in vraag, maar wel de principiële scheiding. Wat bedoel je met "principieel"?

Is hier feitelijk iemand die gelooft dat mensen buiten de natuur vallen of bovennatuurlijke ingrediënten bevat? Nee toch?

Ik zou daar niet te zeker van zijn. Het gebeurt regelmatig genoeg dat ik met iemand in gesprek raak...

Maar laten we het even bij dit gesprek houden. Geloof je hier in gesprek te zijn met iemand die denkt dat mensen buiten de natuur vallen?

[axxyanus]

Het is onvoorstelbaar vermoeiend dat men blijft trachten een automaat gelijk te stellen aan een mens.

Op welke manier doet men dat dan? Ik heb hier niemand gezien die de huidige automaten gelijk stelt aan een mens. Wat ik wel gezien heb en wat ik ook doe, is de principiële scheiding die sommigen lijken te willen maken tussen een automaat en een mens in vraag te stellen.

Dus je stelt niet de scheiding tussen mensen en automaten in vraag, maar wel de principiële scheiding. Wat bedoel je met "principieel"?

Wat ik bedoel is dat er geen theoretische beperkingen bestaan die het onmogelijk maken dat er ooit (kunstmatige) automaten zullen bestaan waarvoor het redelijk is ze gelijk te stellen aan mensen.

Is hier feitelijk iemand die gelooft dat mensen buiten de natuur vallen of bovennatuurlijke ingrediënten bevat? Nee toch?

Ik zou daar niet te zeker van zijn. Het gebeurt regelmatig genoeg dat ik met iemand in gesprek raak...

Maar laten we het even bij dit gesprek houden. Geloof je hier in gesprek te zijn met iemand die denkt dat mensen buiten de natuur vallen?

Ik zou het eerlijk gezegd op dit moment niet weten.

[siger]

Wat ik bedoel is dat er geen theoretische beperkingen bestaan die het onmogelijk maken dat er ooit (kunstmatige) automaten zullen bestaan waarvoor het redelijk is ze gelijk te stellen aan mensen.

Met die formulering kan ik instemmen, maar ik denk dat ze het probleem alleen maar verschuift.
Immers, alle vragen die we vandaag over mensen hebben, zullen we daarna ook automatisch (!) over die automaten hebben.

[Blues-Bob]

Wat ik bedoel is dat er geen theoretische beperkingen bestaan die het onmogelijk maken dat er ooit (kunstmatige) automaten zullen bestaan waarvoor het redelijk is ze gelijk te stellen aan mensen.

Dat is geen punt. Maar de rethoriek dat dit nu al implicaties heeft op ons dagelijks leven, is iets waartegen ik ageer, en als we het hebben over gesprekken in het dagelijkse leven, geef een voorbeeld van een discussie waar wij tegenover elkaar hebben gestaan, en ik geef je aan waar je jezelf van die rethoriek hebt bedient, of op zijn minst de suggestie bij mij gewekt hebt dat het voor het hedendaagse implicaties heeft. Wat je hierboven stelt is volgens mij een gevalletje wie dan leeft, wie dan zorgt. Tot nu toe zijn de ontwikkelaar en de gebruiker van apparatuur verantwoordelijk voor de gevolgen van het gebruk van de apparaten. Zo ook de ontwikkelaars en gebruikers van de eerste mensgelijwaardige apparaten. Pas na de ontwikkeling wordt de mensgelijkwaardige apparaat verantwoordelijk voor zichzelf, maar dat is logisch want op dat moment is het mensgelijkwaardig (maw, zoals Siger verduidelijkte, dezelfde problemen gelden dan voor het kunstmatige apparaat).

Groet,

Bob

[Peter van Velzen]

Juist,
Het gaat om de vrees dat we zeer gecompliceerde biorobots die we mens of aap noemen zouden behandelen als andere biorobots die we insecten noemen.
Het zit hem niet in het machinale.
Zie voor legio toelichtingen "the atheïst en de Bonobo" en vanzelf Peter Singer.
Roeland

Ik blijf van mening dat je het ware kenmerk van machines maar niet wil zien en nog steeds denkt dat je van machines kunt spreken zonder dat er een ontwerper, bouwer of eigenaar is.

Ik vind het eigenaardig als je over ware kenmerken spreekt bij zaken die op mij helemaal niet als kenmerk overkomen. Een eigenaar hebben is geen kenmerk, dat is een wettelijke toestand. Toen de slavernij werd afgeschaft veranderde er niets waarlijks aan de mensen die daardoor hun vrijheid verkregen.

Een bouwer hebben of ontwerper zegt enkel iets over de oorsprong van iets maar niets over kenmerken. Stel dat we ooit een robot bouwen die wat zijn gedrag betreft men niet van mensen kan onderscheiden. Waarom zouden we die dan niet als zijn eigen baas beschouwen? Ik zie niet in waarom het feit dat hij ontworpen is, daarin zoveel verschil zou mogen maken.

Dus als we de wet aanpassen, dan gaat mijn "bevrijde" laptop verder zijn eigen gang en gaat hij van zijn vrijheid genieten?

Ik had natuurlijk niet "eigenaar" moeten schrijven, maar "gebruiker". Het is evident, dat mijn laptop niet op eigen houtje op freethinker.nl gaat posten, maar dat er iemand achter de knoppen moet zitten.
De oorsprong en de kenmerken zijn niet onafhankeljjk van elkaar. Wat evolueert heeft noodzakelijkerwijs vrijwel altijd kenmerken die reproductie mogelijk maken. Wat is ontworpen heeft normalitier het kenmerk, dat het vooral het doel dient dat de ontwerper er voor heeft bedacht. dat kopien alleen kunnen worden vervaardigd door een - sterk van het ontworpene verschillende - bouwer, en dat het alleen iets doet als de gebruiker dat wil.

Je kunt een levend wezen natuurlijk best met een machine vergelijken, maar dan moet je niet je ogen sluiten voor de verschillen! Een levend wezen (inclusief de genen) vormt een doel op zich. Een machine geenzins. Een machine dient de doeleinden van de ontwerper en de gebruiker.

Het is omdat de ontwerper en de gebruiker dit niet willen, dat een machine nooit zijn eigen baas KAN zijn. De faciliteiten daarvoor zullen echt niet zo gauw worden ingebouwd.
Uiteraard bieden resultaten uit het verleden geen garanties voor de toekomst, maar de waarschijnlijkheid dat we machines gaan bouwen die niet doen wat wij willen, is mijns inziens niet zo groot.

We zijn toch niet gek?

[Peter van Velzen]

Wat ik bedoel is dat er geen theoretische beperkingen bestaan die het onmogelijk maken dat er ooit (kunstmatige) automaten zullen bestaan waarvoor het redelijk is ze gelijk te stellen aan mensen.

Je hebt natuurlijk gelijk als je stelt dat het in theorie mogelijk zou zijn, een kunstaap te bouwen, die dezelfde gedragsmogelijkheden heeft als de na-aap. Of het praktisch mogelijk is, weet ik niet, maar veel belangrijker lijkt me of we dat zouden willen. Het gaat namelijk niet vanzelf gebeuren.

Wellicht zijn er in de toekomst mensen die behoefte hebben aan namaak-mensen, maar ik zie niet in waarom, waar we immers al - meer dan - genoeg echte mensen op de wereld hebben rondlopen?
Het meest waarschijnlijke scenario dat ik kan bedenken is dat we nanobots gaan bouwen die zichzelf reproduceren teneinde daarmee ruimte-onderzoek te verrichten. Dat gaat immers met bologische wezen niet zo gauw lukken.

Maar zelfs dan vraag ik me af of we geen voorzieningen in zouden bouwen om die dingen onder controle te houden, waardoor het fundamentele verschil tussen macine en leven wezen toch in tact blijft. (machines doen vrijwel altijd wat wij willen, levende wezens doorgaans niet)