De Na-aap is geen machine.

[heeck]

In Kinds of Minds (02) stelt Dennet dat ook Virussen machines zijn. Ik ben het niet met hem eens. In tegenstelling tot Machines hebben Virussen geen ontwerper noch een eigenaar/gebruiker. Dus voldoen ze niet aan mjn vereisten om een machine te zijn. Ook doen ze vrijwel niets, waar (functionerende) machines wel degelijk wat doen. Ze worden slechts door de cellen waarin ze terecht komen, de dupliceerd. Het zijn in feite zwervende recepten, en niemand zou een recept een machine noemen, zelfs niet als het een recept was voor hoe je recepten moet maken. Het is uiteraard mogelijk dat de eerste virussen wel degelijk zonder gastheer tot zelfreproductie in staat waren. Uit hetvervolg van zijn uiteenzetting blijkt het wel degelijk zinvol is ze te onderscheiden van dingen die een zenuwstelsel hebben. Biomechanismen bestaan wel degelijk. Ook al heeft niemand ze bedacht, en is er niemand de baas over.

Nieuwe inzichten vragen nieuwe en/of gevoeliger scheidslijnen.
Je bent helder te volgen, maar in wat voor omstandigheden doet het er echt toe of het om het een dan wel toch het ander gaat?

Associatie zonder bewijskracht:
"Dood weerwerk" door Hotz, over de hollandse waterlinie die klaar was toen de werkelijkheiod alweer verder was:

De bouw nam geruime tijd in beslag. Het gehele complex van sluizen, forten en andere werken dat in 1815 was gepland werd pas omstreeks 1870 voltooid. In de jaren daarna zou er, vooral onder invloed van technische ontwikkelingen op het gebied van geschut en munitie, nog voortdurend aan de forten verbouwd worden, en wel tot aan de mobilisatie van 1939.

Hoewel de forten de meest "zichtbare" onderdelen van de waterlinie waren, was de werking van de linie vooral afhankelijk van de samenhang tussen de diverse onderdelen. Een klein sluisje of dijkje kon een essentieel onderdeel zijn, omdat het moest zorgen voor het exact reguleren van het inundatiepeil.

Roeland

[Peter van Velzen]

Nieuwe inzichten vragen nieuwe en/of gevoeliger scheidslijnen.
Je bent helder te volgen, maar in wat voor omstandigheden doet het er echt toe of het om het een dan wel toch het ander gaat?

Dat is een interessante vraag, Ze roept echter nog een andere vraag bij me op. In welke gevallen is er een duidelijke scheidslijn?
De meeste eigenschappen die wij verzinnen zijn soms in zeer geringe mate aanwezig en soms in zeer sterke mate. Wat pas zeldzaam is een eigenschap die totaal afwezig is of voor de vollle 100% aanwezig is. Nieuwe inzichten kunnen op gevoeliger scheidslijnen vragen, dat wil niet zeggen dat we ze ook altijd kunnen vinden.

Zo is het bij sommige machines niet zo duidelik dat zij een ontwerper of eigenaar hebben, en bij sommige apen zo dat ze wel degelijk slaaf van een meesteer zijn.

[Petra]

Nieuwe inzichten vragen nieuwe en/of gevoeliger scheidslijnen.
Je bent helder te volgen, maar in wat voor omstandigheden doet het er echt toe of het om het een dan wel toch het ander gaat?

Dat is een interessante vraag, Ze roept echter nog een andere vraag bij me op. In welke gevallen is er een duidelijke scheidslijn?

JA het doet ertoe. Blijkbaar is die scheidslijn voor voor verschillende mensen .. verschillend!
(Dat zegt al wat, want dat krijgt een machine zelf niet bedacht).

Ik heb Dennett ook gezien. Part 1 en 2. Jammer dat ik drie niet kan vinden, daarin vervolgt hij het verhaal en daar was ik wel benieuwd naar.

Physical Stance
Part 2: 19:50 For things that are neither alive nor artifacts the physical stance is sufficient.
Do not attribute believes ands desires to stone.


Design stance
alarmclock, artifacts; if I do this, the clock will do that.
Extra assumptie dat 't ding doet waar t voor gemaakt is. (Ook zoals een zaadje in de grond groeit).

Intentional stance
subspecies of design stance. En dan gooit ie z'n stelling naar binnen:

Here is how it works: first you decide to treat the object whose behavior is to be predicted as a rational agent; then you figure out what beliefs that agent ought to have, given its place in the world and its purpose. Then you figure out what desires it ought to have, on the same considerations, and finally you predict that this rational agent will act to further its goals in the light of its beliefs. A little practical reasoning from the chosen set of beliefs and desires will in most instances yield a decision about what the agent ought to do; that is what you predict the agent will do.



Die schaakcomputer en alarmclock zijn IMO design stance.
De design van een alarmklok is alarmklok. De design van een schaakcomputer is een tikje gecompliceerder maar toch.… schaakcomputer! Het zijn dingen die sec doen waar ze voor gemaakt zijn. En bij goed functioneren heel prima voorspelbaar zijn.

Om ze tot intentional om te toveren beweert ie dat een alarmklok goals & needs heeft en desires & believes. Dat zijn wel heel ruime opvattingen van die begrippen. Doet me denken aan het gesprek met mijn koffiezetapparaat.
Machines… hebben maar 1 ding. En dat zijn goals. Die hebben ze omdat iets of iemand anders dat er bewust en met een bepaald doel ingestopt heeft in de vorm van een programma/algoritme.


Wil ie het wat complexere systemen persé met hele ruime opvatting van begrippen een extra stance toekennen, dat kan...
Dus ja hoor prima.. dan is Dennetts intentional stance een laag onder de design stance, (die alarmklok/koffiezetapparaat dan ook)
MAARRRRRRR...
Of hij stopt te vroeg. Dan had ie van mij ook mogen stoppen bij physical of design stance, want hé we vallen toch allemaal onder de natuurwetten.
OF hij categoriseert niet goed; hij vergeet namelijk compleet de factor: gevoel. En laten wij nou net gevoelswezens zijn.

*Hij gooit levenloze en gevoelloze 100% rationele en voorspelbare voorwerpen op één hoop met levende voelende irrationele en daardoor onvoorspelbare wezens.

Voor levende wezens met gevoel en een eigen wil/wens/verlangen moet er dus nog een stance bij.
En mij maakt het niet uit hoor, hoe het genoemd wordt. Ik vind Phenomenal of Personal beide prima!

https://en.wikipedia.org/wiki/Intentional_stance
Phenomenal stance

Robbins and Jack argue for an additional stance beyond the three that Dennett outlined. They call it the phenomenal stance: Attributing consciousness, emotions, and inner experience to a mind. The explanatory gap of the hard problem of consciousness illustrates this tendency of people to see phenomenal experience as different from physical processes. The authors suggest that psychopathy may represent a deficit in the phenomenal but not intentional stance, while people with autism appear to have intact moral sensibilities, just not mind-reading abilities. These examples suggest a double dissociation between the intentional and phenomenal stances.[38][41]

Personal Stance
In 1971, Dennett also postulated that, whilst "the intentional stance presupposes neither lower stance", there may well be a fourth, higher level: a "truly moral stance toward the system" – the "personal stance" – which not only "presupposes the intentional stance" (viz., treats the system as rational) but also "views it as a person".

*

and, driven by the reasonable assumption that all humans are rational beings

Dennetts aanname klopt niet. We zijn helemaal niet zo rationeel. We zijn gevoelswezens, zie Gevoel versus Logica & Rationaliteit

[Petra]

De mens is geen machine maar een specifiek soort dier en machines en andere dieren zijn geen mensen. Zo simpel is het.

Wat Dennett doet is dieren en machines menselijke eigenschappen toekennen. (Goals/needs/beliefs/desires). Alleen gevoel zag ik er niet bij. Maar wie weet frummelt ie die er ook nog 's bij.

Het is iets heel menselijks en het heeft een naam: Anthropomorphism.

IKKE ben het wat dit betreft heel erg eens met Homo Roboticus!
Machines/robots zijn GEEN mensen, en dát moeten we heel sterk (blijven) onderscheiden.

[Peter van Velzen]

Ik heb Dennett ook gezien. Part 1 en 2. Jammer dat ik drie niet kan vinden, daarin vervolgt hij het verhaal en daar was ik wel benieuwd naar.

Meestal is het een kwestie van het betreffende you-tube kanaal aanklikken en vervolgens videos of afspeellijsten.
In het geval van Dennet heb ik direct al de afspeellijst in beeld. Dat moet jou toch ook lukken

Die schaakcomputer en alarmclock zijn IMO design stance.
De design van een alarmklok is alarmklok. De design van een schaakcomputer is een tikje gecompliceerder maar toch.… schaakcomputer! Het zijn dingen die sec doen waar ze voor gemaakt zijn. En bij goed functioneren heel prima voorspelbaar zijn.

Om ze tot intentional om te toveren beweert ie dat een alarmklok goals & needs heeft en desires & believes. Dat zijn wel heel ruime opvattingen van die begrippen. Doet me denken aan het gesprek met mijn koffiezetapparaat.
Machines… hebben maar 1 ding. En dat zijn goals. Die hebben ze omdat iets of iemand anders dat er bewust en met een bepaald doel ingestopt heeft in de vorm van een programma/algoritme.

In het geval van de schaakcomputer is het aanzienlijk simpeler te veronderstellen dat de machine tracht de schaakpartij te winnen. Dat hoeft overigens niet altijd het geval te zijn. Het is ook mogelijk dat het programma alleen tracht om een stelling bereiken die een hogere score krijgt toebedeeld op grond van bepaalde kenmerken, Zo was er ooit een programma dat Consequent na liet om mat te geven, maar welzodanig dat mat op de eerstvolgende zet altijd mogelijk was. Maar in het algemeen is het wel zo handig om het programma te baseren op de regel dat het - waar mogelijk - mat geeft.

OF hij categoriseert niet goed; hij vergeet namelijk compleet de factor: gevoel. En laten wij nou net gevoelswezens zijn.

*Hij gooit levenloze en gevoelloze 100% rationele en voorspelbare voorwerpen op één hoop met levende voelende irrationele en daardoor onvoorspelbare wezens.

Je vergist je als je denkt dat gevoelens ons onvoorspelbaarder maken, In tegendeel. Het gedrag van iemand die overmand wordt door zijn of haar gevoelens is uiterst voorspelbaar. In zekere zin is onze intentie vaak niet anders dan een poging om onze megatieve gevoelens kwijt te raken en meer positieve gevoelens te verkrijgen. Een vierde "stance" lijkt mij daarmee overbodig. In feite is intentionaliteit bij dieren ALTIJD gebasserd op gevoelens. Dat is wel een verschil met AI. De laatste werkt meestal het beste als men geen poging doet om gevoelens te programmeren. Het is zelfs maar de vraag of we dat überhaupt kunnen. Hoe programmeer je, angst, opwinding of vreugde?

Wederom komt het beoordelen van de stelling door een schaakcomputer om de hoek kijken, Je zou dat stellingsoordeel kunnen beschouwen als een gevoel dat het programma drijft. Maar om het gevoelsleven van een zoogdier te emuleren zijn veel meer metertjes nodig. Het gewicht van al die verschillende metertjes tegen elkaar afwegen lijkt mij een lastige zaak. Wellcht is de enige oplossing hiervoor meerdere algoritmes te hebben, en op grond van het eindresulaat voort te bouwen op die algoritmes welke tot de beste resultaten hebben geleid, In zekere zin simuleer je dan "survival of the fittest".

Ergo: We kunnen het wel, maar het vereist dat we afstappen van een vast ontwerp(design) en in plaats daarvan een evolutionair proces volgen.

[Petra]

Je vergist je als je denkt dat gevoelens ons onvoorspelbaarder maken, In tegendeel. Het gedrag van iemand die overmand wordt door zijn of haar gevoelens is uiterst voorspelbaar.

Het is idd wel wat kort gesteld.
Overigens is het een feit dat wij (mensen) vnl op gevoel reageren.(Zie Damasio, Eagleman, Seung).
Al dan niet overmand of overvrouwd zijn staat daar los van.

Er is een groot verschil tussen algoritmes die 100% voorspelbaar zijn omdat ze doen wat je programmeert, (een schaakprogramma gaat niet opeens koffie zetten en komt ook niet op dat idee) en mensen die allemaal hun eigen unieke manier reageren. Dat is de onvoorspelbaarheid en het verschil wat ik bedoelde aan te geven.

Of een vierde stance overbodig is of niet, maakt mij niet uit. Als we maar duidelijk hebben dat er verschil is.
Een alarmklok en schaakcomputer e.d. vallen m.i. prima onder de door hem zo genoemde design stance. (Die doen immers wat hun programma aangeeft wat ze moeten doen).

Wederom komt het beoordelen van de stelling door een schaakcomputer om de hoek kijken, Je zou dat stellingsoordeel kunnen beschouwen als een gevoel dat het programma drijft

Het is het design van het algoritme wat de schaakcomputer drijft. Om dat nou ..Goals/needs/beliefs/desires te noemen is, zoals ik al eerder zei een gevalletje Antropomorfisme. Heel menselijk, dat wel! Ik denk dat Dennett toegevoegd kan worden aan deze wiki als toonbeeld Antromorfist.

Antropomorfisme is het toekennen van menselijke eigenschappen aan niet-menselijke wezens: het tonen of behandelen van dieren, goden en voorwerpen alsof ze menselijk zijn qua uiterlijk, karakter of gedrag. Het is een samenstelling van de Griekse woorden voor 'mens' (ἄνϑρωπος / ánthrōpos) en 'gedaante' (μορφή / morphē): "van menselijke gedaante". In de moderne wetenschap wordt er meestal van uitgegaan dat deze manier van denken onjuist is.

P.S.
Hebbes! Weird dat ik het niet kon vinden, die vervolgdelen.

[Petra]

Ik 'kreeg' deze van Dennett in m'n vervolglijst.
Dennett explains consciousness & free will.

In het begin legt ie uit dat de mens denkt zo bijzonder te zijn maar dat helemaal niet is. We zijn erg bang volgens hem om.. nououou noem maar op, waar jullie allemaal bang voor zijn.
Het zal wel. Ik voel me i.i.g. helemaal niet aangesproken. Daarom haal ik er ook graag hedendaagse neuroscientists bij en niet enkel filosofen. Want hé, laten we niet vergeten dat Dennett een filosoof is, die flink gespecialiseerd is, maar net als ik en wij allen z’n oren wijd open moet zetten voor de hedendaagse neuroscientists in dit veld. Zoals bijv. Eagleman (Brein) en Seung (Connectome) die ik hier al meerdere malen genoemd heb.
Dennett is zelf blijkbaar nogal bang om die vrije wil los te laten, mij wat te ouderwets maar wie weet ziet ie ook dat licht nog ’s.

Inhoudelijk kan ik me prima vinden in Dennett! Hij loopt nog wat achter, qua vrije wil als illusie en dat dat prima kan werken, ook in een rechtssysteem. Maar verder.. helemaal fijn hoor! Ik hoor hem dan ook vooral verkondigen wat ik zelf al die tijd al predik.

Nou let ik erg goed op. En hoor dus niet alleen wat mensen graag of minder graag willen horen, maar hoor ELK woord!
Dus OOK:
4:50 … It’s that power that we have that sets us aside from any other species.
Hoor ik dat goed? Mag ik ff lachen Ben ik nou opeens gifted met een power die me anders maakt dan ELKE andere soort!!!

5:40 WE (jawel, wij de mens) don’t just act for reasons, we act for reasons we consciously represent to ourselves. This is what gives us the power and the obligation to think ahead, to anticipate, to see the consequences of our actions, to be able to evaluate those consequences in the light of what other people tell us.
To share our wisdom with each other. NO other species can do anything like it. (HALLOOOO!!!! )

Because we can share our wisdom WE have a SPECIAL responsibility. (Kijk aan… we zijn niet speciaal hoor, maar hebben wél een speciale verantwoordelijkheid, ja zo kun je het ook zeggen ).
Noblesse Oblige; WE HAVE THE POWER, and that gives us the obligation. That’s what makes us FREE In a way that no bird is free for instance.

WE have the power…jawel hoor. En dat maakt ons anders dan ELKE andere soort, zegt ie. Dat maakt ons vrijer dan bv. een vogel!
Maar dan zeker wel 100% vergelijkbaar als ie z’n intentional stance bespreekt en dán zelfs ook met een alarmklok of schaakcomputer ; de grapjas!

[Peter van Velzen]

Of een vierde stance overbodig is of niet, maakt mij niet uit. Als we maar duidelijk hebben dat er verschil is.
Een alarmklok en schaakcomputer e.d. vallen m.i. prima onder de door hem zo genoemde design stance. (Die doen immers wat hun programma aangeeft wat ze moeten doen).

Dat is te simpel gedacht. Met name het programma Apha-Zero is niet zodanig ontworpen dat het duidelijk is wat het zou moeten doen. Behalve dan proberen te winnen. Het is met die intentie ontworpen! Ontkennen dat ze die intentie heeft is het ontkennen van het ontwerp.

Het is niet omdat ik het programma met een mens vergelijk dat ik tot die conclusie kom, maar omdat haar gedrag zonder die intentie helemaal niet verklaard kan worden. Jij mag denken dat ik Antropomorphisch denk, maar ik denk dat jij de mens in dit opzicht ontrecht onderscheidt van het computerprogramma. Wel is het zo dat een mens veel meer intenties heeft dan het winnen van een schaakpartij, maar onze intenties zijn niet wezenlijk anders.

Een wezenlijk verschil blijft dat niemand onze intenties ontworpen heeft. Bij het programma is dat wel het geval. Als zodanig is de omtwerp-stance daar wel degelijk juist. Dat sluit echter niet uit dat er een intentie is ontworpen. En op grond daarvan is de intentional stance beter in staat haar gedrag te verklaren dan de ontwerp-stance.

Ingeval van het gedrag van dieren wordt het gedrag mede bepaalt door het voortplantings-succes. Maar ook in dat geval is de intentional-stance vaak het succesvoller verklaringsmodel. Met name bij (na-)apen.

[Petra]

Goed blijven lezen Peter!
Zodat je ook mijn gedachten en intenties goed oppikt, ik noemde intentie toekennen geen antropomorfisme hoor!

Of een vierde stance overbodig is of niet, maakt mij niet uit. Als we maar duidelijk hebben dat er verschil is.
Een alarmklok en schaakcomputer e.d. vallen m.i. prima onder de door hem zo genoemde design stance. (Die doen immers wat hun programma aangeeft wat ze moeten doen).

Dat is te simpel gedacht. Met name het programma Apha-Zero is niet zodanig ontworpen dat het duidelijk is wat het zou moeten doen. Behalve dan proberen te winnen. Het is met die intentie ontworpen! Ontkennen dat ze die intentie heeft is het ontkennen van het ontwerp.

Zoals ik ook schreef, een programma heeft een goal (doel) en dat is wat wij (de ontwerper) er in gestopt hebben. Winnen bijvoorbeeld is een goal.
Noem dat goal een intentie; prima hoor.
Ennehh... de intentie van een thermometer is dan -de temperatuur aangeven- (of ie dat nou met 1 of 1000 ingewikkelde/complexe stappen voor mekaar moet krijgen. (een stap is meten, het Goal/intentie = temp juist weergeven.)

.

Het is niet omdat ik het programma met een mens vergelijk dat ik tot die conclusie kom, maar omdat haar gedrag zonder die intentie helemaal niet verklaard kan worden. Jij mag denken dat ik Antropomorphisch denk, maar ik denk dat jij de mens in dit opzicht ontrecht onderscheidt van het computerprogramma.

Ik schreef dat het programma een goal heeft, dat stoppen wij er immers in. Dat mag ie van mij intentional stance noemen. MAAR om er nou ook nog needs, beliefs en desires aan toe te kennen DAT is antropomorfisme.
DE mens kan ook een goal/intentie hebben om te winnen. MAAAAAR omdat de mens ook bv needs/beliefs/desires heeft... kan de mens dat -ik wil winnen-programma naar eigen behoefte loslaten en een andere goal/intentie verkiezen bv. expres verliezen. Ik heb geen zin meer in schaken, ik heb honger, ik speel liever wat anders, ik láát jou winnen want daardoor kom je in een beter humeur en daar heb ik baat bij, je hebt al drie keer van me verloren en dat vind ik zielig. OF je kijkt zo lief naar me dat ik helemaal niet meer kan nadenken (ahhhhhh die is leuk ) of ik flikker dat hele bord naar je kop omdat je blik me niet aanstaat, OF er gebeurt een noodsituatie, iemand valt jou fysiek aan bv. dan bedenk ik nuttiger dingen die ik met dat schaakspel kan doen, met dat bord op diegene d'r kop slaan bv. De mens heeft daarbij OOK nog een een onbewuste. Misschien wil mijn bewuste wel winnen maar is mijn onbewuste er zo van overtuigd dat jij zoveel beter bent dat ik niet de beste zetten doe. etc etc etc etc.

DAT IS HET GROTE VERSCHIL met een programma wat niet anders kan dan.. het geprogrammeerde doel nastreven. In dit geval proberen te winnen.

De mens NIET onderscheiden van zo'n simpel programma is IMO wat al te simpel gedacht.

Wel is het zo dat een mens veel meer intenties heeft dan het winnen van een schaakpartij, maar onze intenties zijn niet wezenlijk anders.

Zoals ik al schreef.. ja natuurlijk maakt het een groot verschil of ik beperkt ben in het uitvoeren van een intentie of naar eigens wens en behoefte mijn intenties en doelen kan wijzigen.
Én, niet te vergeten, significant verschilletje... ik bomvol zit met onbewuste intenties en doelen waarvan ik zelf niet eens wéét dat ze er zijn en waarom, die het -win- doel kunnen overrulen.

Een wezenlijk verschil blijft dat niemand onze intenties ontworpen heeft. Bij het programma is dat wel het geval. Als zodanig is de omtwerp-stance daar wel degelijk juist. Dat sluit echter niet uit dat er een intentie is ontworpen. En op grond daarvan is de intentional stance beter in staat haar gedrag te verklaren dan de ontwerp-stance.

Ja hoor, dat zei ik ook al. Met een "van mijn part noemt ie dat intentional stance."
Als de verschillen tussen mens en machine die er ook zijn maar tot uiting gebracht worden. Bv in een Phenomenal stance of personal stance.
Ook die andere stances zijn op ons van toepassing het is gewoon het meer en meer detailleren naar complexiteit wat het verschil in stances betreft
We hebben overeenkomsten, met voorwerpen, met andere dieren, met machines/programma's allemaal goed en wel. Maar we hebben OOK verschillen.
Dus dat bedoelde ik.. detailleer dan nog maar ff door.

[Peter van Velzen]

Noem dat goal een intentie; prima hoor.
Ennehh... de intentie van een thermometer is dan -de temperatuur aangeven- (of ie dat nou met 1 of 1000 ingewikkelde/complexe stappen voor mekaar moet krijgen. (een stap is meten, het Goal/intentie = temp juist weergeven.)

thermometers vertonen geen intentionele handelingen, Het toekennen van intentionaliteit verklaart dus de werking niet Het stijgen van het kwik wordt direct veroorzaakt door de temperatuur. Er is geen keuze voor de thermometer. Geeen handeling die zij al dan niet kan uitvoeren, waarmeeze haar toekomst verandert. En ook geen toekomst die zij - ook maar denkbeeeldig\ - zou nastreven,

Een kwikthermometeris ook geen machine. Ze verricht namelijk geen arbeid en dat is nu eenmaal een essentiële eigenschap van een machine. Een thermometer met een display doet dat wel, maar ook die maakt geen gedragskeuzes op grond van een gewensde toekomst. Je moet al minstens zoiets als een verwarmingsketel met thermostaat hebben. Die maakt wel een keuze: Branden of niet branden en heeft de intentie de door een thermometer gemeten temperatuur in overeenstemiing te brengen met de geprogrameerde temperatuur. (verderook niks maar dát wél)

Je beschrijving van het verschil tussen een mens en een schaakprogramma is overigens heel treffend, Een mens heeft nu eenmaal een veel veelzijdiger gedrag dan wat dan ook. Dat echter niet de reden waarom het geen machine is, DIe is mijns inziens nog steeds dat dat mens geen ontwerper en geen eigenaar heeft.

Het is echter wel een onderdeel van wat de mens tot mens maakt. Onze fenomenale veelzijdigheid, die naast ons vermogen om een veelzidig communicatiesysteem (een taal) te leren ons van veel andere levensvormen onderscheid.

[Peter van Velzen]

Acht jaar en tien maanden geleden las ik op scientias dit: wetenschappers-creeren-leven Weliswaar was dat niet door abiogenese gelukt, maar het DNA van dat leven was wel degelijk compleet ontworpen. Zou men op dezelfde manier een 100% designer-baby ter wereld brengen, dan zou deze baby dus wél een ontwerp hebben. En daarmee een ontwerper. Nu zou dat ontwerp nooit het werk kunnen zijn van één enkele wetenschapper, maar noodzakelijkerwijs van een grote organizatie. Maar ontworpen zou ze even goed zijn.

Desalniettegenstaande zouden we de baby waarschijnlijk volledige mensenrechten toekennen, hetgeen impliceert dat het hebben van een ontwerp, niet de reden is voor het maken van het onderscheid. Veeleer is dat het hebben van een eigenaar. En daarmee bedoel ik dan niet, de slavenhouder die ons door een maatschappij die slavernij erkend wordt opgelegd, maar het ontworpen dan wel geëvolueerd zijn teneinde een ander individu of een organizatie min of meer betrouwbaar te dienen.

Werksters en soldaten in een insectenkolonie zouden in deze betekenis wél machines zijn, Robots die geen enkele mens of organizatie dienen daarentegen zouden geen machines zijn, Wat ze dan wel zouden zijn. weet ik niet. Wellicht zombies, wellicht individuen, of misschien - als er een goed gesprek mee mogelijk is - wel mensen. Waarschijnlijk ook zouden ze voor dat laatste toch ook - een equivalent van - gevoelens moeten hebben, al waren dat maar "simpele" metertjes.

Voorlopig blijft het voor ons mensen “ni dieux, ni maitre”