Kan een computer bewustzijn hebben?

[heeck]

maar ik geloof niet dat er een robot is die zelf besloot een wandeling te gaan maken, . .

Wees toch voorzichtig met geloven zolang je van jezelf nauwelijks weet wat je tot wandelen brengt!

Roeland

[Peter van Velzen]

maar ik geloof niet dat er een robot is die zelf besloot een wandeling te gaan maken, . .

Wees toch voorzichtig met geloven zolang je van jezelf nauwelijks weet wat je tot wandelen brengt!

Roeland

Je leest slecht. Heb ik ook vaak last van. Ik schreef: "Ik geloof NIET".

Ik weet - toevallig - precies wat mij tot wandelen brengt. Het advies van mijn voormalige fysio-therapeut. Maardat is geen bevel. Ik had het ook kunnnen negeren. Ik verwacht niet dat men binnenkort robots gaat bouwen die opdrachten kunnen negeren, noch Robots die zonder opdracht aan de wandel gaan. Daar is - zover ik weet - namelijk geen markt voor.

[Petra]

Ik bedacht net: Er is een verschil tussen een (biologische) beschrijving van een beleving, en het ondergaan van een beleving. Het is het verschil tussen een uitdraai van een computerprogramma, en het uitvoeren van een computerprogramma (The halting problem).

Een simulatie van een brein is dus niet hetzelfde als het brein zelf. En dat is ook logisch als je bedenkt dat de functionerende hardware nodig is voor de beleving! De vorm van de hardware is dus de uitdrukking van welk soort beleving erin plaatsvindt!

Een opdracht: "beweeg het rechterbeen naar voren" is iet anders dan: "wandelen". Een computer wandelt niet, hij simuleert wandelen.

Hiermee kom je denk ik (zou ongeveer?) op mijn stok-paardje.
viewtopic.php?f=50&t=17515&p=557098&hil ... ed#p557098

Mij lijkt het belangrijk om eens te stoppen met die Cartesiaanse duale splitsing van lichaam en brein. Alsof het het ene óf het andere zou kúnnen zijn.

Een van de belangrijkste kritiekpunten betreft het feit dat de gevestigde cognitiewetenschap geen rekening houdt met het feit dat cognitie altijd embodied en embedded is, dat wil zeggen, belichaamd en ingebed in sociale praktijken.

[heeck]

maar ik geloof niet dat er een robot is die zelf besloot een wandeling te gaan maken, . .

Wees toch voorzichtig met geloven zolang je van jezelf nauwelijks weet wat je tot wandelen brengt!

Roeland

Je leest slecht. Heb ik ook vaak last van. Ik schreef: "Ik geloof NIET".

Ik weet - toevallig - precies wat mij tot wandelen brengt. Het advies van mijn voormalige fysio-therapeut. Maardat is geen bevel. Ik had het ook kunnnen negeren. Ik verwacht niet dat men binnenkort robots gaat bouwen die opdrachten kunnen negeren, noch Robots die zonder opdracht aan de wandel gaan. Daar is - zover ik weet - namelijk geen markt voor.

Peter,

Allebei je termen verwijzen naar een voor waar aannemen zonder functioneel bewijs.

De mate van autonomie die cruciaal voor het een of voor het andere zou moeten zijn is vanzelf de spil van het hele geredeneer aangaande het ontkennen van onze eigen robot-status.

D-Robots en K-Robots
Ik stel voor, voor zolang dat nodig is, een onderscheid te introduceren tussen -natuurlijke Darwiniaanse robots *)- en door mensen "gefabriceerde Kunstmatige robots".

Kunstmatige robots die opdrachten negeren die verwacht ik zeer binnenkort in auto's als menselijk willen wordt overruled door een verbeterende navigeerrobot. En laatst die ramp met die Boeing met een eigenwijze K-stuurrobot past ook omdat ook mensen wel eens ongewenst functioneren en/of reageren. De D-Robots (vliegeniers) waren niet in staat de K-robot te overmannen. (Overmeesteren is beter)

En voor K-robots die zonder opdracht aan de wandel gaan zie ik grote gelijkenis met jou die de opdracht/advies van zijn therapeut keurig opslaat en regelmatig, soms spijbelend uitvoert en daar andere D-robots over weet te berichten.
Precies zoals mijn iPad-Siri al gesproken agenda-commando's van me uitvoert en/of registreert en andere aan K-robots gekoppelde D-Robots op de hoogte kan brengen Koppeling met een of ander, desnoods míjn loopapparaat is dan qua principe een fluitje van een cent. **)

Roeland
*) Identiek aan mijn eerdere "Electro-biochemisch-vleeschelijke robot".
**) Zie recente ontwikkelingen in prothesen die als natuurlijk bruikbaar worden ervaren.

[heeck]

Een van de belangrijkste kritiekpunten betreft het feit dat de gevestigde cognitiewetenschap geen rekening houdt met het feit dat cognitie altijd embodied en embedded is, dat wil zeggen, belichaamd en ingebed in sociale praktijken.

Dat is een verwijt aan de gevestigde cognitiewetenschap; niet aan het adres van moderne AI-research.

Roeland

[Peter van Velzen]

Peter,

Allebei je termen verwijzen naar een voor waar aannemen zonder functioneel bewijs.

De mate van autonomie die cruciaal voor het een of voor het andere zou moeten zijn is vanzelf de spil van het hele geredeneer aangaande het ontkennen van onze eigen robot-status.

Ik ontken inderdaad dat ik een Robot ben. Ik heb geen eigenaar en geen schepper. Daarmee ben ik per definitie geen machine. Jouw voorbeelden van automaten die menselijk handelen overrulen, zijn nog steeds machines die door mensen zijn gebouwd, en hun werking is bewust zo gebouwd, omdat mensen daartoe besloten hebben. Ze gehoorzamen nog steeds de opdrachten die ze hebben gekregen, en een van die opdrachten is zich niet te veel van de bestuurder aan te trekken.

Ik geef toe dat mijn werking grotendeels gedetermineerd is, en als mijn gedrag afwijkt van het verwachte gedrag is dat niet omdat ik over een bijzonder vermogen beschik om dat te doen, maar veeleer door een toevallige afwijking in de omstandigheden. Maar dat is niet omdat mijn eigenaar of bouwer dat heeft besloten. Ik ben geen middel tot het doel van een ander, dat die ander naar believen kan gebruiken of weggooien.

Er is geen enkele reden om te verwachten dat mensen machines gaan bouwen die eveneens nergens toe dienen en niet het middel zijn tot een menselijk doel. Het zou ongetwijfeld mogelijk zijn, maar dat is niet wat ik bestrijd. Ik bestrijd de idee dat zulks in de praktijk zal gebeuren. Dus een robot gaat niet wandelen, hij legt alleen de afstand af, die hem scheidt van zijn volgende taak. Mensen daarentegen gaan wandelen om het wandelen zelf. De mens, zowel als zijn wandeling zijn een doel op zich.

Maar ik verwacht niet dat jij je daar iets van aan zult trekken, je hebt besloten dat je een machine bent, en dus zul je machinaal reageren en het feit dat je schepper of eigenaar hebt als irrelevant negeren. Het zij zo.

[heeck]

Maar ik verwacht niet dat jij je daar iets van aan zult trekken, je hebt besloten dat je een machine bent, en dus zul je machinaal reageren en het feit dat je schepper of eigenaar hebt als irrelevant negeren. Het zij zo.

Dat gaat niet om een besluit maar is een gevolgtrekking.
En machinaal reageren is zeker niet waar ik het over heb, want dat impliceert herhaling.

Het zij zo . .

Kwam ik je nog wel zo tegemoet met het onderscheiden van D-robots en K-robots, maar alas jij besluit kennelijk mogelijkheden te herbergen om aan natuurwetten en zelfs deze tweedeling te ontsnappen.

Je verwijzen naar schepper of eigenaar kan ik niet plaatsen. Wie of wat heb je daar mee op het oog?

Roeland

[axxyanus]

Peter,

Allebei je termen verwijzen naar een voor waar aannemen zonder functioneel bewijs.

De mate van autonomie die cruciaal voor het een of voor het andere zou moeten zijn is vanzelf de spil van het hele geredeneer aangaande het ontkennen van onze eigen robot-status.

Ik ontken inderdaad dat ik een Robot ben. Ik heb geen eigenaar en geen schepper. Daarmee ben ik per definitie geen machine.

Dus stel dat in de verre toekomst we technologisch zo ver gevorderd zijn dat het mogelijk is om via nano technologie mensen te bouwen en dat we die technologisch gebouwde mensen als bezit beschouwen. Voor de rest kan je een gebouwde niet onderscheiden van een geboren mens.

Zouden die gebouwde mensen dan machines zijn?

[Peter van Velzen]

Maar ik verwacht niet dat jij je daar iets van aan zult trekken, je hebt besloten dat je een machine bent, en dus zul je machinaal reageren en het feit dat je schepper of eigenaar hebt als irrelevant negeren. Het zij zo.

Dat gaat niet om een besluit maar is een gevolgtrekking.
En machinaal reageren is zeker niet waar ik het over heb, want dat impliceert herhaling.

Het zij zo . .

Kwam ik je nog wel zo tegemoet met het onderscheiden van D-robots en K-robots, maar alas jij besluit kennelijk mogelijkheden te herbergen om aan natuurwetten en zelfs deze tweedeling te ontsnappen.

Je verwijzen naar schepper of eigenaar kan ik niet plaatsen. Wie of wat heb je daar mee op het oog?

Roeland

Alle machines zijn gemaakt door mensen,en vrijwel altijd naar een ontwerp van een enkel individu. Alle machines hebben ook een eigenaar. En de machines doen doorgaans wat de ontwerper en de eigenaar willen dat ze doen. Zo niet dan worden ze uitgeschakeld. Wist je dat niet?

Ik zie geen enkele mogelijkheid om aan de natuurwetten te ontsnappen, maar die natuurwetten houden niet in dat wij machines willen bouwen die niet doen wat wij willen dat ze doen. Integendeel, ik denk dat het gedetermineerd is dat wij alleen machines zullen willen bouwen die wél doen wat wij willen. Uiteraard gaat dat wel eens mis, maar in dat geval zullen we of de machine repareren, of haar op de schroothoop gooien. Wij hebben niet de vrijheid om iets anders te willen.

Machinaal reageren impliceert overigens geen herhaling meer. Wij kunnen tegenwoordig machines bouwen en ze de opdracht geven om nooit in herhaling te vallen. Ik denk dat daar toepassingen voor zullen zijn. Zo'n apparaat noem ik nog steeds een machine. Jij trouwens ook. Jij noemt alles dat beweegt met behulp van interne energie een machine. Ik daarentegen noem alleen datgene een machine dat een ontwerper heeft en een eigenaar heeft of had. De rest noem ik levende wezens.
Als jij een machine bent, dan reageer jij machinaal (=zoals een machine reageert).

[Peter van Velzen]

Peter,

Allebei je termen verwijzen naar een voor waar aannemen zonder functioneel bewijs.

De mate van autonomie die cruciaal voor het een of voor het andere zou moeten zijn is vanzelf de spil van het hele geredeneer aangaande het ontkennen van onze eigen robot-status.

Ik ontken inderdaad dat ik een Robot ben. Ik heb geen eigenaar en geen schepper. Daarmee ben ik per definitie geen machine.

Dus stel dat in de verre toekomst we technologisch zo ver gevorderd zijn dat het mogelijk is om via nano technologie mensen te bouwen en dat we die technologisch gebouwde mensen als bezit beschouwen. Voor de rest kan je een gebouwde niet onderscheiden van een geboren mens.

Zouden die gebouwde mensen dan machines zijn?

In de ogen van Heeck en in de ogen van de door jou bedoelde slavenkwekers wel, In mijn ogen en in de ogen van de gebouwde mensen niet. Als ze niet te onderscheiden zijn van jou en mij, dan zullen ze veel te eigenwijs zijn om te gehoorzamen en hun slavenstatus niet accepteren. Maar zoals ik in mijn vorige bericht al aangaf. Ik verwacht niet dat mensen dergelijke dingen zullen gaan bouwen. Want een eigenaar wil geen machine die net zo halsstarrig is als wij.

Daarom blijf ik bij mijn standpunt. Technisch gezien is een computer met bewustzijn niet onmogelijk, maar wij (de mensen) zullen ze desondanks niet bouwen (omdat wij niet de vrijheid hebben dat te willen)

[axxyanus]

Ik ontken inderdaad dat ik een Robot ben. Ik heb geen eigenaar en geen schepper. Daarmee ben ik per definitie geen machine.

Dus stel dat in de verre toekomst we technologisch zo ver gevorderd zijn dat het mogelijk is om via nano technologie mensen te bouwen en dat we die technologisch gebouwde mensen als bezit beschouwen. Voor de rest kan je een gebouwde niet onderscheiden van een geboren mens.

Zouden die gebouwde mensen dan machines zijn?

In de ogen van Heeck en in de ogen van de door jou bedoelde slavenkwekers wel, In mijn ogen en in de ogen van de gebouwde mensen niet. Als ze niet te onderscheiden zijn van jou en mij, dan zullen ze veel te eigenwijs zijn om te gehoorzamen en hun slavenstatus niet accepteren.

OK, stel dat we een robot hebben kunnen bouwen, die in materiaal wel te onderscheiden is van een mens maar niet in gedrag. Ook die robot is te eigenwijs om te gehoorzamen en zijn slavenstatus te accepteren. Moeten we het etiket "machine" nu verwerpen voor die robot?

[heeck]

Alle machines zijn gemaakt door mensen,en vrijwel altijd naar een ontwerp van een enkel individu. Alle machines hebben ook een eigenaar. En de machines doen doorgaans wat de ontwerper en de eigenaar willen dat ze doen. Zo niet dan worden ze uitgeschakeld. Wist je dat niet?

Ik zie geen enkele mogelijkheid om aan de natuurwetten te ontsnappen, maar die natuurwetten houden niet in dat wij machines willen bouwen die niet doen wat wij willen dat ze doen. Integendeel, ik denk dat het gedetermineerd is dat wij alleen machines zullen willen bouwen die wél doen wat wij willen. Uiteraard gaat dat wel eens mis, maar in dat geval zullen we of de machine repareren, of haar op de schroothoop gooien. Wij hebben niet de vrijheid om iets anders te willen.

Machinaal reageren impliceert overigens geen herhaling meer. Wij kunnen tegenwoordig machines bouwen en ze de opdracht geven om nooit in herhaling te vallen. Ik denk dat daar toepassingen voor zullen zijn. Zo'n apparaat noem ik nog steeds een machine. Jij trouwens ook. Jij noemt alles dat beweegt met behulp van interne energie een machine. Ik daarentegen noem alleen datgene een machine dat een ontwerper heeft en een eigenaar heeft of had. De rest noem ik levende wezens.
Als jij een machine bent, dan reageer jij machinaal (=zoals een machine reageert).

Dank voor het herhalen van je zetten met een paar nieuwe puntjes die ik uitlicht:

DE EIGENAAR
Ook van dieren achten mensen zich eigenaar en mensen hebben alleen voor zichzelf een meerwaarde tov andere dieren.
Wat begrijpelijk is, maar geen argument.

GEDETERMINEERDE BOUWLUST
Die vorm van gedetermineerd zijn ken ik niet. In het algemeen lijk je gereedschappen te bedoelen waarvan we in het algemeen zeker willen dat ze volgens ontwerp functioneren.
Wat er tegenwoordig kan worden gemaakt onttrekt zich op allerlei wijzen aan deze versimpeling.
Ook het baas blijven over de machine wordt elke keer gelogenstraft door hele simpele automatisering die inspeelt op de menselijke verslavingen.

MACHINES ZONDER HERHALING
Vanzelf mee eens, was zo een 30 jaar mijn vak, maar die noem ik K- en D-robots en de herhalende machines zijn dan de lijfelijke en adminstratieve toepassingsgebieden.
Het is geen harde classificering, maar het gaat om het zachtjes uiteen trekken en zo benadrukken van de karakteristieken.

LEVEND versus GEMAAKT
Dat loopt dus 100% gelijk aan mijn onderscheid D- en K-robots, waarbij beiden kunnen worden onderverdeeld in bewegend en met de ondergrond verbonden.

Ook jouw benadrukkingen sluiten geen bewustzijn bij door mensen vervaardigde apparaten uit, want je hebt niet laten zien wat een dergelijk bewustzijn onmogelijk zou maken.

MIJN BENADRUKKEN
wat ik mee dankzij jou steeds beter moet formuleren,
gaat telkens weer om het in patroon brengen en daarmee overzien van de de herkenbare facetten waarlangs "beslissingsprocessen" *) verlopen.
Binnen dieren is dat meer of minder gecentraliseerd met leuke uitzonderingen als kwallen en octopussen waarvan dientengevolge onderdelen wat zelfstandig kunnen functioneren, maar ook slijmzwammen hebben informatie-overdracht.

Als je dan kijkt naar de manieren waarop mensen grote delen van hun eigen beslissingskracht wordt overgedragen aan wel en niet gedistribueerde computersystemen waar ze zich niet aan kunnen, of zelfs niet mogen onttrekken, dan snap je mijn insteek wat beter.

Een aardig nieuw topic zou daarom zijn:
"Is bewustzijn nuttig genoeg?"

Roeland

*) In simpelste vorm wat sensors/zintuigen plus wat reagerende tussenstations en een beinvloeding waaruit gedrag/ van eenzelfde of een andere eenheid volgt.

Ooit (skepsis-congres 2011) vroeg ik het Duo Swaab - Philipse bij welke fase in ons eigen voorgeslacht van de afgelopen paar milliard jaren voor het eerst van "het nemen van een besluit" zou mogen worden gesproken.
Die vraag heb ik toen niet beantwoord gekregen en steeds meer knaagt mijn vermoeden dat bewustzijn iets is wat best eens een typerend lullige darwiniaanse oplossing is voor iets wat mensen in en met hun apparaten kunnen verbeteren of zelfs weglaten zonder aan het functionele aspect iets af te doen.

=========

[Peter van Velzen]

OK, stel dat we een robot hebben kunnen bouwen, die in materiaal wel te onderscheiden is van een mens maar niet in gedrag. Ook die robot is te eigenwijs om te gehoorzamen en zijn slavenstatus te accepteren. Moeten we het etiket "machine" nu verwerpen voor die robot?

Ik heb al een aantal malen gezegd dat wij mensen niet de vrijheid hebben om zo'n onding te willen bouwen (in die zin heeft Heeck gelijk en hebben we geen vrije wil), maar inderdaad, het zou geen machine meer zijn, maar een individu. Hoe machinaal hij er ook uit mag zien.

[Peter van Velzen]

Beste Roeland

DE EIGENAAR
Een dier zal over het algemeen van alles doen dat de eigenaar niet heeft gevraagd. Wij zullen ze daarom echter niet op de schroothoop gooien. Van machines eisen wij een veel voorspelbaarder gedrag. En een hoge mate van gehoorzaamheid. Ze dienen te doen wat de eigenaar wil, maar doorgaans niet wat anderen willen.

GEDETERMINEERDE BOUWLUST
Ik beweer niet dat wij noodzakelijkerwijs iets willen bouwen, maar dat we noodzakelijkerwijs willen dat hetgeen wij bouwen doet wat wij willen. Je hebt volstrekt gelijk dat een machine in principe een stuk gereedschap is.
Ik zie graag de voorbeelden tegemoet van machines die nooit doen wat de ontwerper of eigenaar wil, en desondanks blijven werken en niet op de schroothoop terecht komen. Ik ken er geen,

Wat betreft "de machine de baas blijven" . Je verwart wellicht het beheersen van een machine met hoe de machine functioneert. Als je het apparaat de verkeerde opdrachten geeft (door bijvoorbeeld in een auto op het gaspedaal te trappen in plaats van op de rem), zal ze inderdaad de verkeerde dingen doen, Maar in zekere zin gehoorzaamt de auto wel zijn bestuurder. Dat wij niet goed met een stuk gereedschap omgaan, wil nog niet zeggen dat het gereedschap niet deugt.

BEWUSTZIJN
Ik stel in het geheel niet dat een machine met bewustzijn onmogelijk is. Ik stel slechts dat wij niet de vrijheid hebben om te willen dat ons gereedschap niet functioneert zoals wij willen. afhankelijk van de vraag wat bewustzijn uiteindelijk zal blijken te zijn zou dat tot gevolg kunnen hebben dat machines met menselijk (zelf)bewustijn) er nooit zullen komen.
Overigens zouden wij wellicht wel levende wezens kunnen bouwen die precies functioneren zoals een machine. Dat acht ik helemaal niet uitgesloten.

MODERN TIMES

Als je dan kijkt naar de manieren waarop mensen grote delen van hun eigen beslissingskracht wordt overgedragen aan wel en niet gedistribueerde computersystemen waar ze zich niet aan kunnen, of zelfs niet mogen onttrekken, dan snap je mijn insteek wat beter.

Het feit dat mensen zich moeten aanpassen aan hun nieuwe gereedschap en dat zulks soms verplicht is, neemt niet weg dat die dingen nog altijd doen wat de baas wil. Niet noodzakelijkerwijs wat de werknemer wil. En als we een beslissingstaak overdragen aan een computersysteem dan doet het systeem nog steeds wat de baas wil, hij neemt het denkwerk van hem over, omdat de baas denkt dat dit gunstiger is.

IS BEWUSTZIJN NUTTIG GENOEG?
Het is voor een levend wezen in het algemeen nuttig als het kan reageren op veranderingen in zijn directe omgeving en in zijn eigen lichaam. Het is voor een zelfrijdende auto zelfs een absolute voorwaarde, die wij er aan stellen. Maar of het bij een machine enig nut zou hebben voor zijn eigenaar dat het apparaat bijvoorbeeld zijn eigen algoritmes kent lijkt me zeer twijfelachtig. Let op: bij een machine is de vraag altijd: Wat is het nut voor de eigenaar, niet wat heeft het ding er zelf aan.

VRAGEN
Het nemen van een besluit laat doorgaans geen fosiele resten na. En als het dat wel doet (ik denk aan de teerputten van La Brea) dat heeft het organisme meestal het verkeerde besluit genomen. Het is inderdaad mogelijk dat bewustzijn een toevalligheid is die ergens in onze evolutie is opgetreden, Mogelijkerwijs is het zelfs een lichte vorm van schizofrenie. die ik dan Mono-schizofrenie zou willen noemen, want onze bewuste gedachten zijn altijd seriëel, nooit paralel. Het bleek niet ongunstig en dus is het blijven bestaan. Misschien ook is het voor het grootste deel slechts een onderdeel van ons spraakvermogen. Ik ben overigens van mening dat het nemen van besluiten een van de oudste onderdelen is van onze hersenen. Ook de vroegste levensvormen moesten al kunnen kiezen tussen aanvallen of vluchten en is het daarom waarschijnlijk een niet bewust proces. Bewuste processen kunnen een besluit echter evident beïnvloeden.

[axxyanus]

OK, stel dat we een robot hebben kunnen bouwen, die in materiaal wel te onderscheiden is van een mens maar niet in gedrag. Ook die robot is te eigenwijs om te gehoorzamen en zijn slavenstatus te accepteren. Moeten we het etiket "machine" nu verwerpen voor die robot?

Ik heb al een aantal malen gezegd dat wij mensen niet de vrijheid hebben om zo'n onding te willen bouwen

Dat neemt toch niet weg dat we om wille van een gedachtewisseling dat toch even kunnen aannemen en zien of dat enige inzichten kan opleveren.

maar inderdaad, het zou geen machine meer zijn, maar een individu. Hoe machinaal hij er ook uit mag zien.

Nochtans heeft hij zowel een bouwer als een eigenaar. De voorwaarde die jij origineel aanhaalde om van een machine te spreken.