Kan een computer bewustzijn hebben?

[heeck]

DE EIGENAAR
Een dier zal over het algemeen van alles doen dat de eigenaar niet heeft gevraagd. Wij zullen ze daarom echter niet op de schroothoop gooien. Van machines eisen wij een veel voorspelbaarder gedrag. En een hoge mate van gehoorzaamheid. Ze dienen te doen wat de eigenaar wil, maar doorgaans niet wat anderen willen.

Het is over het algemeen nog steeds zo dat alle dieren waar we geen profijt van trekken impliciet al op de schroothoop bestaan.
Dierenbescherming en vooral milieubescherming als erkennen van ons dier zijn en ecologisch afhankelijk zijn is pittig modern.

DOELMATIGE BOUWLUST
Ik beweer niet dat wij noodzakelijkerwijs iets willen bouwen, maar dat we noodzakelijkerwijs willen dat hetgeen wij bouwen doet wat wij willen. Je hebt volstrekt gelijk dat een machine in principe een stuk gereedschap is.
Ik zie graag de voorbeelden tegemoet van machines die nooit doen wat de ontwerper of eigenaar wil, en desondanks blijven werken en niet op de schroothoop terecht komen. Ik ken er geen,
. . .
Maar in zekere zin gehoorzaamt de auto wel zijn bestuurder. Dat wij niet goed met een stuk gereedschap omgaan, wil nog niet zeggen dat het gereedschap niet deugt.

Ik heb nu gedetermineerde bouwlust hertiteld tot doelmatige bouwlust.
Dan begrijpen we elkaar juister.

Maar ik blijf bij dat "A.I. de baas blijven" omdat die toepassingen zich niet als simpele gereedschappen of machines met een enkel persson of bedrijf gedragen.
Het gaat om een A.I-markt waar producten worden afgezet en ingezet op wijzen die de bouwer/ontwerper ontgaan.

Facebook is een aardig voorbeeld waarbij de befaamde Zuckerberg al bij het begin wist hoe hij de gebruikers een gebruik kon aanbieden volgens hún gebruikswensen en daarbij zelf zo garen kon spinnen dat het gebruik niet naar de schroothoop gaat.
Zo zijn er wel meer voorbeelden die duidelijk van een ander snit zijn dan het broodmes dat moordwapen kan zijn en het vermogen om het naar de schroothoop te verwijzen als ware het overbodig of sleets geworden, kennelijk ontbreekt.

BEWUSTZIJN
Ik stel in het geheel niet dat een machine met bewustzijn onmogelijk is. Ik stel slechts dat wij niet de vrijheid hebben om te willen dat ons gereedschap niet functioneert zoals wij willen. afhankelijk van de vraag wat bewustzijn uiteindelijk zal blijken te zijn zou dat tot gevolg kunnen hebben dat machines met menselijk (zelf)bewustijn) er nooit zullen komen.

Overigens zouden wij wellicht wel levende wezens kunnen bouwen die precies functioneren zoals een machine. Dat acht ik helemaal niet uitgesloten.

Duidelijk. Geen commentaar.

MODERN TIMES

Als je dan kijkt naar de manieren waarop mensen grote delen van hun eigen beslissingskracht wordt overgedragen aan wel en niet gedistribueerde computersystemen waar ze zich niet aan kunnen, of zelfs niet mogen onttrekken, dan snap je mijn insteek wat beter.

Het feit dat mensen zich moeten aanpassen aan hun nieuwe gereedschap en dat zulks soms verplicht is, neemt niet weg dat die dingen nog altijd doen wat de baas wil. Niet noodzakelijkerwijs wat de werknemer wil. En als we een beslissingstaak overdragen aan een computersysteem dan doet het systeem nog steeds wat de baas wil, hij neemt het denkwerk van hem over, omdat de baas denkt dat dit gunstiger is.

Moderne A.I. steeds gereedschap noemen verkleint het punt van discussie tot mechanische en administratieve automatisering, zodat we met een dergelijk teruggaan tot 1960 gelijk helemaal klaar zouden zijn.

IS BEWUSTZIJN NUTTIG GENOEG?
Het is voor een levend wezen in het algemeen nuttig als het kan reageren op veranderingen in zijn directe omgeving en in zijn eigen lichaam. Het is voor een zelfrijdende auto zelfs een absolute voorwaarde, die wij er aan stellen. Maar of het bij een machine enig nut zou hebben voor zijn eigenaar dat het apparaat bijvoorbeeld zijn eigen algoritmes kent lijkt me zeer twijfelachtig. Let op: bij een machine is de vraag altijd: Wat is het nut voor de eigenaar, niet wat heeft het ding er zelf aan.

Let op: Ik heb het niet over jouw machine-eigenaar>>belang gekoppeld zijn.

VRAGEN
. . .knip. . .knip
Misschien ook is het voor het grootste deel slechts een onderdeel van ons spraakvermogen. Ik ben overigens van mening dat het nemen van besluiten een van de oudste onderdelen is van onze hersenen. Ook de vroegste levensvormen moesten al kunnen kiezen tussen aanvallen of vluchten en is het daarom waarschijnlijk een niet bewust proces. Bewuste processen kunnen een besluit echter evident beïnvloeden.

Jawel, jawel, maar ik kom terug op mijn vraag aan Swaab/Philipse:
Welke levensvorm in ons verre voorgeslacht achten wij in staat tot besluiten.
Dat er meer fossiele resten zijn van tandglazuur dan van besluiten wil niet zeggen dat we van een pantoffeldiertje of amoebe vinden dat die beluiten nemen of kiezen. Juist van dat soort leven is vaak het hele machinale ervan blootgelegd.

Dat bewuste processen een besluit evident (kunnen) beïnvloeden, dat is nu juist het punt dat ik van een extra vraag voorzie:
IS BEWUSTZIJN NUTTIG GENOEG, of zou het zonder bewustzijn nuttiger/beter kunnen?
A.I, zou dat wel eens kunnen gaan demonstreren.

Roeland

[Peter van Velzen]

maar inderdaad, het zou geen machine meer zijn, maar een individu. Hoe machinaal hij er ook uit mag zien.

Nochtans heeft hij zowel een bouwer als een eigenaar. De voorwaarde die jij origineel aanhaalde om van een machine te spreken.

์Nee een eigenaar zal hij niet hebben, als hij althans net zo reageert als jij en ik, dan zal hij dat heftig ontkennen, (Ni dieu ni maitre) en mensen zoals ik - en ik verwacht ook jij - zullen het met hem eens zijn. Anders dan bicentennial man, die geen ontwerper had (zijn eigenschappen waren een toevallig "foutje") maar - ook in zijn eigen ogen - wel een eigenaar. (die hem logischerwijs verbood om anderen te gehoorzamen)

[Peter van Velzen]

Beste Roeland,

DE EIGENAAR
WIlde dieren hebben geen eigenaar en profijt trekken is iets anders dat absolute gehoorzaamheid verlangen,

DOELMATIGE BOUWLUST
De Facebook programmatuur doet nog altijd wat Zuckerberg wil. Dat het niet precies doet wat de gebruiker wil doet er niet toe. De gebruiker is noch eigenaar, noch ontwerper.

Jouw insteek is - denk ik - dat zowel dieren als machines voorspelbaar reageren. Mijn in steek is dat dit in principe juist is, maar dat machines het oogmerk van de ontwerper en/of eigenaar nastreven en dieren niet. De mens is in dat opzicht niet anders, Ook al is het programma (of het neurale netwerk) van de machine vele malen ingewikkelder dan van een dier, dat is niet waar het om draait. Het gaat erom wie er baat heeft bij de handelingen en beslissingen. Het ding zelf of iemand anders, En ik verlies geen moment de echte profiteur uit het oog. Dat is niet de facebook gebruiker maar Mark Zuckerberg.

[axxyanus]

maar inderdaad, het zou geen machine meer zijn, maar een individu. Hoe machinaal hij er ook uit mag zien.

Nochtans heeft hij zowel een bouwer als een eigenaar. De voorwaarde die jij origineel aanhaalde om van een machine te spreken.

์Nee een eigenaar zal hij niet hebben, als hij althans net zo reageert als jij en ik, dan zal hij dat heftig ontkennen,

Dat maakt legaal gezien geen verschil in zijn status als eigendom.

[Peter van Velzen]

Nochtans heeft hij zowel een bouwer als een eigenaar. De voorwaarde die jij origineel aanhaalde om van een machine te spreken.

์Nee een eigenaar zal hij niet hebben, als hij althans net zo reageert als jij en ik, dan zal hij dat heftig ontkennen,

Dat maakt legaal gezien geen verschil in zijn status als eigendom.

Slavernij was tot 155 jaar geleden ook legaal. dat is dus niet van belang. Een Robot die zich geheel en al als een mens gedraagt heeft m.i. mensenrechten.

[heeck]

Beste Roeland,

knip . . . knip

Jouw insteek is - denk ik - dat zowel dieren als machines voorspelbaar reageren. Mijn in steek is dat dit in principe juist is, maar dat machines het oogmerk van de ontwerper en/of eigenaar nastreven en dieren niet. Dknip . . knip

We hebben nu redelijk rap in de gaten dat we een insteekverschil hebben.
Jij trekt je terug op de eigenaar/ontwerper met de onvervreemdbare oogmerken (en verantwoordelijkheden), zoals die bij een verdere ontwikkeling van werktuigen en gereedschappen zou kunnen horen.

Ik breng het gedachtenexperiment naar voren van een evolutionaire ontwikkeling van een levend wezen zonder bewustzijn dat desalnietemin de mens qua intelligentie zou kunnen overschaduwen.

Zo een wezen heeft geen eigenaar. Tenzij we ze in slavernij of als vee hadden gehouden. Of de rollen omgekeerd waren!
Een scenario dat ook wel wordt geprojecteerd op superieur intelligente aliëns.

Dat dergelijke wezens ooit in de aanvang niet ontstaan, maar gefabriceerd bleken, tja dat schrompelt dan ineen tot een verwaarloosbaar principeprobleempje.

Roeland

[heeck]

Peter,

Augustus 2013 hadden we elkaar wat eigenaarschap betreft al gevonden:

viewtopic.php?p=387664#p387664

. . . Uiteraard zou men in de toekomst een ding kunnen bouwen dat voor ons mensen volstrekt nutteloos is, maar wel zijn eigen beweegredenen heeft, maar vooralsnog is dat niet gerealiseerd. . ,

Nu dus zonder bewustzijn nog . . .

Roeland

[Peter van Velzen]

Betse Roeland,
inderdaad zijn we het over veel dingen best eens. Hat is slechts wat wij benadrukken dat anders is. Maar bij het beantwoordenvan de vraag of een computer bewustzijn kan hebben zijn beide facetten uiteraard van belang. Gezien vanuit de techniek is het waarschijinlijk wel mogelijk. (allijkt het me nog lang niet eenvoudig zeker zolang we niet eens weten wat bewustzijn precies is), maar gezien vauit het belang van de mens lijkt het mij dat er weinig incentive zal zijn om dit te doen. We creëren daarmee apparaten die waarschijnlijk niet nutig zullen zijn, Omdat ze niet het belang van enig mens dienen, In feite maken we nu al apparaten waarvan het nut dubieus is, omdat ze wl het belang van één mens of organisatie dienen, maar absoluut niet het belang van de mensheid als geheel. Maar ik veroedt dat er toch op zijn minst één mens moet zijn die er wat mee opschiet, voordat we om het even welk apparaat bouwen.

De vraag "kan het" heeft in feite twee betekenissen. De betekenis die ik tracht te beantwoordem is " Is het waarschijnlijk dat het ooit gaat gebeuren?" en ik denk dat het antwoord daarop NEE is. De vraag die jij tracht te "beantwoorden is naar ik vermoedt "Als we dit een doel achten dat we willen bereiken zal dat doel dan ooit haalbaar zijn" en ik denk dat het antwoord daarop JA is. (ook al weten we nog niet eens dat doel precies inhoudt!)

Het verschil tussen machines en zelfstandige orgnismen is niet een kwestie van ingewikkeldheid, Er zijn dieren waarvan we het genoom al op atomair niveau in kaart gebracht hebben en ook dieren waarvan we het connectoom op neuron niveau kunnen beschrijven, maar een blijvend verschil is waar dat allemaal toe dient. En macines dienen altoos een of meer mensen terwijl biologische orgnaismen nog altijd hun eigen voortbestaan dienen.

Ik moet wel toegeven dat dit bij veel dieren de wij hebben gefokt, niet meer het enige doel is, Melkkoeien bijvoorbeeld, produceren veel meer melk dan voor hun voortbestaan nuttig is. Dat ze deslniettemin voortbestaan, komt omdat wij ze in leven houden omdat het ons (mensen) goed uitkomt. Dus deze rassen dienen voor een belangrijk deel de mens, Het komt me daarentegen voor dat dit belang van de mens alleen maar belangrijker zal worden. Ook als wij veel meer belang gan hechten aan het welzijn van het dier, dan noch zal het een mensenwens zijn, die bepalend is. Zo ook voor machines. Als mensen meer bewuste machines WILLEN dat zullen ze er komen. Maar of wij ooit zelfbewuste machines op menselijk niveau zullen willen, waag ik te betwijfelen,

Uiteraard kan ik mij vergissen, of kan de mensheid zich vergissen en zo'n ding per ongeluk bouwen, maar ik vermoed dat zulks slechts sporadisch zal voorkomen, tenzij we machines gaan bouwen die zelf machines ontwerpen en bouwen zonder menselijke tussenkomst. Daar zie ik nog wel een gevaar, maar erg acuut lijkt het me niet, en ik denk dat de wil daartoe altijd zal ontbreken.

[axxyanus]

์Nee een eigenaar zal hij niet hebben, als hij althans net zo reageert als jij en ik, dan zal hij dat heftig ontkennen,

Dat maakt legaal gezien geen verschil in zijn status als eigendom.

Slavernij was tot 155 jaar geleden ook legaal. dat is dus niet van belang.

Natuurlijk wel. Het wijst erop dat je eigendom niet kan gebruiken om een onderscheid te maken tussen machines en mensen.

Een Robot die zich geheel en al als een mens gedraagt heeft m.i. mensenrechten.

Mij best, het maakt die robot niet minder een machine. Het wijst er enkel op dat jij bepaalde machines mensenrechten wil verlenen.

[heeck]

Betse Roeland,
inderdaad zijn we het over veel dingen best eens.

knip . . . .knip. . .knip

Uiteraard kan ik mij vergissen, of kan de mensheid zich vergissen en zo'n ding per ongeluk bouwen, maar ik vermoed dat zulks slechts sporadisch zal voorkomen, tenzij we machines gaan bouwen die zelf machines ontwerpen en bouwen zonder menselijke tussenkomst. Daar zie ik nog wel een gevaar, maar erg acuut lijkt het me niet, en ik denk dat de wil daartoe altijd zal ontbreken.

Peter,

Dank voor de update, waar inderdaad geen noemenswaardige verschillen voldoende opvallen om die (weer) op te rakelen.

Het opgewekte venijn zit in je laatste alinea omdat er geen mensheid is die zich wel of niet vergist.
En er hoeft ook niet te worden gewacht op het moment dat machines zelf machines bouwen.

Er zijn ruimschoots voldoende mensen met ook nog zeer uiteenlopende belangen die daardoor garant staan voor het ontstaan van intelligent opererende systemen die door mensen worden onderhouden.

Ik zal eerst nog eens in de A.I. "bijscholen", voor ik dit verder toelicht.

Roeland

[Peter van Velzen]

Slavernij was tot 155 jaar geleden ook legaal. dat is dus niet van belang.

Natuurlijk wel. Het wijst erop dat je eigendom niet kan gebruiken om een onderscheid te maken tussen machines en mensen.

Dat kan ik wel! Jij kunt dat misschien niet. Het gaat overigens niet alleen om het eigendom, maar om de aanwei\zigheid van een ontwerper, en om wat het beestje doet. Als het uitsluitend doet wat de ontwerper en/of de eigenaar wil, dan is het - ook in mijn ogen een machine. Als het daarentegen eigen doelen kent die daar niets mee te maken hebben, dan acht ik het geen machine meer, maar iets anders. IK vindt dat zo vanzelfsprekend dat ik dat er niet bij heb verteld. Dat blijkt een vergissing. Anderen denken dat het hebben van een eigenaar en/of ontwerper geen verschil maakt in het gedrag. Ik ben verbaasd, maar moet me blijkbaar aanpassen aan hebbelijkheden van mijn gesprekspartners.

[heeck]

knip. . .knip
Dat blijkt een vergissing. Anderen denken dat het hebben van een eigenaar en/of ontwerper geen verschil maakt in het gedrag. Ik ben verbaasd, maar moet me blijkbaar aanpassen aan hebbelijkheden van mijn gesprekspartners.

Peter,

Het kon vroeger wel verschil maken, maar het is als werkelijk onderscheid makende demarkatie door de werkelijkheid ingehaald.
De hebbelijkheden moet je daarom de moderne tijden aanwrijven en niet mij/ons.

Troostende, hoog-abstracte toelichting bij je tot heden lineaire perspectief dat inwisseling behoeft.



Roeland

[Peter van Velzen]

knip. . .knip
Dat blijkt een vergissing. Anderen denken dat het hebben van een eigenaar en/of ontwerper geen verschil maakt in het gedrag. Ik ben verbaasd, maar moet me blijkbaar aanpassen aan hebbelijkheden van mijn gesprekspartners.

Peter,

Het kon vroeger wel verschil maken, maar het is als werkelijk onderscheid makende demarkatie door de werkelijkheid ingehaald.
De hebbelijkheden moet je daarom de moderne tijden aanwrijven en niet mij/ons.

Hoezo? Is er tegenwoordig dan geen onderscheid meer tussen de belangen van eigenaren en ontwerpers en andere doelen? sinds wanneer?

[Petra]

@Roeland,
Geweldig die Fetch, spelen met perceptie.
Waar je met wat inspiratie al niet komt hè
Troost: Je kunt nu tenminste een flinke slok van mijn intense krachtwatertje nemen.

Deze is ook goed:

[axxyanus]

Slavernij was tot 155 jaar geleden ook legaal. dat is dus niet van belang.

Natuurlijk wel. Het wijst erop dat je eigendom niet kan gebruiken om een onderscheid te maken tussen machines en mensen.

Dat kan ik wel!

Ja je kan dat in de betekenis dat je drogredenen kan gebruiken.

Het gaat overigens niet alleen om het eigendom, maar om de aanwei\zigheid van een ontwerper,

Dat is niet waar, want toen ik met het gedachten experiment kwam van een gebouwde mens, was dat nog steeds een mens in jouw ogen.[/quote]

en om wat het beestje doet. Als het uitsluitend doet wat de ontwerper en/of de eigenaar wil, dan is het - ook in mijn ogen een machine. Als het daarentegen eigen doelen kent die daar niets mee te maken hebben, dan acht ik het geen machine meer, maar iets anders.

Met andere woorden, je gebruikt hier een andere maatstaf als je oorspronkelijk deed.

IK vindt dat zo vanzelfsprekend dat ik dat er niet bij heb verteld. Dat blijkt een vergissing. Anderen denken dat het hebben van een eigenaar en/of ontwerper geen verschil maakt in het gedrag. Ik ben verbaasd, maar moet me blijkbaar aanpassen aan hebbelijkheden van mijn gesprekspartners.

Wij kunnen enkel voortgaan op wat jij hier schrijft. Veel zaken die mensen als vanzelfsprekend aannemen zijn dat in werkelijkheid niet.