Kan een computer bewustzijn hebben?

[Hopper]

Ik heb de discussie niet meer zo gevolgd, maar is het al bekend wat we minimaal onder bewustzijn verstaan? Zolang we niet weten waar we naar zoeken is het lastig om te bepalen of een computer bewustzijn kan hebben. Maar er kan mij uiteraard iets ontgaan zijn in de woordenbrei hier. Ik laat me graag terecht wijzen.

[Delight]

Consciousness is the state or quality of awareness or of being aware of an external object or something within oneself.[1][2] It has been defined variously in terms of sentience, awareness, qualia, subjectivity, the ability to experience or to feel, wakefulness, having a sense of selfhood or soul, the fact that there is something "that it is like" to "have" or "be" it, and the executive control system of the mind.[3] Despite the difficulty in definition, many philosophers believe that there is a broadly shared underlying intuition about what consciousness is.[4] As Max Velmans and Susan Schneider wrote in The Blackwell Companion to Consciousness: "Anything that we are aware of at a given moment forms part of our consciousness, making conscious experience at once the most familiar and most mysterious aspect of our lives."[5]

https://en.wikipedia.org/wiki/Consciousness

[Delight]

Ik heb de discussie niet meer zo gevolgd, maar is het al bekend wat we minimaal onder bewustzijn verstaan? Zolang we niet weten waar we naar zoeken is het lastig om te bepalen of een computer bewustzijn kan hebben.

In zekere zin weet vrijwel iedere gezonde volwassene waarschijnlijk toch wel wat bewustzijn is, zou je toch zeggen? Iedereen heeft er wel een idee bij, en omdat iedereen het ervaart, weten we het uit ervaring zou je zeggen... Een definitie van bewustzijn is denk ik wel lastig. Misschien is "beleving" een beter woord, hoewel dat ook subjectief is. Maar is bewustzijn misschien (puur) subjectief en misschien niet objectiveerbaar? Dat betekent nog wel dat als je "bewustzijn" zegt, de meesten weten wat je bedoelt!

[Hopper]

Ik heb de discussie niet meer zo gevolgd, maar is het al bekend wat we minimaal onder bewustzijn verstaan? Zolang we niet weten waar we naar zoeken is het lastig om te bepalen of een computer bewustzijn kan hebben.

In zekere zin weet vrijwel iedere gezonde volwassene waarschijnlijk toch wel wat bewustzijn is, zou je toch zeggen? Iedereen heeft er wel een idee bij, en omdat iedereen het ervaart, weten we het uit ervaring zou je zeggen... Een definitie van bewustzijn is denk ik wel lastig. Misschien is "beleving" een beter woord, hoewel dat ook subjectief is. Maar is bewustzijn misschien (puur) subjectief en misschien niet objectiveerbaar? Dat betekent nog wel dat als je "bewustzijn" zegt, de meesten weten wat je bedoelt!

Ik denk dat je dicht bij "dat waar het om gaat” hier aan roert. Bewustzijn is geen object en daarom niet objectiveerbaar. Waarbij we het begrip object behoorlijk breed dienen te trekken. Vergelijk het met evolutie. We weten hoe evolutie werkt, we weten wat er uit voortkomt (wijzelf), maar evolutie zélf is nergens te vinden. M.a.w. we kunnen alleen een omschrijving van bewustzijn geven. Die vind ik dan ook weer terug op Wiki. Er is dus een reden waarom we bewustzijn nergens in de hersens aan treffen en die reden is dat bewustzijn geen object is. Bewustzijn is dus (puur) subjectief zoals je schrijft. En ontstaat (volgens mij dan) tijdens het waarnemen van anderen, waarbij er het bewustzijn ontstaat dat er iets anders is buiten het subject zelf.


Let wel: ik gebruik hier het woord ontstaat, maar dat is foutief woordgebruik van mij. Vergelijk het wederom met evolutie. Evolutie ontstaat ook niet, evolutie was al aanwezig voordat het eerste organisme bestond. Organismes verschenen IN de evolutie. We dienen dus een beetje anders te denken. Je hebt de dingen welke we goed kunnen benoemen. En hebben dingen die we alleen kunnen omschrijven, maar niet kunnen benoemen. Evolutie en bewustzijn dus. (En nog wel meer zaken)

Kant zei al dat dat ons kenvermogen gekleurd is en dat we het ding an sich niet kunnen kennen. En daar zijn we volledig aangewezen op ons intellect en de mate van vrijheid waarin dat intellect verkeert. Eenvoudiger gezegd: je hebt de dingen en je hebt de dingloosheid. Dingen kunnen we uitstekend begrijpen, dingloosheid wat minder. Dat komt omdat ons denken abstract en rationeel is.

[Delight]

Let wel: ik gebruik hier het woord ontstaat, maar dat is foutief woordgebruik van mij.

Ik pik dit even uit wat je schreef. Betekent dat dat bewustzijn geen emergent verschijnsel kan zijn? (Dat wil zeggen: "ontstaat" uit een fysieke drager?) Ook omdat iedereen een persoonlijk perspectief heeft (vanuit zichzelf), wat ik op zich ook al heel raadselachtig vind.

[Hopper]

Let wel: ik gebruik hier het woord ontstaat, maar dat is foutief woordgebruik van mij.

Ik pik dit even uit wat je schreef. Betekent dat dat bewustzijn geen emergent verschijnsel kan zijn? (Dat wil zeggen: "ontstaat" uit een fysieke drager?) Ook omdat iedereen een persoonlijk perspectief heeft (vanuit zichzelf), wat ik op zich ook al heel raadselachtig vind.

Dat betekent inderdaad dat bewustzijn geen emergent verschijnsel is. De logica zegt dat er een fysiek brein is en dat door de werking van het brein zoiets als bewustzijn als emergent verschijnsel ontstaat. Trek je die logica door, dan bouw je een computerbrein en dan moet daar ook een bewustzijn in ontstaan. Daar kan je dan weer een ingewikkelde discussie aan vast knopen, maar dat is een onvrije denkbeweging.

Daarom maak ik ook de vergelijking met evolutie. Evolutie is ook geen emergent verschijnsel. Ergo, het is niet eens een verschijnsel. En aan enkel één organisme heb je niet voldoende om evolutie te doen ontstaan. (Je hebt ook een leefomgeving nodig) Organisme en leefomgeving zijn verschijnselen welke tot ontwikkeling komen in de evolutie. Evolutie op zich is dus dingloos.

Terug naar bewustzijn: Bewustzijn is de toestand van bewustzijn of van bewust zijn van een extern object of iets in zichzelf. (Uit je eigen wiki quote) Bewustzijn zelf is geen verschijnsel. Het ontstaat aan de hand van het bewust zijn van een extern object. Zonder externe objecten kan er geen bewustzijn zijn. Jouw (persoonlijk) bewustzijn is dus afhankelijk van alles wat extern is en door de vergelijking hiermee ontstaat er een persoonlijk perspectief. Jij hebt immers geheel andere ervaringen opgedaan als ik. Daarom ben jij iemand anders.

Maar het wordt nog leuker. Jij bent voor mij een extern object en ik ben dat voor jou! Ik ben dus zowel subject als object, maar wel afhankelijk van de positie. Je ziet dat logica je van A naar B brengt, maar als je je denken werkelijk vrij maakt dat er andere inzichten mogelijk zijn. Ik claim geen waarheid (die bestaat namelijk niet), want dan slaat men mij met de logica uit de eerste alinea om de oren. Sommigen zijn immers van mening dat vrijdenken de beste keuze is uit twee tegenovergestelde beweringen. Dat is juist onvrij denken.

[Peter van Velzen]

De titel is "Kan een computer bewustzijn hebben? " en niet "heeft elke computer bewustzijn?" Dus is het de vraag wat we minimaal onder bewustzijn verstaan en of dat gebouwd kan worden.

Het probleem is dat de vraag uit de titel niet of nauwelijks beantwoord kan worden, omdat we helemaal nog niet weten dat het fenomeen dat wij als "bewustzijn" ervaren veroorzaakt. '"De vraag heeft elke computer bewustzijn?" Is inderdaad niet aan de orde, want geen enkele computer heeft momenteel bewustzijn. Zoveel is wel zeker. Ik denk dat het feit dat wij fysiek veranderen als gevolg van onze om formatie-verwerking er wat mee te maken heeft, maar ik kan dat evengoed mis hebben.

Machines zijn echter wel in staat om anders te handelen op grond van de informatie die zij binnen krijgen. Ze zijn als zodanig niet "bewusteloos", maar hun scala aan mogelijke reacties is veel beperkter dan het onze. Ze missen veel functies waar wij wel over beschikken, zoals onze vele zintuigen, onze spraak en onze bewegingsmogelijkheden. Maar daarenboven vermoeden we dat we nog iets hebben dat bewust denken inhoud. Een waarnemen en beoordelen van onze informatie-verwerking. Wat Daniël Kahneman "systeem 2" noemt. Computers hebben niet of nauwelijks een systeem 2, wel een razendsnel systeem 1. Maar zelf hun systeem 1, is wellicht minder veelzijdig dan het onze. Wat ze aan systeem 2 hebben is hoogstens: "win ik dit potje go?" (alpha-zero). En hun systeem 1 is eveneens meestal erg eenzijdig. Te eenzijdig om als bewust denken te worden beschouwd.

Mogelijkerwijs zou een veel grotere veelzijdigheid al voldoende kunnen zijn om een machine van bewustzijn te voorzien. UIteraard blijft dan mijn bewering "de na-aap is geen machine" overeind staan, want ook als een machine bewustzijn zou hebben, dan nog is hij ons eigendom, en dient hij ons te gehoorzamen. Ik denk niet dat iemand een machine wil die op eigen houtje in actie komt. Er zijn wellicht mensen die machines willen hebben waarmee ze andere mensen kunnen manipuleren, maar niemand wil daar zelf het slachtoffer van worden. De schepper en eigenaar van de machine wil alleen een "sterke" slaaf, geen concurrent.

[Bonjour]

Wat Daniël Kahneman "systeem 2" noemt. Computers hebben niet of nauwelijks een systeem 2, wel een razendsnel systeem 1

Ik denk dat we eerst terug moeten naar de discussie over vrije wil. Daar is een stroming waar ik ook toe behoor die zegt dat we slechts automaten zijn. Het bewustzijn is dan niet iets wat aanstuurt, maar een verslaggever. Als dat het geval is, is dat vergelijkbaar met een pc thuis. Het OS is bewust van de afzonderlijke programma's, stuurt ze bij, maakt af en toe verslaglegging in een logfile, etc.
Op het moment dat je een pc in een robot stopt en meer van input afhankelijk maakt, ben je er al.
Maar de meesten willen iets bijzonders van het bewustzijn maken en dat bijzondere is niet te programmeren.

We moeten ons niet te bijzonder vinden omdat we al zoveel ontdekt hebben, als digitale horloges.

[Petra]

We moeten ons niet te bijzonder vinden omdat we al zoveel ontdekt hebben, als digitale horloges.

Ik vind dat WE onszelf WEL bijzonder moeten vinden. Eerlijk gezegd ... kan het mij niet bijzonder genoeg zijn!
Een computer (zelfs eentje met bewustzijn) IS GEEN MENS. En het wordt het ook niet.
Een computer of automaat is een gebruiksvoorwerp. Mensen zijn levende wezens met eigen wensen/willen/voor en afkeuren.

Computers/automaten flikker je zonder problemen bij het groot afval.
Er zijn gekken geweest die dat ook met mensen hebben gedaan, gewoon omdat ze ze niet menswaardig genoeg vonden.
Is dat het dan? Hebben we nou nog steeds niks geleerd?


Ik krijg de kriebels als ik eraan denk hoe de wereld eruit ziet als we mensen niet meer als menselijk of mede-menselijk beschouwen maar als automaten of machines. Als ik alleen maar kijk hoe we met dieren omgaan dan rijzen me de haren ten berge bij de gedachte hoe we met automaten zouden omgaan.
Het enige wat ons nog een beeeetje redelijk in verhouding tot elkaar laat staan is volgens mij onze (mede-)menselijkheid.

De christenen beschouwden mensen als zondige onderkruipsels, het is volgens mij daardoor dat ze met groot gemak mensen o.a. op brandstapels flikkerden.
Toen ik in Nanjing woonde zat ik zo ongeveer wekelijks in het Nanjing Massacre museum.
Ik zat me daar vooral de kop te breken over hoe het zover kon komen. Hoe mensen tot zulke gruweldaden kunnen komen.
Daar heb ik destijds vele vele onderzoeken voor uitgespit. (Er zijn ook flink wat onderzoeken naar gedaan).
Wat me vooral is bijgebleven...

-De keizer was een goddelijk figuur.
-Het Japanse volk was voetvolk en was er alleen om de keizer te dienen.
-Desondanks waren ze wel superieur aan alle andere rassen.
-Andere rassen werden niet als (mede) mensen beschouwd.

https://en.wikipedia.org/wiki/Japanese_war_crimes

On the battlefield, we never really considered the Chinese humans. When you're winning, the losers look really miserable. We concluded that the Yamato race [i.e., Japanese] was superior.[99]

https://historianet.nl/oorlog/tweede-we ... gsmisdaden

De soldaten hebben bevel om gevoelens van menselijkheid te beteugelen en zo wreed mogelijk te werk te gaan.

[Bonjour]

Ik vind dat WE onszelf WEL bijzonder moeten vinden.

Ik denk dat dat een ander soort bijzonder is. Het is het bijzonder zijn als individu, maar niet het bijzonder als mensheid.
Mensen zijn vaak net zo voorspelbaar als computers. Sterker nog, ik kan programma's maken die minder voorspelbaar zijn dan mensen. Zo af en toe doe ik tenslotte dat ook per ongeluk.

[heeck]

Turing was idd een visionair.
Nou stond er een hoop aardigs in het epistel maar ik las ook nog een stukkie tijdsgeest; het maakbare kind/mens als een tabula rasa.
Die gedachte heeft voor een hoop problemen gezorgd, bv. bij het deprogrammeren van homoseksuelen.

Het ging mij om de visie die hij toen al etaleerde inzake AI en het menselijk onderscheidingsvermogen; niet om de tijdgeestjes waar jij nu naar overstapt.

Roeland

[axxyanus]

Computers/automaten flikker je zonder problemen bij het groot afval.
Er zijn gekken geweest die dat ook met mensen hebben gedaan, gewoon omdat ze ze niet menswaardig genoeg vonden.
Is dat het dan? Hebben we nou nog steeds niks geleerd?


Ik krijg de kriebels als ik eraan denk hoe de wereld eruit ziet als we mensen niet meer als menselijk of mede-menselijk beschouwen maar als automaten of machines. Als ik alleen maar kijk hoe we met dieren omgaan dan rijzen me de haren ten berge bij de gedachte hoe we met automaten zouden omgaan.

Maar uiteindelijk zijn mensen ook dieren. Blijkbaar houdt ons dat niet tegen om een onderscheid te maken tussen mensen en andere dieren. Waarom zou het dan een probleem zijn om te aanvaarden dat mensen ook (een vorm van) automaten zijn.

[Petra]

Ik vind dat WE onszelf WEL bijzonder moeten vinden.

Ik denk dat dat een ander soort bijzonder is. Het is het bijzonder zijn als individu, maar niet het bijzonder als mensheid.
Mensen zijn vaak net zo voorspelbaar als computers. Sterker nog, ik kan programma's maken die minder voorspelbaar zijn dan mensen. Zo af en toe doe ik tenslotte dat ook per ongeluk.

OK.
Maar je kunt toch niet op die grond beweren dat we nu weer computers ZIJN?
Dan is het voorspelbaar zijn in mijn optiek gewoon één van de vele eigenschappen die we kunnen toevoegen aan dé mens.
Zouden computers ook per ongeluk dingen kunnen doen?

Overigens...
Gaat dit topic over de vraag of een computer bewustzijn kan hebben. Dat is volgens mij een heel ander onderwerp dan waar we het nu over hebben.
Is het niet beter om dit te verplaatsen naar: Verschillen tussen mens & machine

[Petra]

Computers/automaten flikker je zonder problemen bij het groot afval.
Er zijn gekken geweest die dat ook met mensen hebben gedaan, gewoon omdat ze ze niet menswaardig genoeg vonden.
Is dat het dan? Hebben we nou nog steeds niks geleerd?


Ik krijg de kriebels als ik eraan denk hoe de wereld eruit ziet als we mensen niet meer als menselijk of mede-menselijk beschouwen maar als automaten of machines. Als ik alleen maar kijk hoe we met dieren omgaan dan rijzen me de haren ten berge bij de gedachte hoe we met automaten zouden omgaan.

Maar uiteindelijk zijn mensen ook dieren. Blijkbaar houdt ons dat niet tegen om een onderscheid te maken tussen mensen en andere dieren. Waarom zou het dan een probleem zijn om te aanvaarden dat mensen ook (een vorm van) automaten zijn.

Ik vind het prima.
We zijn dieren. Helemaal goed. We zijn een specifieke soort dier, en die noemen we ...mens.
Ik heb er ook geen probleem mee dat we automatisch handelen. Dat doen we niet voor niks, zonder dat kan ik niet autorijden bijvoorbeeld. (Al sta ík nou niet bepaald bekend vanwege mijn geweldige rijkunsten ).
Ik vind het ook prima dat we voorspelbaar zijn. En dat we een brein hebben die nogal bepalend is voor ons doen en laten.
Waar ik wel een probleem mee heb is als we onszelf niet meer als mensen beschouwen, omdat je dan de menselijkheid eruit filtert.
We ZIJN niet ons brein, we ZIJN geen machines etc. we zijn mensen met menselijke eigenschappen.
Waarom is het voor jullie nou zo'n strijdpunt om jezelf gewoon mens te noemen?
Ik snap het niet. Gewoon écht niet, wat het voordeel is als we onszelf automaat noemen. Ik zie alleen maar nadelen.

P.S.
Ook dit is m.i. hier OT.
Ik had er een topic voor geopend: Verschillen tussen mens & machine

[Petra]

Het ging mij om de visie die hij toen al etaleerde inzake AI en het menselijk onderscheidingsvermogen; niet om de tijdgeestjes waar jij nu naar overstapt.

Roeland

Ja hoooooor, die had ik heus wel begrepen, met name de menselijke kunst om AI te kunnen onderscheiden.

Hetgeen met mijn eenvoudige geestje geen sinecure is natuurlijk.
Met kleine stapjes vooruit dan maar, ik te schateren hier, echt waar, tranen met tuiten gewoon van het lachen.
Op ieder potje past een dekseltje zullen we maar denken.