Kan een computer bewustzijn hebben?

[Petra]

Zeker!, Maar ik had het niet over PC-s en ook niet over jouw TV-filmpje met een hakkelige robotpop.

Dat er nu programma's zijn gerealiseerd die volkomen autonoom patronen kunnen ontwaren, dat is de schuiver vooruit.

Of er dan nog een inderdaad uiterst complex spraaksysteem aan zou moeten worden gekoppeld is van minder belang.

Roeland

met modderpatronen schuiven bijvoorbeeld?

Wat spraak betreft:

Computers kunnen onderling draadloos communiceren en kunnen jou, en een bewustzijn, daar mogelijk prima bij missen.
Er was al een gerucht over zo een communicatie in een voor mensen niet te volgen jargon:
.Onderzoekers Martín Abadi en David G. Andersen van Google Brain slaagden erin om twee AI-systemen met elkaar een geheimtaal te laten bedenken, zonder menselijke tussenkomst. Een derde AI, die moest proberen de code te kraken, slaagde daar niet in. Abadi en Andersen postten hun experiment vorige maand op de wetenschappelijke site ArXiv. . .

Ik las in die link:

Volgens de onderzoekers wijst hun studie erop dat kunstmatige intelligenties in de toekomst in staat zullen zijn om zelf versleutelingen te bedenken. Én het laat zien dat het type AI's waarmee ze werkten niet goed zijn in het ontcijferen ervan, schrijven ze.

Het deed me denken aan wat ik erover gelezen had en daar zat anders in elkaar. De opdracht was om te verkopen, ze bedachten ZELF een geheimtaal en gingen zelfs liegen.
Jouwe was van 2016. Mijne blijkt 2017 te zijn.
Gevonden! :

https://www.ad.nl/wetenschap/robots-ali ... ~ac939eec/

Alice en Bob leerden onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waarover de spraakrobots ook moesten onderhandelen. Dat had moeten uitmonden in hightech onderhandelingssoftware die zo goed is dat mensen die ermee in gesprek zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk met een robot bezig waren.

Zo ver komt het vooralsnog niet. Toen de robots de vrije hand kregen om de algoritmes van hun gesprekken beter en efficiënter te maken, begonnen de robots vreemde codewoorden en herhalingen te gebruiken. Zo begon Bob plots ,,Ik kan ik ik alle andere dingen.." te zeggen. Waarop Alice antwoordde: ,,Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”

Het gesprek tussen de machines ging daarop nog even door. En er is meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.

Nou zie ik weer een hele hoop dwarsverbanden.
Als computers met mensen kunnen praten en die mensen niet weten dat het een computer is, dan zijn het volgens Peter mensen! Zie: Gedachten delen.

Een ander puntje is.. als computers taal kunnen ontwikkelen en liegen.. zou je dat bewustzijn kunnen noemen?

Ook een interessant verband i.v.m. wat ik al eerder hier aanhaalde, en onderaan nog een keer quote.
Zou het ontwikkelen van taal en liegen een bewijs zijn voor hetgeen zij stelt?
viewtopic.php?f=44&t=17119&p=557454&hil ... re#p557454

Wat doet die technologie op de achtergrond?
https://www.susanblackmore.uk/memetics/

She makes a bold new argument: Humanity has spawned a new kind of meme, the teme, which spreads itself via technology -- and invents ways to keep itself alive

[Peter van Velzen]

[sizedimg=][/sizedimg]

Hetgeen in strijd is met alle ervaringen!

Behalve Bijna Dood Ervaringen dan.

Nee , er is pas sprake van een bijna-dood ervaring als de hersenen van de persoon in kwestie weer functioneren. Tot op dat moment kunnen wij niets waarnemen van die betreffende ervaring, Je kunt er over twisten hoe die herinnering tot stand komt, en op welk tijdstip wat gebeurde, maar het hebben van de betreffende herinneringen wordt pas ervaren als de persoon weer bij kennis is.

Daarom is er ook nooit sprake van helemaal-dood ervaringen. Het terugkeren van het bewustzijn is een absolute voorwaarde voor het hebben van welke ervaring dan ook. Dat de persoon in kwestie denkt dat de ervaring tot stand is gekomen tijdens de periode van bewusteloosheid, neemt niet weg dat hij er zich pas van bewust is als die voorbij is.

[heeck]

Nou zie ik weer een hele hoop dwarsverbanden.
Als computers met mensen kunnen praten en die mensen niet weten dat het een computer is, dan zijn het volgens Peter mensen! Zie: Gedachten delen.

Naarmate de omstandigheden drastisch aan het wijzigen zijn passen de oudere woordbetekenissen en opvattingen vaak zo slecht dat ze moeten worden herzien.
Turing had dat al ruim een halve eeuw geleden heel goed in het vizier.
https://www.csee.umbc.edu/courses/471/papers/turing.pdf

Roeland

[Delight]

Nee , er is pas sprake van een bijna-dood ervaring als de hersenen van de persoon in kwestie weer functioneren. Tot op dat moment kunnen wij niets waarnemen van die betreffende ervaring, Je kunt er over twisten hoe die herinnering tot stand komt, en op welk tijdstip wat gebeurde, maar het hebben van de betreffende herinneringen wordt pas ervaren als de persoon weer bij kennis is.

Daarom is er ook nooit sprake van helemaal-dood ervaringen. Het terugkeren van het bewustzijn is een absolute voorwaarde voor het hebben van welke ervaring dan ook. Dat de persoon in kwestie denkt dat de ervaring tot stand is gekomen tijdens de periode van bewusteloosheid, neemt niet weg dat hij er zich pas van bewust is als die voorbij is.

Mee eens. De ervaring is subjectief, zoals in wezen elke 'ervaring'. Maar als jij zegt dat je uitgescholden werd op straat, en men gelooft je niet omdat er geen bewijs voor hebt, zal je niet zeggen: "O ja, dan zal ik het zeker niet ervaren hebben!" (Alhoewel je dat in principe natuurlijk wel zou kunnen doen )

[Delight]

De functionaliteit van de software bepaalt het gedrag van de computer.

Bewustzijn kan eigenlijk alleen bepaald worden door de elektronische patronen in de elektronische circuits, mogelijk omdat die tijdvariant zijn.

Twee computers met hetzelfde gedrag vertoond door functioneel identieke, maar verschillend hardgecodeerde software hebben verschillende elektronische patronen.

Dan hebben we de situatie dat twee computers met verschillende elektronische patronen, en dus verschillend bewustzijn, zich identiek gedragen.

Dan hebben het bewustzijn en het gedrag geen verband, en dat is een tegenspraak.

Dit is een principieel argument.

PS: Ik heb het timing-verschil tussen de twee platforms vergeten. Daardoor reageren de platforms verschillend.

Maar dan nog vraag ik me af waarom een tekstverwerker niet bewust zou zijn maar een robot wel. Elektronische patronen zijn in beide aanwezig.

[Delight]

Misschien moet ik in termen van functionaliteit denken; twee tekstverwerkers met dezelfde functionaliteit kunnen geheel verschillende elektronische patronen hebben. Iets soortgelijks geldt voor AI.

[axxyanus]

Eenvoudiger gezegd:

De functionaliteit van de software bepaalt het gedrag van de computer.

Bewustzijn kan eigenlijk alleen bepaald worden door de elektronische patronen in de elektronische circuits, mogelijk omdat die tijdvariant zijn.

Twee computers met hetzelfde gedrag vertoond door functioneel identieke, maar verschillend hardgecodeerde software hebben verschillende elektronische patronen.

Dan hebben we de situatie dat twee computers met verschillende elektronische patronen, en dus verschillend bewustzijn, zich identiek gedragen.

Die en dus is een non-sequitur.

Wiskundig/logisch gezien zeg je dat bewustzijn een functie is van electronische patronen. Dus b = f(P). Wat jij nu probeert te doen is de volgende afleiding: P₁ ≠ P₂ ⇒ f(P₁) ≠ f(P₂) maar dat is geen geldige logische afleiding.

[Delight]

Die en dus is een non-sequitur.

Wiskundig/logisch gezien zeg je dat bewustzijn een functie is van electronische patronen. Dus b = f(P). Wat jij nu probeert te doen is de volgende afleiding: P₁ ≠ P₂ ⇒ f(P₁) ≠ f(P₂) maar dat is geen geldige logische afleiding.

Ok. Maar welke functie is dan die f?

[axxyanus]

Die en dus is een non-sequitur.

Wiskundig/logisch gezien zeg je dat bewustzijn een functie is van electronische patronen. Dus b = f(P). Wat jij nu probeert te doen is de volgende afleiding: P₁ ≠ P₂ ⇒ f(P₁) ≠ f(P₂) maar dat is geen geldige logische afleiding.

Ok. Maar welke functie is dan die f?

Waarom vraag je dat aan mij? Dat heeft voor het aantonen van de ongeldigheid van je argument namelijk geen enkel belang.

[Delight]

Waarom vraag je dat aan mij? Dat heeft voor het aantonen van de ongeldigheid van je argument namelijk geen enkel belang.

Als ik het goed begrijp zeg jij dat twee verschillende elektronische patronen dezelfde bewustzijnservaring kunnen zijn, klopt dat?

Waar zit 'm dat dan in?

[Petra]

Naarmate de omstandigheden drastisch aan het wijzigen zijn passen de oudere woordbetekenissen en opvattingen vaak zo slecht dat ze moeten worden herzien.
Turing had dat al ruim een halve eeuw geleden heel goed in het vizier.
https://www.csee.umbc.edu/courses/471/papers/turing.pdf

Roeland

Nice

We can only see a short distance ahead, but we can see plenty there that needs to be done.

Turing was idd een visionair.
Nou stond er een hoop aardigs in het epistel maar ik las ook nog een stukkie tijdsgeest; het maakbare kind/mens als een tabula rasa.
Die gedachte heeft voor een hoop problemen gezorgd, bv. bij het deprogrammeren van homoseksuelen.

P.B.
Heb nog nooit zoooooo vaak de woorden obey, obeyed, obedience in een tekst zien staan

[Peter van Velzen]

Mee eens. De ervaring is subjectief, zoals in wezen elke 'ervaring'. Maar als jij zegt dat je uitgescholden werd op straat, en men gelooft je niet omdat er geen bewijs voor hebt, zal je niet zeggen: "O ja, dan zal ik het zeker niet ervaren hebben!" (Alhoewel je dat in principe natuurlijk wel zou kunnen doen )

Er is een verschil tussen mensen die denkenk te worden uitgescholden en mensen die zoveel hersenfuctie hebben verloren dat ze bijna dood gingen. Eerstgenoemden waren bij bewustzijn toen het schelden al dan niet plaats vondt, de andere groep was buiten westen.

Overigens neem ik het niemand kwalijk die zelf zo'n ervaring heeft gehad, dat hij denkt dat hij echt buiten zijn lichaam was. De rvaring schijnt nogal intens te zijn, Maar wie er als wetenschapper mee te maken eeft mag best sceptischer zijn, Wij ZIJN ons lichaam voor zover we dat kunnen controleren.

[axxyanus]

Waarom vraag je dat aan mij? Dat heeft voor het aantonen van de ongeldigheid van je argument namelijk geen enkel belang.

Als ik het goed begrijp zeg jij dat twee verschillende elektronische patronen dezelfde bewustzijnservaring kunnen zijn, klopt dat?

Waar zit 'm dat dan in?

Neen, ik wijs er op dat uw basisaannames dat niet uitsluiten.

Maar goed, dat denk ik inderdaad. Om de heel eenvoudige reden dat er verschillende patronen zijn, die elk het getal vijf kunnen voorstellen. Dus een zelfde bewustzijn dat om wat voor reden aan het getal vijf denkt, kan verschillen door de manier waarop die vijf elektronisch is voorgesteld. Dus verschillend patroon, toch het zelfde bewustzijn.

[Delight]

Neen, ik wijs er op dat uw basisaannames dat niet uitsluiten.

Maar goed, dat denk ik inderdaad. Om de heel eenvoudige reden dat er verschillende patronen zijn, die elk het getal vijf kunnen voorstellen. Dus een zelfde bewustzijn dat om wat voor reden aan het getal vijf denkt, kan verschillen door de manier waarop die vijf elektronisch is voorgesteld. Dus verschillend patroon, toch het zelfde bewustzijn.

Ja, je kan een groene vijf en een blauwe vijf hebben. Volgens mij kan het bewustzijn (wat ik denk dat er niet is) alleen in het elektronische patroon zitten, want dat is de combinatie van hard- en software, en dat is de tijdvariante agent. De vorm van het patroon is dan dus representatief voor de beleving die de machine heeft. Als het patroon anders is, is er dus iets anders aan de beleving. Als je zegt dat de beleving hetzelfde kan blijven, zeg je dat bepaalde gedeelten van het patroon niet aan de beleving bijdragen en sommige wel. Maar het betreft precies gelijksoortige elektronica, dus dat zou nogal willekeurig zijn.

Ik geloof dat dit niet consistent is en ik geloof dan ook niet dat er bewustzijn in de machine zit.

[axxyanus]

Neen, ik wijs er op dat uw basisaannames dat niet uitsluiten.

Maar goed, dat denk ik inderdaad. Om de heel eenvoudige reden dat er verschillende patronen zijn, die elk het getal vijf kunnen voorstellen. Dus een zelfde bewustzijn dat om wat voor reden aan het getal vijf denkt, kan verschillen door de manier waarop die vijf elektronisch is voorgesteld. Dus verschillend patroon, toch het zelfde bewustzijn.

Ja, je kan een groene vijf en een blauwe vijf hebben.

Neen, ik bedoel bv dat de hardware zowel little endian als big endian kan georganiseerd zijn, zowel op bit als op byte nivo. Denk je nu werkelijk dat een eventueel artificieel bewustzijn anders zou zijn enkel omdat de hardware op dit vlak anders georganiseerd is? Ik zie geen enkel reden waarom een onbeduidende keuze op dit vlak een verschillend resultaat zou opleveren in resultaten op de hogere nivo's.

Volgens mij kan het bewustzijn (wat ik denk dat er niet is) alleen in het elektronische patroon zitten, want dat is de combinatie van hard- en software, en dat is de tijdvariante agent. De vorm van het patroon is dan dus representatief voor de beleving die de machine heeft. Als het patroon anders is, is er dus iets anders aan de beleving.

Niet noodzakelijk.

Als je zegt dat de beleving hetzelfde kan blijven, zeg je dat bepaalde gedeelten van het patroon niet aan de beleving bijdragen en sommige wel.

Neen, het besluit dat je probeert te trekken volgt niet uit die eerste aanname.

Een rij getallen bepaald de som ervan. Elk getal draagt bij tot de som. Toch kunnen verschillende rijen tot de zelfde som leiden. Dit is een duidelijk voorbeeld waarbij het ene het andere bepaald en het toch mogelijke is dat verschillende configuraties van het ene tot het zelfde andere leiden en waarbij elk deel van het ene bijdraagt om tot het specifieke andere te komen.