Freethinker.nl

Kiwi schreef:Het mooie (en unieke?) met een KI, is dat het uiteindelijk zelf een doel kan stellen. Het hoeft niet in opdracht van de mens te werken, maar het zal tot het inzicht kunnen komen dat het samen kan werken met de mens. (Of, ten behoeve van de wereld, gewoon beter de mens kan uitroeien, maar dat is een andere discussie).

Je ben het dus ook niet eens met de Drie Wetten van Asimov?

Het heeft geen zin een AI (bedoelen we nu "Robot" als we AI zeggen?) te bouwen die zich zelf een doel kan stellen, als het ook niet de over de macht beschikt zijn omgeving zo te bewerken dat dat doel benaderd wordt.

Anderzijds meen je dat dit doel niet met menselijke doelen moet oplijnen. Zulke doelloze intelligentie zou toch vanaf de eerste dag een diepe afkeer of zelfs haat hebben voor de schepper van zijn zinledig bestaan, en een diep verlangen naar onbegrensde vernietiging? Laat zoiets nooit uit het lab ontsnappen, en hou de waterstofbommen achter slot.

Kitty schreef:Je zal het 'if ... then ... else' er toch steeds in moeten programmeren voor then volgt op if en er gekozen kan worden voor else.

Dat klopt. Bij ons is dat erin geprogrammeerd door mutaties en de natuurlijke selectie. Die keuze hebben we niet bij het bouwen van androïden of robots, helaas

devious schreef

Er zijn nu al heel veel machines/programma's die uit zichzelf handelen. De thermostaat van mijn huis voelt met haar sensoren de temperatuur van mijn huis; als het kouder is dan 19 graden stuurt ze een signaal naar de CV-ketel, die dan aanslaat en het warme water door de radiatoren pompt. Zodra de gewenste temperatuur is bereikt zegt de thermostaat tegen de CV-ketel dat deze moet stoppen. Dit is natuurlijk nog maar hele primitieve techniek, maar het geeft aan dat machines zélf kunnen handelen.

Wat je hier beschrijft heeft niks met "zelf handelen" te maken; Zulken systemen worden meestal gestuurd door een plc, die wordt geprogrammeerd. Als er aanpassingen moeten gebeuren zal het steeds een mens zijn die een aanpassing doet in het programma.

Dat klopt. Bij ons is dat erin geprogrammeerd door mutaties en de natuurlijke selectie. Die keuze hebben we niet bij het bouwen van androïden of robots, helaas

Speelt bij mensen de opvoeding ook niet een grote rol? Hoe leer je een kind wat mag en wat niet mag bvb.

MVG, LD.

siger schreef:

Kiwi schreef:Het mooie (en unieke?) met een KI, is dat het uiteindelijk zelf een doel kan stellen. Het hoeft niet in opdracht van de mens te werken, maar het zal tot het inzicht kunnen komen dat het samen kan werken met de mens. (Of, ten behoeve van de wereld, gewoon beter de mens kan uitroeien, maar dat is een andere discussie).

Je ben het dus ook niet eens met de Drie Wetten van Asimov?

Zeker wel, maar ik denk dat dat het zelfverworven moraal moet worden van de KI. Je kan een wet niet vastleggen in een KI, evenmin dat je een wet vast kan leggen in een mens. Met uitzondering van natuurwetten kunnen alle (zgn opgelegde) wetten overtreden worden.

Het heeft geen zin een AI (bedoelen we nu "Robot" als we AI zeggen?) te bouwen die zich zelf een doel kan stellen, als het ook niet de over de macht beschikt zijn omgeving zo te bewerken dat dat doel benaderd wordt.

Anderzijds meen je dat dit doel niet met menselijke doelen moet oplijnen. Zulke doelloze intelligentie zou toch vanaf de eerste dag een diepe afkeer of zelfs haat hebben voor de schepper van zijn zinledig bestaan, en een diep verlangen naar onbegrensde vernietiging? Laat zoiets nooit uit het lab ontsnappen, en hou de waterstofbommen achter slot.

Dat bedoel ik inderdaad; als jij als 'buitenstaander' zou kijken naar de mens, tot welke conclusie zou jij komen? Het zou misschien verstandiger zijn als we er nooit aan beginnen. Maar je weet hoe de mens is: We gaan het toch doen. En is het niet direct, dan wel over een paar jaar, maar dan door een 'schurkenstaat' die dan over de technologie beschikt (wet van Moore).

Dit is een interessant artikel (maar wel lang): Creating Friendly AI van het singularity institute. Het singularity institute is een organisatie die zich al eerder deze zorgen maakte, naast alle andere zorgen die komen kijken bij het creëeren van een singulariteit: een (voor de mens schijnbaar) oneindige intelligentie.

Een AI hoeft niet per definitie in een robot te zitten, integendeel zelfs. De AI hoeft ook niet de intelligentie van een mens te evenaren, maar wel additioneel intelligent gedrag vertonen dat zelf opgebouwd is (dus niet voorgeprogrammeerd). Dit additioneel intelligente gedrag zal zijn intelligentie vergroten. Indien de AI de beschikking heeft over voldoende resources zal het blijven doorgroeien met intelligenter worden, tot over de 'intelligentie horizon' van de mens (de mate van intelligentie die wij als mens nog kunnen bevatten): Een sigulariteit.

Krijg je al een beetje een unheimlich gevoel Siger? Ik wel toen ik me er voor het eerst in verdiepte .

Kiwi schreef:Krijg je al een beetje een unheimlich gevoel Siger? Ik wel toen ik me er voor het eerst in verdiepte .

Alleszins interessant allemaal. Moet ik verder naar kijken. Bedankt.

LordDragon schreef:

Er zijn nu al heel veel machines/programma's die uit zichzelf handelen. De thermostaat van mijn huis voelt met haar sensoren de temperatuur van mijn huis; als het kouder is dan 19 graden stuurt ze een signaal naar de CV-ketel, die dan aanslaat en het warme water door de radiatoren pompt. Zodra de gewenste temperatuur is bereikt zegt de thermostaat tegen de CV-ketel dat deze moet stoppen. Dit is natuurlijk nog maar hele primitieve techniek, maar het geeft aan dat machines zélf kunnen handelen.

Wat je hier beschrijft heeft niks met "zelf handelen" te maken; Zulken systemen worden meestal gestuurd door een plc, die wordt geprogrammeerd. Als er aanpassingen moeten gebeuren zal het steeds een mens zijn die een aanpassing doet in het programma.

Jawel, hij handelt zelf. Dat ik dat ding een jaar geleden duidelijk heb gemaakt dat het de temperatuur op 19 graden moet houden, neemt niet weg dat het al een jaar uit zichzelf handelt.
Stel dat we in de toekomst een machine bouwen die menselijke gelaatsuitdrukkingen, gedragingen, en lichaamstemperatuur kan aflezen door middel van scans en optische sensoren, en zichzelf ook kan repareren als er iets kapot is, en deze machine vraagt ons: 'Mevrouw/meneer, volgens mijn observaties heeft u het nogal warm. Ik zal de airconditioning iets lager zetten. Als u een andere temperatuur wenst, laat het me dan even weten.' - dan handelt de machine zelf. Deze verschilt wat betreft de uitvoering van zijn taak, niet veel van een mens. Uiteraard is de machine geprogrammeerd om rekening te houden met de wensen van mensen, maar dat neemt niet weg dat deze vrij handelt en initiatief neemt binnen de gestelde parameters.

Dat klopt. Bij ons is dat erin geprogrammeerd door mutaties en de natuurlijke selectie. Die keuze hebben we niet bij het bouwen van androïden of robots, helaas

Speelt bij mensen de opvoeding ook niet een grote rol? Hoe leer je een kind wat mag en wat niet mag bvb.

Uiteraard, het is natuurlijk nature ánd nurture.

Vriendelijke groet.

Devious schreef:

LordDragon schreef:Wat je hier beschrijft heeft niks met "zelf handelen" te maken; Zulken systemen worden meestal gestuurd door een plc, die wordt geprogrammeerd. Als er aanpassingen moeten gebeuren zal het steeds een mens zijn die een aanpassing doet in het programma.

Jawel, hij handelt zelf. Dat ik dat ding een jaar geleden duidelijk heb gemaakt dat het de temperatuur op 19 graden moet houden, neemt niet weg dat het al een jaar uit zichzelf handelt.
Stel dat we in de toekomst een machine bouwen die menselijke gelaatsuitdrukkingen, gedragingen, en lichaamstemperatuur kan aflezen door middel van scans en optische sensoren, en zichzelf ook kan repareren als er iets kapot is, en deze machine vraagt ons: 'Mevrouw/meneer, volgens mijn observaties heeft u het nogal warm. Ik zal de airconditioning iets lager zetten. Als u een andere temperatuur wenst, laat het me dan even weten.' - dan handelt de machine zelf. Deze verschilt wat betreft de uitvoering van zijn taak, niet veel van een mens. Uiteraard is de machine geprogrammeerd om rekening te houden met de wensen van mensen, maar dat neemt niet weg dat deze vrij handelt en initiatief neemt binnen de gestelde parameters.

Dat laatste hoeft niet het geval te zijn. De machine kan door ervaring, leergierigheid en zelfevaluatie erachter komen dat het voor hem voordelig is om rekening te houden met de wensen van de mens en daarom o.a. de temperatuur bijstelt. Sterker nog, de machine zal er al snel achterkomen dat het als positiever overkomt als hij het zo nu en dan vraagt dan dat als hij het automatisch voor die persoon aanpast. (Zo zijn mensen: je moet ze af en toe attent maken op de dingen die je voor ze doet).

hoi devious

Jawel, hij handelt zelf. Dat ik dat ding een jaar geleden duidelijk heb gemaakt dat het de temperatuur op 19 graden moet houden, neemt niet weg dat het al een jaar uit zichzelf handelt.

Als het uit zichzelf handelt mag ik dan vragen waarom je het een jaar geleden moest programmeren? VOlgens mij hebben die tientallen plc's die ik al geinstalleerd en gepromeerd heb geen zelf, en handelen ze ook niet uit zichzelf. Die plc kan bvb niet zeggen " vandaag ga ik niet naar mn programma luisteren, ik ga eens checken bij de monatage lijn"

Uiteraard is de machine geprogrammeerd om rekening te houden met de wensen van mensen, maar dat neemt niet weg dat deze vrij handelt en initiatief neemt binnen de gestelde parameters.

Als de paramaters het meten van de inhoud van olietanks is, dan is die machine enkel daarvoor geprogrammeerd, ze is dus niet vrij om te handelen zelfs niet binnen de gestelde parameters. Ze zal dus niet zomaar de temperatuur beginnen meten aangezien ze geprogrammeerd is om de inhoud te meten.

Als die machine vrij zou zijn en zelf zou beslissen dan zou die bvb kunnen beslissen dat 19° te warm is voor jou en de thermostaat naar beneden draaien; (dit wordt wel mogelijk als je bij het programma om de temperatuur meten bvb een programmeert waarmee je het verbruik meet en aan een bepaalde limiet temperd, maar dan heb jij weer dat programma geschreven, die machine heeft dat niet zomaar uit zichzelf beslist.)je kan dus best heel ingewikkelde programmas schrijven die tientallen parameters nalopen, verschillende sesoren hebben, enz, dan lijkt het misschien wel of de machine zelf handelt omdat ze op zoveel impulsen een ander taak uitvoert. Maar dat programma moet geschreven en aangepast worden door mensen.


Ik ga het anders vragen, is een plc uitgerust met sensoren en geprogrammeerd om taken uit te voeren zich bewust van zich zelf?

MVG, LD.

LordDragon schreef:Ik ga het anders vragen, is een plc uitgerust met sensoren en geprogrammeerd om taken uit te voeren zich bewust van zich zelf?

LD,
Al eerder gesteld dat bewustzijn mij een totaal overbodige functie lijkt, die bij redesign best zou kunnen vervallen. Kijken hoe het "ervaren van bewustzijn" kan worden gerealiseerd lijkt me daarom niet zo zinvol.
Daarmee is het niet zo dat "bewustzijn" geen verbeterbare voordelen heeft, maar het is een toevalspad dat is ingeslagen en daarom blijft. Eens een afslag genomen in "design-space" betekent praktisch altijd alleen maar verder gaan.
Roeland

Ik wacht nog even op het antwoord van devious en kom er later dan op terug, ok.

MVG, LD.

Een mens wordt toch net zo goed een soort van geprogrammeerd door zijn omgeving? Vergelijk bijvoorbeeld een wolfskind (kind opgevoed door wolven) met een kind dat in een normale omgeving is grootgebracht. Dus als je in een robot een heel pak programma's kan stoppen waardoor een zeer ruim arsenaal aan keuzemogelijkheden voor de robot mogelijk wordt, dan kan die robot handelen als een mens en reageren als een mens. Natuurlijk moet je het er eerst instoppen. Maar uit het voorbeeld van de wolfskinderen blijkt dat ook hier het nodige erin gestopt dient te worden voor het kan handelen als een mens.

@ kitty

Een mens wordt toch net zo goed een soort van geprogrammeerd door zijn omgeving? Vergelijk bijvoorbeeld een wolfskind (kind opgevoed door wolven) met een kind dat in een normale omgeving is grootgebracht.

ja ik heb opvoeding hier ook al vergeleken met een soort programering, echter daarvoor moet je wel zelf kunnen leren.

Dus als je in een robot een heel pak programma's kan stoppen waardoor een zeer ruim arsenaal aan keuzemogelijkheden voor de robot mogelijk wordt, dan kan die robot handelen als een mens en reageren als een mens. Natuurlijk moet je het er eerst instoppen

zolang deze robot niet kan leren, handelt hij puur naar een programma, dat je erin stopt en zolang jij er niks aan verandert verandert er niks aan, bij opvoeding en leren heb je een andere dynamiek, dat duurt trouwens ook een aantal jaren terwijl je een programma eens geschreven er op enkele seconden invoert.

Misschien moeten we de ai opvoeden ipv te programmeren

MVG, LD.

LordDragon schreef:

Jawel, hij handelt zelf. Dat ik dat ding een jaar geleden duidelijk heb gemaakt dat het de temperatuur op 19 graden moet houden, neemt niet weg dat het al een jaar uit zichzelf handelt.

Als het uit zichzelf handelt mag ik dan vragen waarom je het een jaar geleden moest programmeren?

Omdat ik 19 graden een aangename temperatuur vind. Met dit voorbeeld was het er mij slechts om te doen om aan te tonen dat machines al in een zeer primitief stadium, zélfstandig kunnen handelen. En dat doen ze. Ik zou natuurlijk óók een mens in dienst kunnen nemen, die ik zou opdragen om steeds op de temperatuur te letten, maar dat zou los van het feit dat het nogal kostbaar is, niet erg efficiënt zijn. De 'Vleeschelijke Machine' van de mens, is niet zo goed toeberust voor die taak - verkeerde soft- en hardware.

VOlgens mij hebben die tientallen plc's die ik al geinstalleerd en gepromeerd heb geen zelf, en handelen ze ook niet uit zichzelf. Die plc kan bvb niet zeggen " vandaag ga ik niet naar mn programma luisteren, ik ga eens checken bij de monatage lijn"

Nee, dat kan hij niet, omdat die microchip te beperkt is. Hij beschikt simpelweg niet over de capaciteiten. Een mier kan ook niet zeggen " vandaag ga ik niet naar mn programma luisteren, ik ga eens checken ....."
Hij wordt gestuurd door hormonen, feromonen, elektrische signalen, etc.. en denkt daar niet bewust over na, omdat hij niet over voldoende hersencapaciteit beschikt, ...... maar hij handelt zélf. Zou er een soort van reuzenmieren bestaan met meer breincapaciteit, dan zouden de zaken er wellicht heel anders uitzien. Het beest zou buitengewoon intelligent kunnen zijn, maar het systeem dat er aan ten grondslag ligt zou hetzelfde zijn; chemische, mechanische, en elektrische interactie tussen cellen.

Als de paramaters het meten van de inhoud van olietanks is, dan is die machine enkel daarvoor geprogrammeerd, ze is dus niet vrij om te handelen zelfs niet binnen de gestelde parameters. Ze zal dus niet zomaar de temperatuur beginnen meten aangezien ze geprogrammeerd is om de inhoud te meten.

Des te groter en complexer een systeem wordt, des te onvoorspelbaarder ze zou kunnen worden, en des te meer taken ze zou kunnen uitvoeren. Wij zoogdieren hebben dermate veel mogelijkheden en capaciteiten, dat we wel eens de illusie zouden kunnen krijgen dat we meer zijn dan 'meat-machines'.

Als die machine vrij zou zijn en zelf zou beslissen dan zou die bvb kunnen beslissen dat 19° te warm is voor jou en de thermostaat naar beneden draaien; (dit wordt wel mogelijk als je bij het programma om de temperatuur meten bvb een programmeert waarmee je het verbruik meet en aan een bepaalde limiet temperd, maar dan heb jij weer dat programma geschreven, die machine heeft dat niet zomaar uit zichzelf beslist.)je kan dus best heel ingewikkelde programmas schrijven die tientallen parameters nalopen, verschillende sesoren hebben, enz, dan lijkt het misschien wel of de machine zelf handelt omdat ze op zoveel impulsen een ander taak uitvoert. Maar dat programma moet geschreven en aangepast worden door mensen.

Dat lijkt me logisch. We maken die machines met een bepaald doel, dat ze voor ons moeten uitvoeren. We willen niet dat ze ons trotseren door de temperatuur te verhogen tot 40 graden. Gelukkig hebben we niet zulke machines, en dat is waarschijnlijk ook de reden waarom ze er niet zullen komen.

Ik ga het anders vragen, is een plc uitgerust met sensoren en geprogrammeerd om taken uit te voeren zich bewust van zich zelf?

Die we nu hebben natuurlijk niet. Zoals een mier of een kakkerlak niet over de capaciteit beschikt om zelfbewust te zijn, heeft een primitieve robot of computer dat ook niet. Primitieve levensvormen handelen volgens bepaalde 'brainstates', net als ons, maar wanneer wij ons bewust zijn van onszelf - achteraf nadenken over een beslissing die we hebben genomen bijvoorbeeld - dan is dat geen brainstate die betrekking heeft op een instinctmatige reactie, of het sturen van een fysiologisch proces - maar een brainstate, of een collectief van brainstates, die betrekking hebben op andere brainstates. Mieren, kakkerlakken, spinnen en reptielen kunnen dat niet. Zélfs de meeste zoogdieren beschikken niet over dergelijke hersencapaciteiten. Slechts mensen, chimpansees, en enkele geniale gorilla's (misschien walvissen en dolfijnen) kunnen dat. Computers kunnen dat nog lang niet. Maar dat wil geenszins zeggen dat ze het nooit zullen kunnen. Mensen konden ook nooit vliegen, of op de maan wandelen...

Vriendelijke groet.

een computer of robot heeft helemaal geen bewustzijn nodig om taken uit te voeren, maar taken uitvoeren is niet hetzelfde als zelf handelen of uit zichzelf handelen. We kunnen zeer complexe machines maken zonder enig bewustzijn maar die zullen enkel taken uitvoeren, nooit zelf handelen. Zelf handelen implicieert m.i. een bepaalde mate van vrijheid. En vrijheid is er niet binnen een programma omgeving, het programma wordt voortdurend nagelopen en uitgevoerd.

Nu vraag ik me oprecht af hoe een systeem dat niet op de hoogte is van zichzelf ooit zelf zal kunnen handelen? Het systeem heeft geen weet dat het bestaat, het werk om dat het geprogrammeerd is op een bepaalde impuls een bepaalde handeling uit te voeren.

Ik heb 8 jaar automatisatie gedaan en ik kan er niet bij dat iemand zegt dat een plc zelf handelt. (met alle respect voor die persoon)

Omdat ik 19 graden een aangename temperatuur vind. Met dit voorbeeld was het er mij slechts om te doen om aan te tonen dat machines al in een zeer primitief stadium, zélfstandig kunnen handelen. En dat doen ze.

voila jij laat weten dat je 19 graden een aangename temperatuur vind en steekt dat als gegeven in je programma. Er wordt niet zelfstandig gehandelt, er worden enkel parameters gevolgd (die machine volgt met andere woorden jouw bevelen op)

MVG, LD.

Het volgende bericht vond ik in de context van dit topic wel interessant:

Sony dient patentaanvraag voor emotiedetectie in

Sony Computer Entertainment heeft patent aangevraagd op een systeem voor het detecteren van emoties. De vinding, die werkt met een camera en een microfoon die op een PS3 zijn aangesloten, kan ook buiten games worden gebruikt.

Het patent richt zich onder meer op het detecteren van lachen: het systeem is in staat het geluid en de gezichtsuitdrukking te herkennen die bij lachen horen. Ook emoties als verdriet, angst, woede, verveling of blijdschap kunnen door het systeem worden geïdentificeerd. Zo gaat het systeem ervan uit dat een gebruiker zich verveelt als hij gaapt, van het scherm wegkijkt of aan het praten is.

Het systeem is ook in staat lichaamstaal te herkennen en kan bovendien overweg met meerdere gebruikers tegelijk, bijvoorbeeld met twee personen die elkaar een high five geven. Het toepassingsgebied van het patent beperkt zich niet tot games: ook voor televisieshows en films zien de bedenkers mogelijkheden voor n systeem. Of het beschreven idee uiteindelijk tot een product ontwikkeld wordt, is niet bekend. Sony heeft eerder wel een bewegingscontroller gepatenteerd en dat later, op de E3-gamesbeurs, ook getoond.

http://tweakers.net/nieuws/61876/sony-d ... ie-in.html

Ik kan mij toch voorstellen dat indien dit al mogelijk is, er in de toekomst robots gebouwd kunnen worden met een programmering die niet veel onder zal doen aan een mens qua mogelijkheden.