De opmars van kunstmatige intelligentie

[FransP]

Over 10.000 jaar zitten hier op het forum twee kunstmatige intelligenties met elkaar te bakkeleien omdat de een zegt dat ze met de mens een gezamelijke voorouder hebben.

Zo dom zal kunstmatige intelligentie toch wel niet zijn?

Misschien is er ook kunstmatige domheid, zoals een kunstmatige intelligentie die in een opperwezen gelooft

Dan toch wel over een kunstmatige opperwezen.
Hoewel, is het nu ook al niet een kunstmatig opperwezen?

[Peter van Velzen]

Ik heb zojuist deze voordracht van Sam Harris aangehoord. Zijn betoog lijkt sluitend, maar zijn premissen zijn wellicht niet helemaal geldig.

Zo is het niet zeker of een kunstmatige intelligentie van het brede niveau dat hij hier beschrijft inderdaad binnen 50 jaar mogelijk is. Ten tweede is het helemaal niet zeker, of de snelheid van electrische systemen op zo;n niveau inderdaad zveel sneller is (1 miljoen maal poneert Sam) als wat mensen OP DAT brede NIVO doen. Ook zie ik niet dat AI systemen zichzelf vrij zullen kunnen ontwerpen. En als ze zichzelf ontwerpen en ze zijn intelligenter dan wij, zullen ze dan niet weten te vermijden dat de mog intelligenter machiines die zij ontwerpen, mindere intelligenties zullen schaden? Dat is immers ook voor henzelf gevaarlijk!

Maar uiteindelijk is het probleem hetzelfde als dat van de macht. Het is niet zo belngrijk, wie er aan de macht is, als wel of we ten alle tijden in staat zullen blijven om de machthebber af te zetten als hij ons niet bevalt. Democratie dus! Bouw gerust een digitale beslissers, maar zorg dat we hem WANNEER WE DAT MAAR WILLEN uit kunnen zetten, en door een kunnen vervangen die ons beter bevalt. Ik hoop binnenkort een topic te openen over bewustzijn, en daarna kan ik aan de hand daarvan wellicht terugkomen op het onderwerp AI, vanuit die optiek gezien.

[Jan van Lennip]

Misschien is er ook kunstmatige domheid, zoals een kunstmatige intelligentie die in een opperwezen gelooft

En kunstmatig IQ

[doctorwho]

Hoewel, is het nu ook al niet een kunstmatig opperwezen?

Eerder een gekunsteld opperwezen

[vegan-revolution]

Er is inmiddels een voorzichtige poging gedaan om "deep learning" technieken te combineren met "symbolic AI". In onderstaand artikel komt "symbolic" uit "symbolic AI" neer op "begrip" of "concept". Het vermoeden is geopperd dat die combinering machines niet alleen in staat zouden kunnen stellen om met "trial and error" goed te leren presteren voor één bepaald kunstje (zoals bijvoorbeeld het spelen van het bordspel Go), maar ook om concepten op een dusdanige wijze te leren dat ze die concepten kunnen hergebruiken om voor een nieuw (voor die machines vooraf nog onbekend) kunstje sneller goed te leren presteren. Een eerste vrij basale test met zo'n gecombineerd systeem resulteerde inderdaad in het sneller goed leren presteren voor nieuwe kunstjes dan louter met "deep learning" alleen.

Zie Basic common sense is key to building more intelligent machines

Enkele highlights :

Computers can learn without our guidance, but the knowledge they acquire is meaningless beyond the problem they are set. They are like a child who, having learned to drink from a bottle, cannot even begin to imagine how to drink from a cup.

As Andrej Karpathy, a machine learning researcher with the firm Open AI, put it in a recent blog post: “I don’t have to actually experience crashing my car into a wall a few hundred times before I slowly start avoiding to do so.”

Crucially, the hybrid was able to transfer what it had learned across games. After 1000 training sessions, DQN managed a positive score on half of its games. But it took the hybrid only 200 sessions to arrive at a strategy that earned a positive score on 70 per cent of its games.

the implications of transferable learning are fairly significant. “Being able to pick up regularities at different levels is an important component of human-like intelligence,” says Bryson.

[Jan van Lennip]

Er is inmiddels een voorzichtige poging gedaan om "deep learning" technieken te combineren met "symbolic AI". In onderstaand artikel komt "symbolic" uit "symbolic AI" neer op "begrip" of "concept". Het vermoeden is geopperd dat die combinering machines niet alleen in staat zouden kunnen stellen om met "trial and error" goed te leren presteren voor één bepaald kunstje (zoals bijvoorbeeld het spelen van het bordspel Go), maar ook om concepten op een dusdanige wijze te leren dat ze die concepten kunnen hergebruiken om voor een nieuw (voor die machines vooraf nog onbekend) kunstje sneller goed te leren presteren. Een eerste vrij basale test met zo'n gecombineerd systeem resulteerde inderdaad in het sneller goed leren presteren voor nieuwe kunstjes dan louter met "deep learning" alleen.

Ik hoop voor de ontwikkelaars dat deze manier snel aanslaat, want ik hoorde vanmorgen op RTLZ dat de verzekering van een Tesla ivm de aanwezigheid van AI steeds lastiger is te verkrijgen.

[vegan-revolution]

Waarom besluitvorming af laten hangen van kunstmatige intelligentie op termijn beter zou zijn dan om besluitvorming af te laten hangen van politici als Donald Trump of Hillary Clinton :

Can Artificial Intelligence Make Us Happy?

[Peter van Velzen]

Waarom besluitvorming af laten hangen van kunstmatige intelligentie op termijn beter zou zijn dan om besluitvorming af te laten hangen van politici als Donald Trump of Hillary Clinton :

Can Artificial Intelligence Make Us Happy?

Zonder te lezen denk ik dat dat best eens zo zou kunnen zijn. Zolang we als kiezers maar het recht hebben om de kunstmatige intelligentie weer af(=uit) te zetten. Nu ga ik echter toch lezen.

Inmiddels heb ik het gelezen. De uitspraak die je citeert wordt niet echt beargumenteerd. Hij lijkt gebaseerd op een "gut-feeling", die ik - zeker waar het Trump betreft deel.

[Jagang]

Waarom besluitvorming af laten hangen van kunstmatige intelligentie op termijn beter zou zijn dan om besluitvorming af te laten hangen van politici als Donald Trump of Hillary Clinton :

Can Artificial Intelligence Make Us Happy?

Ik mis in dit stukje een beetje de onderbouwing waarom doemscenario's onwaar zouden zijn.
Het is waar dat mensen niet altijd de meest rationele beslissingen nemen, maar rationele beslissingen zijn ongeveer even goed voor ons als de uitgangspunten waarop deze rationele beslissingen zijn gebaseerd.
In theorie zou uitroeien van al het leven om lijden te doen verdwijnen misschien wel het meest rationele uitgangspunt kunnen zijn, maar volgt daaruit dat we dat ook zouden willen?

Nu denk ik persoonlijk dat het niet zo heel snel tot kunstmatige intelligentie zal komen.
Iets dat volgens mij overigens toch al een beetje een oxymoron is, want wat is er kunstmatig aan een probleemoplossend vermogen?
Een belangrijk probleem lijkt me dat hard- en software in computers altijd van elkaar gescheiden zijn, waar dit bij biologische "wetware" niet het geval is. De software wordt gelimiteerd door de (connectiviteit) van de hardware, waar in een biologisch brein elk neuron in principe contact kan leggen met elk ander neuron. Een verbinding die bovendien versterkt wordt naarmate de verbinding in kwestie vaker wordt te gebruikt. (Wat leren eigenlijk is.)
Tel daar bij op dat thans de wet van Moore van tafel is, en dan begint het er steeds minder op te lijken dat computers, althans min of meer conventionele computers, ooit echt "intelligent" gaan worden.

Ja, computers kunnen inmiddels een aardig potje schaken waar filosofen ooit voorspelden dat dit nimmer zou lukken.
Maar daarmee heb je van een computer nog geen politiek wezen gemaakt.
Je kan het verleden niet zomaar extrapoleren naar de toekomst, zoals bijv. klimaatsceptici dit ook doen. "Maar toch leven we nog!"
Maar zou dat wel lukken: Wat voor politiek wezen zou je er dan van willen maken?
Een technocraat is, in tegenstelling tot wat me soms lijkt te willen suggereren, niet bepaald gevrijwaard van ideologie, want waar moet een technocraat precies goed in zijn?
Als we niet kunnen besluiten waar een menselijke politicus precies goed in moet zijn, hoe bepalen we dat dan bij een computer?

En volgens welk model willen we computers precies intelligent maken?
Ik hoor vele onderzoekers over hun pogingen het menselijk brein te kopiëren.
Maar als dit al kan, kopieer je naast de intelligentie dan ook niet de fouten mee?
Kan intelligentie eigenlijk wel tegelijkertijd met foutloosheid bestaan?

Eens met Peter.
De titel suggereert een erg eenvoudige uitspraak over een complex vraagstuk, dat eigenlijk louter steunt op een extrapolatie van het verleden. "Als scpetische filosofen toen ongelijk hadden, zullen ze dat nu ook wel hebben."
Als je het mij vraagt een non sequitur. Al hebben ze tien keer ongelijk als ze roepen "Het kan niet!", dan wil dat nog niet zeggen dat ze het de elfde keer ook wel mis zullen hebben.

[vegan-revolution]

Ik mis in dit stukje een beetje de onderbouwing waarom doemscenario's onwaar zouden zijn.

Er staat volgens mij niet in dat er geen kans is op doemscenario's, maar dat het risico op een doemscenario groter geacht wordt wanneer bepaalde zaken aan mensen worden overgelaten dan wanneer diezelfde zaken aan nog te ontwikkelen superintelligente machines worden overgelaten.

Het is waar dat mensen niet altijd de meest rationele beslissingen nemen, maar rationele beslissingen zijn ongeveer even goed voor ons als de uitgangspunten waarop deze rationele beslissingen zijn gebaseerd.
In theorie zou uitroeien van al het leven om lijden te doen verdwijnen misschien wel het meest rationele uitgangspunt kunnen zijn, maar volgt daaruit dat we dat ook zouden willen?

Ja, die uitgangspunten zijn inderdaad belangrijk, maar dat geldt ook voor een systeem met mensen aan het roer.

Nu denk ik persoonlijk dat het niet zo heel snel tot kunstmatige intelligentie zal komen.

Tsja, wat is niet snel? Over een jaar of 10 zitten we al vrij dicht tegen de gemiddelde menselijke intelligentie aan, vermoed ik.

Iets dat volgens mij overigens toch al een beetje een oxymoron is, want wat is er kunstmatig aan een probleemoplossend vermogen?

Het ligt er maar aan wat je nog als "natuurlijk" wenst te beschouwen en wat niet.

Een belangrijk probleem lijkt me dat hard- en software in computers altijd van elkaar gescheiden zijn, waar dit bij biologische "wetware" niet het geval is.

Het is nu al in veel gevallen zo dat de software een onderdeel van de hardware is en er ook zogenaamde "neurale chips" zijn, dus dit lijkt mij niet een uiteindelijk probleem in dit verband.

De software wordt gelimiteerd door de (connectiviteit) van de hardware, waar in een biologisch brein elk neuron in principe contact kan leggen met elk ander neuron. Een verbinding die bovendien versterkt wordt naarmate de verbinding in kwestie vaker wordt te gebruikt. (Wat leren eigenlijk is.)

Maar dit principe wordt nu ook al in machines toegepast. Sterker nog : de machine AlphaGo die topspeler Lee Sedol met het bordspel Go versloeg was daar op gebaseerd.

Tel daar bij op dat thans de wet van Moore van tafel is, en dan begint het er steeds minder op te lijken dat computers, althans min of meer conventionele computers, ooit echt "intelligent" gaan worden.

Je zegt het : min of meer conventionele computers. De huidige beste chip van Intel is nu gebaseerd op transistoren van 14 nm (nanometer). Volgend jaar komt daar waarschijnlijk een chip bij die gebaseerd is op transistoren van 10 nm. Maar zie : Onderzoekers ontwikkelen transistor van 1 nanometer. Dus dan kunnen we voorlopig nog wel even vooruit, zeker als de hardware nog meer in de hoogte gebouwd gaat worden, daar waar die nu nog vooral op een architectuur in de lengte en in de breedte gebaseerd is, zie This new 'skyscraper' chip could make computers run 1,000 times faster. Het kleinste atoom, het waterstofatoom, past ongeveer 8 keer in 1 nanometer. Dat betekent dat we transistoren (of eventueel andersoortige kleine verwerkingseenheden) op atomaire schaal aan het naderen zijn. Welke kant het met quantumcomputers uitgaat is voor mij nog vrij onduidelijk, maar daar kan misschien ook nog een aardige "verwerkingswinst" uit gehaald worden. Met min-of-meer-conventioneel (niet quantum) kunnen computerchips waarschijnlijk nog wel honderdduizend keer sneller worden dan nu. En dat is veel, gezien de prestaties die computers nu al kunnen leveren. Tegelijkertijd wordt er gesleuteld aan de architectuur van chips, waarvan de "neurale chips" slechts een voorbeeld zijn.

Ja, computers kunnen inmiddels een aardig potje schaken waar filosofen ooit voorspelden dat dit nimmer zou lukken.
Maar daarmee heb je van een computer nog geen politiek wezen gemaakt.

Maar de tijd van de eerste superieur schakende computer ligt al wel 20 jaar achter ons en ondertussen hebben wetenschappers niet stilgezeten. Er is inmiddels al een behoorlijke vooruitgang geboekt in wat machines kunnen waarnemen, "begrijpen" en leren.

Een goede testcase is hoe goed machines kunnen vertalen van de ene taal naar de andere, zoals jij al eerder had aangegeven. Voorlopig bakken machines daar nog niet veel van. Mijn verwachting is echter dat machines dat binnen 5 jaar vanaf nu beter zullen kunnen dan mensen. Die verwachting heeft vooral te maken met de snelle vooruitgang in het ontwikkelen van zelflerende systemen.

Het wordt mijns inziens pas echt interessant, wanneer je een goede filosofische discussie met een machine kunt voeren. Dat duurt volgens mijn inschatting waarschijnlijk nog wel minstens een jaar of 10. Als het eenmaal zover is, dan kunnen we meer besluitvorming aan machines overlaten.

Je kan het verleden niet zomaar extrapoleren naar de toekomst, zoals bijv. klimaatsceptici dit ook doen. "Maar toch leven we nog!"

Je kunt inderdaad niet zomaar alles domweg extrapoleren naar de toekomst, dat is waar. Op basis van huidige ontwikkelingen kun je echter wel proberen te komen tot een "best guess". We zijn inmiddels ook aardig op weg om de werking van het menselijk brein te leren kennen. Die kennis kan eventueel gebruikt worden om een verbeterd informatieverwerkingssysteem te creëren. Want waarom zou het menselijk brein het maximaal haalbare aan intelligentie moeten opleveren?

Maar zou dat wel lukken: Wat voor politiek wezen zou je er dan van willen maken?
Een technocraat is, in tegenstelling tot wat me soms lijkt te willen suggereren, niet bepaald gevrijwaard van ideologie, want waar moet een technocraat precies goed in zijn?
Als we niet kunnen besluiten waar een menselijke politicus precies goed in moet zijn, hoe bepalen we dat dan bij een computer?

Het aanleggen van criteria door mensen is nu een probleem en straks ook. Dus daar verandert dan niets in. Tenzij het aanleggen van die criteria door mensen vergemakkelijkt wordt door het "meedenken" van superintelligente machines. Maar áls die criteria er eenmaal zijn, dan is het mijns inziens zeker niet uitgesloten dat superintelligente machines beter met die criteria uit de voeten kunnen dan mensen.

En volgens welk model willen we computers precies intelligent maken?
Ik hoor vele onderzoekers over hun pogingen het menselijk brein te kopiëren.
Maar als dit al kan, kopieer je naast de intelligentie dan ook niet de fouten mee?
Kan intelligentie eigenlijk wel tegelijkertijd met foutloosheid bestaan?

Ik vermoed dat volledige foutloosheid niet bestaat en bovendien kan alles stuk. Wat je wel kunt proberen is de foutenkans verkleinen. Het lijkt mij voor de hand te liggen dat gestreefd wordt naar het maken van een systeem dat het menselijk brein zowel in intelligentie als in de kans op het maken van fouten als in zelfcorrigerend vermogen overtreft. Of zoiets inderdaad mogelijk gaat worden moeten we afwachten. Ik vermoed zelf sterk van wel.

Eens met Peter.
De titel suggereert een erg eenvoudige uitspraak over een complex vraagstuk, dat eigenlijk louter steunt op een extrapolatie van het verleden. "Als scpetische filosofen toen ongelijk hadden, zullen ze dat nu ook wel hebben."
Als je het mij vraagt een non sequitur. Al hebben ze tien keer ongelijk als ze roepen "Het kan niet!", dan wil dat nog niet zeggen dat ze het de elfde keer ook wel mis zullen hebben.

Inderdaad. Met dit laatste ben ik het uiteraard ook eens. Maar wat ik nu aan ontwikkelingen zie voltrekken doet mij sterk vermoeden dat het mensen inderdaad gaat lukken om ooit machines te maken die mensen in alle denkbare opzichten gaan overtreffen.

Ik vind het verder wel amusant dat het juist psychologen zijn (de mensenkenners bij uitstek) die meer vertrouwen hebben in machines dan in mensen.

[Jagang]

Ik kom er later nog op terug.

[Jagang]

Er staat volgens mij niet in dat er geen kans is op doemscenario's, maar dat het risico op een doemscenario groter geacht wordt wanneer bepaalde zaken aan mensen worden overgelaten dan wanneer diezelfde zaken aan nog te ontwikkelen superintelligente machines worden overgelaten.

Dat betwijfel ik sterk.
Wel denk ik dat er andere doemscenario's zijn, en dat het gevaarlijk is om rationaliteit en intelligentie te verwarren met rechtvaardigheid.
Het lijkt me in de kern tegenstrijdig om zowel iets te willen maken dat intelligenter is dan wijzelf, maar daar tegelijkertijd wel de controle over te willen behouden.
Dat lukt ons bij soortgenoten al niet eens: Wij kunnen geen beveiligingen ontwikkelen waar geen ander mens doorheen kan. Omgekeerd zou het wel zo kunnen zijn dat een intelligentere machine ons helemaal zou kunnen buitensluiten, en een eigen agenda kan opbouwen die niet noodzakelijkerwijs strookt met de onze.
Kan de machine dat niet, dan is het maar de vraag of deze intelligenter is dan wijzelf.

Het is waar dat mensen niet altijd de meest rationele beslissingen nemen, maar rationele beslissingen zijn ongeveer even goed voor ons als de uitgangspunten waarop deze rationele beslissingen zijn gebaseerd.
In theorie zou uitroeien van al het leven om lijden te doen verdwijnen misschien wel het meest rationele uitgangspunt kunnen zijn, maar volgt daaruit dat we dat ook zouden willen?

Ja, die uitgangspunten zijn inderdaad belangrijk, maar dat geldt ook voor een systeem met mensen aan het roer.

Maar dat is een vorm van jijbakken.
Jij wil graag laten zien dat de besluitvorming van machines een voordeel zou kunnen zijn toch?
Of ben je tevreden met het uitblijven van nadelen ten opzichte van de huidige situatie?

Tsja, wat is niet snel? Over een jaar of 10 zitten we al vrij dicht tegen de gemiddelde menselijke intelligentie aan, vermoed ik.

Ik kan me ook nog de tijd herinneren dat men dacht dat dit rond het jaar 2000 het geval zou zijn, om maar wat tegenwicht te geven aan die vermaledijde sceptische filosofen.
Het zou best kunnen, maar zonder dat daar een goede reden voor is, ga ik daar niet zonder meer in mee.
De tijd zal het uitwijzen.

Wat niet wil zeggen dat het niet nuttig is om over de eventuele implicaties na te denken.
Veel mensen schijnen te denken dat wanneer machines maar slim genoeg worden, het allemaal wel goed komt.
Ik denk dat men daar nog wat zorgvuldiger over na dient te denken, en dat de esthetiek van sciencefiction scenario's ondergeschikt is aan eventuele morele gevolgen.

Het is nu al in veel gevallen zo dat de software een onderdeel van de hardware is en er ook zogenaamde "neurale chips" zijn, dus dit lijkt mij niet een uiteindelijk probleem in dit verband.

Voor zover ik kan nagaan, zijn soft en hardware nog altijd twee verschillende zaken.
Het menselijk brein is niet analoog aan een computer.
Erg belangrijk voor het verschil, en het tootn aan hoezeer ons beeld van het brein onderhevig is aan de tijdgeest: https://aeon.co/essays/your-brain-does- ... a-computer" onclick="window.open(this.href);return false;

Ik denk dat het goed is dat je neurale chips tussen aanhalingstekens hebt staan, want we weten eigenlijk nog niet eens hoe een neuron nou precies werkt.

De software wordt gelimiteerd door de (connectiviteit) van de hardware, waar in een biologisch brein elk neuron in principe contact kan leggen met elk ander neuron. Een verbinding die bovendien versterkt wordt naarmate de verbinding in kwestie vaker wordt te gebruikt. (Wat leren eigenlijk is.)

Maar dit principe wordt nu ook al in machines toegepast. Sterker nog : de machine AlphaGo die topspeler Lee Sedol met het bordspel Go versloeg was daar op gebaseerd.

Dan zal de machine vast goed zijn in meer dan enkel een bordspel?

Je zegt het : min of meer conventionele computers. De huidige beste chip van Intel is nu gebaseerd op transistoren van 14 nm (nanometer). Volgend jaar komt daar waarschijnlijk een chip bij die gebaseerd is op transistoren van 10 nm. Maar zie : Onderzoekers ontwikkelen transistor van 1 nanometer.

Of we met een min of meer conventionele computer te maken hebben wordt niet bepaald door de hoeveelheid halfgeleiders op een chip, maar door hun organisatie.
Die is al sinds de opkomst van de PC in de jaren '80 ongeveer hetzelfde.

Dus dan kunnen we voorlopig nog wel even vooruit, zeker als de hardware nog meer in de hoogte gebouwd gaat worden, daar waar die nu nog vooral op een architectuur in de lengte en in de breedte gebaseerd is, zie This new 'skyscraper' chip could make computers run 1,000 times faster. Het kleinste atoom, het waterstofatoom, past ongeveer 8 keer in 1 nanometer. Dat betekent dat we transistoren (of eventueel andersoortige kleine verwerkingseenheden) op atomaire schaal aan het naderen zijn. Welke kant het met quantumcomputers uitgaat is voor mij nog vrij onduidelijk, maar daar kan misschien ook nog een aardige "verwerkingswinst" uit gehaald worden. Met min-of-meer-conventioneel (niet quantum) kunnen computerchips waarschijnlijk nog wel honderdduizend keer sneller worden dan nu. En dat is veel, gezien de prestaties die computers nu al kunnen leveren. Tegelijkertijd wordt er gesleuteld aan de architectuur van chips, waarvan de "neurale chips" slechts een voorbeeld zijn.

Het lijkt me een ad novitatem om er zomaar van uit te gaan dat alles wat nu in het laboratorium gaande is, ook werkelijk toegepast zal gaan (kunnen) worden.
De wet van Moore zou er tijdelijk mee kunnen terugkeren, maar op dit moment is deze van tafel.
Quantumcomputers: Het zal reuze interessant zijn, maar bij mijn weten is deze machine tot nu toe slechts een theoretische oefening.

Ik begrijp je enthousiasme ten aanzien van technologische ontwikkelingen, maar ik denk dat het goed zou zijn om geen enorm voorschot op de toekomst te nemen, en om ook op te passen voor en al te groot enthousiasme jegens mogelijke politieke computers.

Maar de tijd van de eerste superieur schakende computer ligt al wel 20 jaar achter ons en ondertussen hebben wetenschappers niet stilgezeten. Er is inmiddels al een behoorlijke vooruitgang geboekt in wat machines kunnen waarnemen, "begrijpen" en leren.

Een goede testcase is hoe goed machines kunnen vertalen van de ene taal naar de andere, zoals jij al eerder had aangegeven. Voorlopig bakken machines daar nog niet veel van. Mijn verwachting is echter dat machines dat binnen 5 jaar vanaf nu beter zullen kunnen dan mensen. Die verwachting heeft vooral te maken met de snelle vooruitgang in het ontwikkelen van zelflerende systemen.

Ik denk dat het begrijpen van een context niet komt zonder een zelfbewustzijn.
Als machines wel zogenaamd intelligent zijn maar geen zelfbewustzijn kennen, dan zal interpretatie een probleem blijven.
Het begrijpen van de context in een tekst is geen station onderweg naar intelligentie, maar is er het resultaat van.

Het wordt mijns inziens pas echt interessant, wanneer je een goede filosofische discussie met een machine kunt voeren. Dat duurt volgens mijn inschatting waarschijnlijk nog wel minstens een jaar of 10. Als het eenmaal zover is, dan kunnen we meer besluitvorming aan machines overlaten.

Dat weet ik niet, want misschien kan zo'n machine filosofisch wel heel goed beredeneren waarom al het biologische leven beter uitgeroeid zou kunnen worden.
Ik denk dat zelfs ik dat al zou kunnen, juist vanuit het sentiëntisme beredeneerd.
Ander onderwerp, maar daar volgt niet uit dat ik sta te springen om als voorbeeld te dienen.

We zijn inmiddels ook aardig op weg om de werking van het menselijk brein te leren kennen. Die kennis kan eventueel gebruikt worden om een verbeterd informatieverwerkingssysteem te creëren. Want waarom zou het menselijk brein het maximaal haalbare aan intelligentie moeten opleveren?

Als de menselijke wijze van informatie behandelen niet het maximaal haalbare is, waarom zouden we het dan als voorbeeld willen gebruiken voor machines die veel beter zouden moeten zijn?

Ik denk dat je onze kennis over het menselijk brein flink overschat.

Het aanleggen van criteria door mensen is nu een probleem en straks ook. Dus daar verandert dan niets in. Tenzij het aanleggen van die criteria door mensen vergemakkelijkt wordt door het "meedenken" van superintelligente machines. Maar áls die criteria er eenmaal zijn, dan is het mijns inziens zeker niet uitgesloten dat superintelligente machines beter met die criteria uit de voeten kunnen dan mensen.

Wie of wat bindt intelligente machines aan hun criteria?
Hier komt het controle-aspect weer boven: Hoe wil je iets dat (veel) intelligenter is dan jijzelf onder controle houden?
Als een machine wereldberoemde schakers kan verslaan op het bord, waarom zou een machine in een andere context diens tegenspeler dan niet te slim af zijn?

Roep je hiermee niet juist nieuwe competitie in het leven, mens versus machine?

Ik vermoed dat volledige foutloosheid niet bestaat en bovendien kan alles stuk. Wat je wel kunt proberen is de foutenkans verkleinen. Het lijkt mij voor de hand te liggen dat gestreefd wordt naar het maken van een systeem dat het menselijk brein zowel in intelligentie als in de kans op het maken van fouten als in zelfcorrigerend vermogen overtreft. Of zoiets inderdaad mogelijk gaat worden moeten we afwachten. Ik vermoed zelf sterk van wel.

Hoe kan je jezelf corrigeren waar je geen fouten maakt?

Ik vind het verder wel amusant dat het juist psychologen zijn (de mensenkenners bij uitstek) die meer vertrouwen hebben in machines dan in mensen.

Ik denk dat ze wat minder normatief vertrouwen in de Darwiniaanse wetten zouden moeten hebben.
Het is niet moeilijk om onbedoeld nieuwe lijnen te trekken waarlangs wedijver ontstaat.
Dat gebeurt namelijk meestal onbedoeld, maar eenmaal begonnen is het zelfversterkend van aard.

Er bestaat geen reden om aan te nemen dat zelfstandige machines niet aan dezelfde wetten onderhevig zouden zijn, aangezien het om iets universeels gaat.

[vegan-revolution]

Wel denk ik dat er andere doemscenario's zijn, en dat het gevaarlijk is om rationaliteit en intelligentie te verwarren met rechtvaardigheid.

We hoeven niets te verwarren. Waar het hier om gaat is competentie en of een machine wat dat betreft beter zou kunnen functioneren dan een mens.

Het lijkt me in de kern tegenstrijdig om zowel iets te willen maken dat intelligenter is dan wijzelf, maar daar tegelijkertijd wel de controle over te willen behouden.

Waarom is dat in de kern tegenstrijdig? Kijk, dat mensen de neiging hebben om "voor te dringen" wil daarom nog niet zeggen dat we juist die menselijke eigenschap naar machines moeten overhevelen. Zoiets kán uiteindelijk waarschijnlijk wel, maar het heeft voor mensen geen algemeen nut. Waar het om gaat is dat machines op een intelligentere manier dienstbaar kunnen zijn aan mensen dan mensen dienstbaar kunnen zijn aan mensen. De dienstbaarheid moet echter voorop blijven staan. Als jij vindt dat een machine die een verplichting tot dienstbaarheid in zich draagt niet intelligent kan zijn : het zij zo.

Dat lukt ons bij soortgenoten al niet eens: Wij kunnen geen beveiligingen ontwikkelen waar geen ander mens doorheen kan.

Er moet daarvoor dan wel een "voordringerswil" aanwezig zijn.

Jij wil graag laten zien dat de besluitvorming van machines een voordeel zou kunnen zijn toch?

Inderdaad.

Of ben je tevreden met het uitblijven van nadelen ten opzichte van de huidige situatie?

Nee. Maar dat wil niet noodzakelijkerwijs zeggen dat het in ieder denkbaar opzicht voordelig moet zijn. Sommige opzichten kunnen waarschijnlijk zonder bezwaar neutraal blijven.

Veel mensen schijnen te denken dat wanneer machines maar slim genoeg worden, het allemaal wel goed komt.

Ik denk dat dat te simplistisch gedacht is.

Voor zover ik kan nagaan, zijn soft en hardware nog altijd twee verschillende zaken.

Het doet er echt niet zo heel veel toe. Zelfs al zou dat onveranderd zo blijven (wat niet hoeft) dan is eenmaal geïmplementeerde software "embedded" in de hardware. Zolang die geïmplementeerde software zelfregulerende functies teweeg brengt kan zo'n machine (of een groep van machines) zelfstandig functioneren.

Het menselijk brein is niet analoog aan een computer.

Ja, maar dat is puur een kwestie van architectuur. Aan die architectuur wordt ook gesleuteld.

Maar dit principe wordt nu ook al in machines toegepast. Sterker nog : de machine AlphaGo die topspeler Lee Sedol met het bordspel Go versloeg was daar op gebaseerd.

Dan zal de machine vast goed zijn in meer dan enkel een bordspel?

Nog niet. Maar waar het om gaat is dat het principe voor meerdere toepassingen gebruikt kan worden.

Of we met een min of meer conventionele computer te maken hebben wordt niet bepaald door de hoeveelheid halfgeleiders op een chip, maar door hun organisatie.
Die is al sinds de opkomst van de PC in de jaren '80 ongeveer hetzelfde.

In grote lijnen wel, hoewel de architectuur van "AlphaGo" daarop nou juist een uitzondering was. Ik verwacht dat er in het komende decennium dieper in die architectuurkwestie wordt gedoken.

Het lijkt me een ad novitatem om er zomaar van uit te gaan dat alles wat nu in het laboratorium gaande is, ook werkelijk toegepast zal gaan (kunnen) worden.

Er zit meestal inderdaad nog heel wat tussen wat er in het laboratorium gebeurt en praktische toepassingen.

Ik begrijp je enthousiasme ten aanzien van technologische ontwikkelingen, maar ik denk dat het goed zou zijn om geen enorm voorschot op de toekomst te nemen, en om ook op te passen voor en al te groot enthousiasme jegens mogelijke politieke computers.

Het is nooit goed om overoptimistisch (of overpessimistisch, afhankelijk van de kant van waaruit je het bekijkt) te zijn over wat je zou kunnen gaan krijgen en wel goed om te weten wat je hebt. Wat ik wel denk is dat we er terdege rekening mee moeten houden dat we over 10 jaar al heel ver zouden kunnen zijn.

Ik denk dat het begrijpen van een context niet komt zonder een zelfbewustzijn.

Er zijn nu machines die beter kunnen herkennen wat er zich in plaatjes afspeelt dan mensen. Hebben die machines daardoor bewustzijn en intelligentie?

Het begrijpen van de context in een tekst is geen station onderweg naar intelligentie, maar is er het resultaat van.

Het zou een stukje "narrow intelligence" kunnen zijn dat min of meer los staat van een "general intelligence".

Het wordt mijns inziens pas echt interessant, wanneer je een goede filosofische discussie met een machine kunt voeren. Dat duurt volgens mijn inschatting waarschijnlijk nog wel minstens een jaar of 10. Als het eenmaal zover is, dan kunnen we meer besluitvorming aan machines overlaten.

Dat weet ik niet, want misschien kan zo'n machine filosofisch wel heel goed beredeneren waarom al het biologische leven beter uitgeroeid zou kunnen worden.
Ik denk dat zelfs ik dat al zou kunnen, juist vanuit het sentiëntisme beredeneerd.
Ander onderwerp, maar daar volgt niet uit dat ik sta te springen om als voorbeeld te dienen.

Je kunt zaken filosofisch beschouwen zonder de uitkomsten van je filosofie als doelstelling te omarmen. Hoe hoogdravend filosofisch een machine ook zou kunnen zijn, de dienstbaarheid aan mensen en wat die graag willen blijft voorop staan.

We zijn inmiddels ook aardig op weg om de werking van het menselijk brein te leren kennen. Die kennis kan eventueel gebruikt worden om een verbeterd informatieverwerkingssysteem te creëren. Want waarom zou het menselijk brein het maximaal haalbare aan intelligentie moeten opleveren?

Als de menselijke wijze van informatie behandelen niet het maximaal haalbare is, waarom zouden we het dan als voorbeeld willen gebruiken voor machines die veel beter zouden moeten zijn?

Omdat we op dit moment het niveau van het menselijk brein nog niet ontstegen zijn. Dus zoek je eerst naar evenaring om daarna daarop voortbouwend die evenaring eventueel te kunnen overstijgen.

Ik denk dat je onze kennis over het menselijk brein flink overschat.

Ik had het over "aardig op weg".

Wie of wat bindt intelligente machines aan hun criteria?
Hier komt het controle-aspect weer boven: Hoe wil je iets dat (veel) intelligenter is dan jijzelf onder controle houden?

Zolang die machines slechts intelligenter zijn in "dienstbaar zijn" en niet in "voordringen" moet er een controle mogelijk zijn als er "een inherente dienstbaarheid" ingebakken zit.

Als een machine wereldberoemde schakers kan verslaan op het bord, waarom zou een machine in een andere context diens tegenspeler dan niet te slim af zijn?

Zo'n machine kán een mens waarschijnlijk dan wel in veel opzichten te slim af zijn, maar zal idealiter een mens in bepaalde opzichten niet te slim af willen zijn. Natuurlijk zal het dan waarschijnlijk wel mogelijk zijn om ook een "extreme voordringerswil" in een machine in te bakken, maar niet wenselijk.

Hoe kan je jezelf corrigeren waar je geen fouten maakt?

Niet gemaakte fouten hoef je uiteraard niet te corrigeren. Dat is een open deur. Een kleinere foutenkans wil echter niet zeggen dat er géén fouten meer worden gemaakt en de nog overblijvende schaarse fouten kunnen dan gecorrigeerd worden.

[vegan-revolution]

Een zwetende robot :

[vegan-revolution]

Ik kwam dit voor mij interessante artikel tegen :

In a historic moment for AI, computers gain ability to generalize learning between activities

Enkele highlights :

An AI that can generalize between learned activities could use its vast storehouse of learned models to attack any new activity with a level of sophistication only dreamed of by humans.

We shouldn’t be surprised the source of this breakthrough was made by the folks at DeepMind, a London-based AI firm responsible for AlphaGo, the go playing supercomputer.

DeepMind’s achievement also disproves previous claims that computers are nowhere near achieving human-level general intelligence, a possibility that has given rise to much hand wringing by those who see artificial intelligence as posing an extinction level threat to humanity.

Given the tensions surrounding AI at the moment, it’s not surprising DeepMind is couching this breakthrough in the most mundane terms.

But make no mistake: The way the a DNC goes about doing this is fundamentally different from how AIs have done it in the past. This new form of generalized learning could pave the way for an era of artificial intelligence the likes of which will strain the human imagination.

Weer een stap dichter naar mensachtige intelligentie voor machines.