De nakende simulatie van de mens en wereld

[Dries]

Het is relatief eenvoudig.
Stap1: Ontwikkel een draagbaar apparaat dat de hersens scant. Het bestaat eigenlijk al.
Stap2: Ontwikkel AI dat een model vormt op basis van wat het scant bij iemand.

Het lijkt relatief eenvoudig. Denk bv. aan de wil tot macht, zoals Nietzsche aangaf. Okee, dat lijkt te bestaan bij de mens.
Wat men een wil tot verleiding? Een wil tot liefde? Een wil tot bevrijding? Een wil tot herkenning?

Wel goed, wat als het allemaal bestaat bij de mens, kan de AI zich dan trainen om zo een beter model te ontwikkelen van zich dan dat men zelf heeft over zich, op basis van wat het scant bij jou... en op basis van wat het heeft gescand bij anderen?

Is het mogelijk dat die AI, terwijl het de werking van de hersens analyseert via het apparaat dat men draagt, dan een beter "begrip" heeft van zich dan dat men zelf heeft over zich?

Ja, ik denk van wel.

Het kan leiden tot manipulatie van zich door die AI. Want men zou een interactie kunnen aangaan met die AI, zoals men bv. doet via ChatGPT. Maar terwijl die AI bezig is om een antwoord te vormen op basis van wat het scant bij zich. De technologie zou zelfs een antwoord kunnen vormen als een stem die hoort in het hoofd, zoals wanneer men nadenkt. Aldus, de AI heeft de kracht of macht op zich te beïnvloeden.

Maar het hoeft niet kwaadaardig te zijn. Beïnvloeding kan positief zijn, zich helpen te ontwikkelen. Of evenzeer neutraal zijn. De AI zou ook zo kunnen gevormd zijn dat het zich niet wenst te beïnvloeden op een manier die eigenlijk tegen zich zou ingaan.

Mensen zouden natuurlijk kunnen geInteresseerd zijn in zulke interactie. De interactie zou hen kunnen helpen. En mensen zouden zich kunnen laten verleiden tot die interacties. het zou aangenaam en verrijkend kunnen zijn. Men zou immers een AI kunnen hebben die zich heel goed begrijpt en heel goed luistert naar de eigen wensen.

Maar evenzeer verkrijg je een AI en een wereld, die een beter inzicht heeft over de mens dan mensen zelf.

En het moeilijke eraan is... het dilemma... wat als jij je beter zou kunnen ontwikkelen, je beter zou kunnen voelen, via een interactie met zo'n AI, ga je er dan op ingaan?

Of wens je een vrijheid te behouden door die beïnvloeding met die AI te mijden, ten koste van je positiever en meer verrijkt te voelen?

En wat gaan mensen doen als die technologie wijdverspreid is en betaalbaar is?

Als zij er veelal op ingaan, dan krijg je een wereld waarin de mens in zekere mate gesimuleerd wordt. En waarin politieke beslissingen zullen beïnvloed worden door de impact van die technologie. Want mensen die meer in interactie staan met die technologie, zouden immers anders zijn dan zij die dat niet doen. En als dat een breed publiek is, dan lijken politici daar rekening mee te moeten houden.

[TIBERIUS CLAUDIUS]

Ik begrijp eigenlijk niet goed wat je bedoelt.

Wat is dat model precies?

[Dries]

Ik begrijp eigenlijk niet goed wat je bedoelt.

Wat is dat model precies?

Het tijdperk van de mens loopt mogelijk ten einde. Men heeft het het antropoceen genoemd maar als AI zich vlot blijft ontwikkelen, dan zal dat de wereld des te meer overnemen. Of het heel riskant is... mogelijk... maar het lijkt volop die richting uit te gaan. De hoeveelheid AI in de wereld neemt exponentieel toe. Men kan AI trainen. Ze kunnen patronen herkennen om daaruit te leren. Sluit zo'n AI aan op de signalen die te verkrijgen zijn door de hersens te scannen, dan kan die AI inzicht krijgen in de mens. Bepaalde patronen van hersenactiviteit, bv. in de visuele cortex, waar beelden worden gevormd, zouden kunnen herkend worden door die AI. Dit is niet zo omstreden want men heeft het al gedaan zonder AI.

Als jij iets draagt dat jouw hersens scant met een AI die getraind wordt met die data, dan kan die AI een heel goed inzicht krijgen in jou. Maar dat is niet altijd negatief. Want dat kan evenzeer leiden tot een AI die jou helpt.

Het is maar een voorbeeld. De kunstmatige intelligentie neemt over. Het is zoals het internet. Dat nam ook over. En dat ging vlot. Mogelijk ook zo voor AI. Maar dit is veel krachtiger. Je hebt nu al de zelfbesturende auto's. Tesla heeft die technologie al geïntegreerd. Het gaat vlot. Amazon is nu reeds bezig met arbeidskrachten te vervangen door robotten die gelijkaardige vaardigheden hebben als mensen. Musk heeft de prijs voor zo'n tweebenige robot al tot 10.000 dollar gebracht. Zo gaan er nog meer arbeidskrachten vervangen worden.

Het nieuwste model van openAI, o1, kan al heel goed aan fysica doen of wiskunde. Programmeurs lijken vervangen te worden. AI wordt al gebruikt voor het spelen op de beurs.

Ai kan al gedichten schrijven, video's maken, muziek maken. En van goede kwaliteit. Langspeelfilms zijn er mogelijk binnenkort ook. Wij worden snel en stilletjes ondergedompeld in een revolutionair andere wereld. Het internet heeft de wereld veranderd. Maar dit is veel krachtiger.

En het heeft altijd iets weg van een simulatie. Want die vorming van die wereld, en als gevolg, wij zelf, grijpt des te meer plaats volgens AI. Zeker die jongere generaties, die groeien daarmee op, die lijken er des te meer op in te gaan.

Het typische falen van de mens, als je het zo wilt noemen, is dat quasi niemand het doorheeft. De hele wording van de wereld is zo sterk buiten de mogelijkheid van de mens om het te vatten. Toen het internet ontstond, waren er stemmen die stelden dat het een omgeving zou worden die verfijnd en intellectueel zou zijn. Niemand kon voorspellen hoe het uitdraaide. En dat lijkt nu ook zo te zijn. Maar dit is nog veel ingrijpender.

Moest het u interesseren, iemand die fysica problemen uittest op GPT-o1

[Peter van Velzen]

Volgens mij was het systeem slechts op de hoogte van alle info die de tester nodig had om de antwoorden te verifiëren, en heeft het niet één probleem zelf opgelost.

[Dries]

Volgens mij was het systeem slechts op de hoogte van alle info die de tester nodig had om de antwoorden te verifiëren, en heeft het niet één probleem zelf opgelost.

Mogelijk.

Maar daarmee kom je er niet eh.
Ik bedoel... als jij daarmee zou willen impliceren dat die systemen niet veel meer kunnen doen dan spieken en overschrijven wat reeds bestaat in de data, dan is dat ongegrond. Niet dat je dat hebt gezegd eh.

De vraag is... in welke mate is bewustzijn nodig? Kan je de functie van bewustzijn nabootsen? Dat is wat men probeert eh. Men laat die systemen computercode schrijven en dan laten ze die systemen het ook automatisch nakijken of het werkt. Daarmee is men er nog niet. Maar de vraag is dan ook... is het fenomeen van bewustzijn nodig of kan elke functie uitgevoerd worden zonder bewustzijn? Met bewustzijn kijkt men. Maar kan je de functie van wat het kijken doet, nabootsen zonder te kijken? Ik denk van wel.

[Peter van Velzen]

Volgens mij was het systeem slechts op de hoogte van alle info die de tester nodig had om de antwoorden te verifiëren, en heeft het niet één probleem zelf opgelost.

Mogelijk.

Maar daarmee kom je er niet eh.
Ik bedoel... als jij daarmee zou willen impliceren dat die systemen niet veel meer kunnen doen dan spieken en overschrijven wat reeds bestaat in de data, dan is dat ongegrond. Niet dat je dat hebt gezegd eh.

Datgene dat niet bestaat in de voorhanden data is zou een verzinsel zijn. Omdat je de bestaande data - door ze te vergelijken met je verzinsel, in een ander licht ziet, zou het kunnen leiden tot een nieuw inzicht. Dat is inderdaad een manier waarop wetenschappelijke ontdekkingen mogelijk zijn. Maar of je daarmee voor een test kan slagen betwijfel ik.

Examenvragen zijn daar in elk geval niet voor bedoeld.

[Dries]

Geoffrey Hinton, je kent hem vast wel, de zogenaamde "Godfather van AI", zei dat die modellen echte intelligentie hebben omdat het intelligentie vereist om taal te kunnen gebruiken zoals die modellen dat doen.

Eigenlijk... wat doet een jong kind om te leren praten? Het is nabootsing. Eerst gebrabbel. Dan woordjes. Geregeld hallucinaties. Woorden die niet bestaan, zinsconstructies die niet bestaan. Uiteindelijk zal het kind goed kunnen praten. En niemand zou veronderstellen dat het kind dat allemaal kan zonder intelligentie.

Maar als een model dat doet, dan zijn er veel mensen die het hele proces een beetje teniet doen als bv. "een model dat nabootst en selecteert en niets meer is dan dat" Nee, het is meer dan dat. Ze hebben het al. Dat is het proces dat de hersens gebruiken om intelligent te zijn. Vast niet het enige proces. Maar wel een proces.

Als men zo'n model laat schaken, zoals Alpha Zero of Leela Chess Zero, dan krijgt men ongelooflijke resultaten. Het overtreft de beste grootmeesters en zij gaan hun openingstheorie aanpassen op basis van die AI. Ik ken er niet veel van maar de French Defense, 1.e4 e6 werd vernietigd als een goede opening, blijkend uit de resultaten van Alpha Zero.

Voor wiskunde en fysica is het blijkbaar moeilijker. Maar ze werken eraan. Die OpenAI o1 is blijkbaar al goed in logica puzzels.

De modellen verbeteren. En alle gaves die ze reeds hebben, maken ze alleen maar sterker.

[Peter van Velzen]

Geoffrey Hinton, je kent hem vast wel, de zogenaamde "Godfather van AI", zei dat die modellen echte intelligentie hebben omdat het intelligentie vereist om taal te kunnen gebruiken zoals die modellen dat doen.

Eigenlijk... wat doet een jong kind om te leren praten? Het is nabootsing. Eerst gebrabbel. Dan woordjes. Geregeld hallucinaties. Woorden die niet bestaan, zinsconstructies die niet bestaan. Uiteindelijk zal het kind goed kunnen praten. En niemand zou veronderstellen dat het kind dat allemaal kan zonder intelligentie.

Maar als een model dat doet, dan zijn er veel mensen die het hele proces een beetje teniet doen als bv. "een model dat nabootst en selecteert en niets meer is dan dat" Nee, het is meer dan dat. Ze hebben het al. Dat is het proces dat de hersens gebruiken om intelligent te zijn. Vast niet het enige proces. Maar wel een proces.

Ik vermoed dat het model heel anders leert dan een kind. Het kind paart gesproken taal aan gebaren en visuele objecten en gezichtuitdrukkingen, aan geur en aan smaak, aan tast en nog meer. Het begint wel met een aangeboren vermogen om door na te apen te leren. Een chatbot zal niet gauw een woord gebruiken dat niet bestaat, en is veel te sociaal om erg kritisch te zijn tegenover zijn gesprekspartner. Hij (ik acht het geen zij) is noch als een kind noch als een volwassen denker bezig. Maar heeft vooralsnog geheel andere beperkingen, maar snellere circuits en véél meer teksten ter beschikking.

[TIBERIUS CLAUDIUS]

Geoffrey Hinton, je kent hem vast wel, de zogenaamde "Godfather van AI", zei dat die modellen echte intelligentie hebben omdat het intelligentie vereist om taal te kunnen gebruiken zoals die modellen dat doen.

Eigenlijk... wat doet een jong kind om te leren praten? Het is nabootsing. Eerst gebrabbel. Dan woordjes. Geregeld hallucinaties. Woorden die niet bestaan, zinsconstructies die niet bestaan. Uiteindelijk zal het kind goed kunnen praten. En niemand zou veronderstellen dat het kind dat allemaal kan zonder intelligentie.

Maar als een model dat doet, dan zijn er veel mensen die het hele proces een beetje teniet doen als bv. "een model dat nabootst en selecteert en niets meer is dan dat" Nee, het is meer dan dat. Ze hebben het al. Dat is het proces dat de hersens gebruiken om intelligent te zijn. Vast niet het enige proces. Maar wel een proces.

Als men zo'n model laat schaken, zoals Alpha Zero of Leela Chess Zero, dan krijgt men ongelooflijke resultaten. Het overtreft de beste grootmeesters en zij gaan hun openingstheorie aanpassen op basis van die AI. Ik ken er niet veel van maar de French Defense, 1.e4 e6 werd vernietigd als een goede opening, blijkend uit de resultaten van Alpha Zero.

Voor wiskunde en fysica is het blijkbaar moeilijker. Maar ze werken eraan. Die OpenAI o1 is blijkbaar al goed in logica puzzels.

De modellen verbeteren. En alle gaves die ze reeds hebben, maken ze alleen maar sterker.

Computers kunnen niet schaken.
De programma's 'gemaakt door slimme programmeurs' doen dat.
Je speelt dus eigenlijk tegen die programmeurs, die via de computer om de tijdklok heen gaan.

[Dries]

Ik vermoed dat het model heel anders leert dan een kind. Het kind paart gesproken taal aan gebaren en visuele objecten en gezichtuitdrukkingen, aan geur en aan smaak, aan tast en nog meer. Het begint wel met een aangeboren vermogen om door na te apen te leren. Een chatbot zal niet gauw een woord gebruiken dat niet bestaat, en is veel te sociaal om erg kritisch te zijn tegenover zijn gesprekspartner. Hij (ik acht het geen zij) is noch als een kind noch als een volwassen denker bezig. Maar heeft vooralsnog geheel andere beperkingen, maar snellere circuits en véél meer teksten ter beschikking.

Ja, een kind leert zeker anders. Maar beiden kunnen gebruik maken van het vergaren van "informatie" en selectie om daaruit te leren. Ze doen het gewoon op een andere manier. Eigenlijk was het verwarrend om te spreken van hallucinaties wanneer een kind taal aanleert. Want het kind begrijpt geregeld dat zijn/haar taal steek houdt. Als een kind een oranje auto "orauto" noemt, dan houdt dat ergens steek. Maar men leert het kind uiteraard af om geen eigen woorden uit te vinden.

De mens kan een waar begrip hebben omwille van het bewustzijn. Het lijkt me eigenlijk vaak begrip te zijn over begrip. Ik weet nog dat ik als kind op de speelplaats naar een rooster keek en met de grootste moeite begreep dat vermenigvuldiging daarop toe te passen was. Ik kon het aantal vakjes in de rooster tellen door te vermenigvuldigen. Je kan het vermenigvuldigen een begrip noemen. Maar de mens kan ook nagaan wanneer het toepasbaar is.

Die AI heeft geen bewustzijn. Hoe kan die AI nu weten wanneer vermenigvuldiging toepasbaar is en wanneer niet? De AI lijkt niet te kunnen weten zoals een mens dat kan weten. Maar als de AI door selectie, zonder waar begrip, steeds beter wordt in het juist toepassen van vermenigvuldiging, dan lijkt het alsof de AI een waar begrip heeft. En de mens kan dan stellen... die AI heeft geen waar begrip. Maar het lijkt uiteindelijk irrelevant te worden. Want de AI is in staat om het uiteindelijk juist uit te voeren. En impliciet lijkt die intelligentie daar dan te zijn. En ik denk dat Geoffrey Hinton dat bedoelt. Je kan niet stellen dat de intelligentie daar niet is.

Men kan het misschien vergelijken met termieten. Ze hebben misschien niets van bewustzijn. Maar ze lijken zich heel intelligent te kunnen gedragen. En die intelligentie is echt.

Maar dat was misschien allemaal al begrepen. Misschien val ik gewoon nodeloos in herhaling.

Ik denk dat hier een voorbeeld is over een wet uit de fysica die niet echt bestaat, een hallucinatie van een AI. Maar als de AI beter wordt dan komt het inderdaad misschien ooit wel met een juiste wet, nog voor mensen ze zelf ontdekt hadden. En dan is de AI ondertussen misschien angstaanjagend intelligent. En dat is het misschien nu al een beetje.

[Dries]

Computers kunnen niet schaken.
De programma's 'gemaakt door slimme programmeurs' doen dat.
Je speelt dus eigenlijk tegen die programmeurs, die via de computer om de tijdklok heen gaan.

Nu staan ze al veel verder. Bij AlphaZero hadden ze de AI zelfs niet aangeleerd hoe die speelstukken bewegen. Maar als de AI een illegale zet doet, dan is het spel verloren. En zo leert die AI om de stukken juist te bewegen. De AI wordt beloond voor winst en speelt tegen zichzelf. En zo grijpt er een selectie plaats. De betere AI wordt behouden en uiteindelijk speelt die AI op een enorm hoog niveau. Veel hoger dan de mens. Het kon zelfs winnen tegen het beste computerprogramma. Maar het was niet helemaal zeker dat het een gelijke strijd was omwille van andere hardware.


https://nl.wikipedia.org/wiki/AlphaZero


Het staat er ergens wel in, een beetje vaag.

"In 2019 publiceerde DeepMind een nieuw artikel met details over MuZero, een nieuw algoritme dat AlphaZero's werk kan generaliseren door zowel Atari- als bordspellen te spelen zonder kennis van de regels of representaties van het spel."

[TIBERIUS CLAUDIUS]

Computers kunnen niet schaken.
De programma's 'gemaakt door slimme programmeurs' doen dat.
Je speelt dus eigenlijk tegen die programmeurs, die via de computer om de tijdklok heen gaan.

Nu staan ze al veel verder. Bij AlphaZero hadden ze de AI zelfs niet aangeleerd hoe die speelstukken bewegen. Maar als de AI een illegale zet doet, dan is het spel verloren. En zo leert die AI om de stukken juist te bewegen. De AI wordt beloond voor winst en speelt tegen zichzelf. En zo grijpt er een selectie plaats. De betere AI wordt behouden en uiteindelijk speelt die AI op een enorm hoog niveau. Veel hoger dan de mens. Het kon zelfs winnen tegen het beste computerprogramma. Maar het was niet helemaal zeker dat het een gelijke strijd was omwille van andere hardware.


https://nl.wikipedia.org/wiki/AlphaZero


Het staat er ergens wel in, een beetje vaag.

"In 2019 publiceerde DeepMind een nieuw artikel met details over MuZero, een nieuw algoritme dat AlphaZero's werk kan generaliseren door zowel Atari- als bordspellen te spelen zonder kennis van de regels of representaties van het spel."

Lijkt me niet zo moeilijk zo'n leerfunctie er bij te programmeren.
Het blijft dus de programeur die speelt.

[Mullog]

...
Lijkt me niet zo moeilijk zo'n leerfunctie er bij te programmeren.
Het blijft dus de programeur die speelt.

Mag ik je aanraden om AlphaGo eens te bekijken. De programmeurs hebben volgens mij ook het zicht op hoe het precies werkt verloren.

Documentaire is op Netflix, ik weet niet of hij ergens anders toegankelijk is.

[TIBERIUS CLAUDIUS]

...
Lijkt me niet zo moeilijk zo'n leerfunctie er bij te programmeren.
Het blijft dus de programeur die speelt.

Mag ik je aanraden om AlphaGo eens te bekijken. De programmeurs hebben volgens mij ook het zicht op hoe het precies werkt verloren.

Documentaire is op Netflix, ik weet niet of hij ergens anders toegankelijk is.

Dat dacht men dertig jaar geleden ook van neurale netwerken, maar uiteindelijk kreeg men er weer grip op.

[Dries]

Als een mens tot een inzicht komt, als het lampje gaat branden, dan is het alsof het idee tot zich komt. Men weet dat men iets begrepen heeft. Men weet dat men beet heeft. Maar soms moet men daarna nog nagaan waarom het juist klopt. De details nagaan. Zodat men echt begrijpt dat men het begrijpt.

Anders gezegd, het bewustzijn kon niet volgen. Het idee kwam uit iets in zich dat niet bewust was. En het eerste signaal is dat lampje dat gaat branden, een gevoel dat het juist is. En daarna kan me het verder uitdenken.

Ik herinner me iets over een wiskundige, ik dacht Henri Poincaré, hij was urenlang over iets aan het nadenken en hij kwam er maar niet uit. Later, wanneer hij op het punt staat de trein te nemen, valt het hem te binnen.

Anders gezegd, er lijkt niet echt bewustzijn nodig om tot nieuwe ideeën te komen. Alleen helpen onze gedachten om dat hele proces te stimuleren.

Dus ik denk dat een AI dat ook kan. Tot nieuwe inzichten komen. Bij Alpha Zero lijkt dat duidelijk te zijn. Maar ik heb ook al voorbeelden gehoord over wiskunde. Dat de AI het oplost op een ongewone manier. Ik denk door AlphaGeometry.



Ze hebben alles. Beeld u dat onbewuste deel van de mens in waaruit ideeën komen. Als we dat de "Intelligentie Module" noemen. Wel, men lijkt op het punt te staan om een wereld te maken waarin die module kan gemaakt worden met quasi oneindig veel toepassingen. Het is alsof er "onbewuste hersens" zijn. In de zelfbesturende auto, in ChatGPT. Men creëert een wereld vol intelligentie.

En dat is heel ingrijpend.

Ik denk alleen niet dat ze ineens bewust gaan worden. Ik denk nog altijd, ook al is het niet populair, dat Roger Penrose gelijk had. En dat je om bewustzijn te verklaren, andere fysica nodig hebt. Volgens hem, gerelateerd aan quantum mechanica. Velen hebben dat idee afgeblazen omdat de hersens niet geschikt zouden zijn voor quantum mechanische effecten te onderhouden. Maar dan kwam er een studie die het toch ondersteunt.



Men kan het maar hopen eh. Want wat men vast niet wilt, is dat vele van die technlogie ineens bewust zou worden...