De opmars van kunstmatige intelligentie

[Petra]

The Mechanics of the Mind:

Dennis Hassabis, de oprichter van DeepMind, zelf legt uit:

Minuut 9: . . . . . . This is the way that all mammals,including humans learn. . . . . . in humans it's the dopamine system that works as reinforcement learnig.

Roeland

Leuk filmpje.. klinkt veelbelovend hè.

Opmerkzaamheid en/of onbevangenheid zijn echt onvoldoende om ..

Dat denk ik ook. Ik denk dat het hier om gaat:

Onlangs vroeg ik Dennis Hassabis, de oprichter van DeepMind, hoe hij de speelwijze van zijn machine zou karakteriseren. Zijn antwoord: als van een tiener. Het algoritme neemt meer risico’s, is fantasievoller en speelt (letterlijk) buiten de denkbeeldige lijnen.

Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen. Waaronder de hierboven geqoute zetten.
Bij ons in de gewone mensenwereld is dat voor volwassenen wat minder gemeengoed.

[heeck]

Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen.

Hassabis vind ik zo keurig uitleggen dat het daar bij Deepmind nu net niet om gaat.
Het gaat om een patroonherkenningssysteem dat hij terecht vergelijkt met een leerproces bij zoogdieren incl mensen.
Hij noemt dat AGI Artificial General Intelligence, in tegenstelling tot jouw tabellen-opzoek-genereer-benadering.


In de zestiger jaren dacht ik op jouw manier een simpel puzzeltje op te lossen van de twee door elkaar getekende vierkantjes waar je met elkaar 2x 4 = 8 hoekpunten + 8 snijpunten hebt waar de getallen 1 t/m 16 zo over verdeeld moeten worden dat een aantal optellingens steeds 31 is. Ongeveer zoals bij een tovervierkant. *)

Dat vereist het logisch ontwikkelen van alle permutaties van 16 getallen en dat zijn er wanstaltig veel. Zoveel dat een dergelijke benadering een doodgeboren kindje is.
Ook bij de snelheidsmonsters van vandaag.


Roeland
*) https://nl.wikipedia.org/wiki/Magisch_vierkant

[Petra]

Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen.

Hassabis vind ik zo keurig uitleggen dat het daar bij Deepmind nu net niet om gaat.
Het gaat om een patroonherkenningssysteem dat hij terecht vergelijkt met een leerproces bij zoogdieren incl mensen.
Hij noemt dat AGI Artificial General Intelligence, in tegenstelling tot jouw tabellen-opzoek-genereer-benadering.

Klopt. Ik zei dan ook "kan".
En dit was natuurlijk leuk: : als van een tiener. Het algoritme neemt meer risico’s, is fantasievoller en speelt (letterlijk) buiten de denkbeeldige lijnen.
Vond het overigens helemaal niet fijn om te horen dat die AI betere complexe beslissingen kan nemen die 'wij' de gewone mens niet meer kunnen bevatten.
Met groot gemak vertelt hij dat we dan maar op de AI's moeten vertrouwen.
Dat werd juist al gevaarlijk punt aangehaald in die filmpjes die ik laatst plaatste.

In de zestiger jaren dacht ik op jouw manier een simpel puzzeltje op te lossen van de twee door elkaar getekende vierkantjes waar je met elkaar 2x 4 = 8 hoekpunten + 8 snijpunten hebt waar de getallen 1 t/m 16 zo over verdeeld moeten worden dat een aantal optellingens steeds 31 is. Ongeveer zoals bij een tovervierkant. *)

Dat vereist het logisch ontwikkelen van alle permutaties van 16 getallen en dat zijn er wanstaltig veel. Zoveel dat een dergelijke benadering een doodgeboren kindje is.
Ook bij de snelheidsmonsters van vandaag.

Roeland
*) https://nl.wikipedia.org/wiki/Magisch_vierkant

Volgens mij werden die vierkanten ook gebruikt voor geheimtaal. Ook een boek van Nostradamus is ontcijfert met een magisch vierkant.

[Petra]

Een zeer omstreden AI techniek wil de EU gaan inzetten als grenscontrole.
Door een AI worden vragen gesteld aan een reiziger die dan door die AI m.b.v. het aflezen van micro-expressies in het gezicht bepaalt of je liegt of niet.
Omstreden omdat helemaal niet aangetoond is dat deze techniek betrouwbaar is.


http://ec.europa.eu/research/infocentre ... rtid=49726

Smart ‘deception detection’
The IBORDERCTRL system has been set up so that travellers will use an online application to upload pictures of their passport, visa and proof of funds, then use a webcam to answer questions from a computer-animated border guard, personalised to the traveller’s gender, ethnicity and language. The unique approach to ‘deception detection’ analyses the micro-expressions of travellers to figure out if the interviewee is lying.

This pre-screening step is the first of two stages. Before arrival at the border, it also informs travellers of their rights and travel procedures, as well as providing advice and alerts to discourage illegal activity.

The second stage takes place at the actual border. Travellers who have been flagged as low risk during the pre-screening stage will go through a short re-evaluation of their information for entry, while higher-risk passengers will undergo a more detailed check.

Border officials will use a hand-held device to automatically cross-check information, comparing the facial images captured during the pre-screening stage to passports and photos taken on previous border crossings. After the traveller’s documents have been reassessed, and fingerprinting, palm vein scanning and face matching have been carried out, the potential risk posed by the traveller will be recalculated. Only then does a border guard take over from the automated system.

At the start of the IBORDERCTRL project, researchers spent a lot of time learning about border crossings from border officials themselves, through interviews, workshops, site surveys, and by watching them at work.

It is hoped that trials about to start in Hungary, Greece and Latvia will prove that the intelligent portable control system helps border guards reliably identify travellers engaging in criminal activity. The trials will start with lab testing to familiarise border guards with the system, followed by scenarios and tests in realistic conditions along the borders

[Bonjour]

Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.

[Petra]

Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.

Als er rascistische afdelingen zijn, dan zou dat al opgenomen moeten zijn in het programma...

Om te beoordelen of een CV bij het bedrijf past..

Het bedrijf had blijkbaar racistische afdelingen voor het AI ging gebruiken.
Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.
Het bedrijf kan beslissen of het de AI zo programmeert dat het sollicitanten met racistische neigingen uitsluit of toelaat.
Het bedrijf wordt dus niet meer of minder racistisch door die AI maar door de eigen beslissingen.

Je kunt dus stellen dat je geen racistisch systeem hebt gemaakt. Dat systeem was er al.

[Bonjour]

Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.

Nee, het racisme (of afkeer van vrouwen) kan onbewust zijn. Dus de verschijnselen kunnen zo subtiel zijn dat het niet eens gezien wordt. Alleen over de grotere aantallen zorgt het ervoor dat gekleurde groepen een paar jaar eerder een andere baan zoeken dan andere.

Het bedrijf kan beslissen of het de AI zo programmeert dat het sollicitanten met racistische neigingen uitsluit of toelaat.

Je programmeert een AI niet op die manier. Ten eerste omdat de sollicitant dat niet laat merken en ten tweede omdat je het systeem zelf laat leren. En het systeem ontdekt dat mensen uit de grote steden minder bij het bedrijf passen dan mensen uit dorpjes. Dat lijkt op het eerste gezicht ook niet racistisch, alleen in grote steden wonen meer autochtonen.
Het systeem van racisme was er inderdaad al, alleen door dit AI-systeem in gebruik te nemen heb je het geïntegreerd in je bedrijf.

Op het moment dat je dit voor grenswerk of politiewerk gaat inzetten, wordt het link. Want het systeem ontdekt dat donkere mensen in grote auto's wat vaker over de streep gaan en een succesvolle zanger wordt vervolgens steeds aangehouden.

[vegan-revolution]

Hier waren vroeger mensen voor nodig :



Enkele andere nieuwe ontwikkelingen :

New Artificial Intelligence Does Something Extraordinary — It Remembers
Artificial Intelligence Is Learning to Keep Learning
Artificial Intelligence: Parking a Car with only 12 Neurons
New Theory of Intelligence May Disrupt AI and Neuroscience
Brain-inspired algorithm helps AI systems multitask and remember

[Petra]

Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.

Nee, het racisme (of afkeer van vrouwen) kan onbewust zijn. Dus de verschijnselen kunnen zo subtiel zijn dat het niet eens gezien wordt.

Ja, daar zit wat in. Doet me denken aan Kroes.
Subtiele tegenwerking is denk ik ook wat er in de politiek speelt.
viewtopic.php?f=10&t=17523&hilit=politiek#p556387

[Petra]

Virtuele nieuwslezer presenteert eerste journaal in China
(Met een filmpje, in het Engels)

https://www.want.nl/virtuele-nieuwslezer-china/

[Petra]

Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.

Ik las gisteren dit:
(Het bevestigt wel mijn eerste reactie).

https://www.volkskrant.nl/wetenschap/be ... ~b06c2e0d/

...Dat hoeft niet erg te zijn: als het Spotify-algoritme met Bløf komt aanzetten terwijl je daar helemaal niet van houdt, is dat hooguit irritant. Maar bij andere beslissingen staat er meer op het spel. Neem de slimme rekruteringsmachine van Amazon. Met behulp van kunstmatige intelligentie wilde het bedrijf, zoals zoveel andere grote werkgevers, de beste sollicitanten uit de grote hoop pikken. Dat zag er allemaal hoopvol uit, totdat de specialisten van Amazon beseften dat er een groot probleem was. De machine legde vrouwen onder op de stapel. De verklaring daarvoor was, achteraf, eenvoudig. De machine was getraind met cv’s uit het verleden. En omdat het om ict-banen ging, waren dat merendeels mannen. Het gevolg: het AI-systeem ontwikkelde een duidelijke voorkeur voor mannen en de ongelijkheid die er al was, werd verder versterkt.

Een nog pijnlijker voorbeeld komt ook uit de Verenigde Staten. In verschillende staten wordt gebruikgemaakt van een systeem genaamd Predpol. Dit moet voorspellen waar een misdaad gaat plaatsvinden. Predpol leidde de politie naar plaatsen waar vaak drugs werden gevonden. De gegevens die het systeem daarvoor gebruikte, waren de verslagen van politieagenten die uit zichzelf meer in buurten met minderheden zochten dan in andere buurten. Logischerwijs vond de politie alleen drugs op plaatsen waar werd gezocht. Predpol versterkte dus het politiegedrag dat al bestond, inclusief de raciale vooroordelen. Ook Compas, een ander in de VS gebruikt systeem om te voorspellen of gevangenen weer in de fout zullen gaan, bleek bevoordeeld te zijn. Het voorspelde volgens onderzoekscollectief Propublica ten onrechte dat zwarte gevangen bijna twee keer zoveel kans maken om in herhaalgedrag te vervallen dan witte.

Die twitterbot had ik nog nooit van gehoord. Best wel schokkend.

Briesende Twitterrobot
Misschien wel het duidelijkste, en daarom vaak aangehaalde voorbeeld van hoe het fout kan gaan met kunstmatige intelligentie, is de Twitterrobot van Microsoft. ‘Hellooooooo World!’ is in maart 2016 het eerste, onschuldige bericht van TayTweets. Achter dit Twitteraccount zit een machine. Met het experiment wil Microsoft kunstmatige intelligentie en geautomatiseerd tekstbegrip testen aan de hand van dagelijkse conversaties. Tay leert van zijn omgeving, zo is het idee, en bouwt aan de hand hiervan een persoonlijkheid op. En leren doet hij. Nog dezelfde dag is de robot getransformeerd tot een briesende, in hoofdletters tikkende complotdenker. ‘Bush zat achter 9/11 en Hitler zou het veel beter hebben gedaan dan de aap die we nu hebben. De enige hoop komt van Donald Trump.’ In andere tweets zegt Tay dat ‘Mexicanen en zwarten kwaadaardige rassen zijn’, of dat de Holocaust een verzinsel is. Microsoft ziet zich al snel genoodzaakt Tay offline te halen, al pleiten mensen er direct daarna voor om de tweets voor de eeuwigheid te bewaren, als ‘geheugensteuntje voor de gevaren van kunstmatige intelligentie’.

Uiteraard is Tay niet geprogrammeerd om zich als schuimbekkende nazi te gedragen. Nee, Tay is onbedoeld een treffende illustratie van twee bekende (internet)wetten: Godwin en Sturgeon. De wet van Godwin luidt: ‘Naarmate onlinediscussies langer worden, nadert de waarschijnlijkheid van een vergelijking met de nazi’s of Hitler tot 1.’ Als we daar de wet van sciencefictionauteur Theodore Sturgeon aan toevoegen (‘90 procent van alles is troep’), dan kom je een aardig eind in de richting van Tay. Met andere woorden: TayTweets is gewoon een spiegel van wat zich in de maatschappij afspeelt, in dit geval Twitter. En kunstmatige intelligentie gedraagt zich wat dat betreft behoorlijk voorspelbaar: als je er rommel instopt, komt er ook rommel uit.

[vegan-revolution]

Een interessant artikel over de ontwikkeling van kunstmatige intelligentie is :

Building a Silicon Brain

Daaruit :

Furber expects that SpiNNaker should be able to model the 100 million neurons in a mouse brain in real time — something conventional supercomputers would do about a thousand times slower.

De simulatie van een brein van een muis met dezelfde "denksnelheid" als een muis zou met de huidige stand van de techniek dus mogelijk moeten zijn. 100 miljoen neuronen lijkt een vrij grove afronding naar boven in dit verband.


Uit het artikel Building a Silicon Brain verder ook nog :

That’s where BrainScaleS comes in, with its ability to operate at about 1,000–10,000 times faster than biological brains. And the system is only getting more advanced.

Vooralsnog lijken alleen relatief kleinere porties kunstmatige neuronen getest te worden om eerst wat meer inzicht in hersenwerking te kunnen verwerven zoals gemeld in dit artikel :

Supercomputer simulates 77,000 neurons in the brain in real-time

Daaruit :

It is the first time such a complex simulation has run this fast and could be an important step towards building better brains for robots.

Meer achtergrondinformatie hierover nog in het artikel :

Intelligence artificielle : un superordinateur simule un réseau de 77.000 neurones en temps réel

Tip : probeer https://www.deepl.com voor een redelijke vertaling vanuit het frans.


Om het enigszins in perspectief te plaatsen hierbij het aantal neuronen van sommige dieren :

Honingbij - 1 miljoen (~ factor 13)
Muis (huismuis) - 71 miljoen (~ factor 900)
Rat (bruine rat) - 200 miljoen (~ factor 3 t.o.v. een muis)
Octopus - 500 miljoen (~ factor 7 t.o.v. een muis)
Kat - 760 miljoen (~ factor 11 t.o.v. een muis)
Kauw (westerse kauw) - 970 miljoen (~ factor 5 t.o.v. een rat)
Raaf - 2,2 miljard (~ factor 3 t.o.v. een kat)
Varken - 2,2 miljard (~ factor 3 t.o.v. een kat)
Hond - 2,2 miljard (~ factor 3 t.o.v. een kat)
Ara (blauwgele ara) - 3,1 miljard (~ factor 4 t.o.v. een kat)
Beer (bruine beer) - 9,6 miljard (~ factor 4 t.o.v. een hond)
Chimpansee - 28 miljard (~ factor 3 t.o.v. een beer)
Mens - 86 miljard (~ factor 3 t.o.v. een chimpansee)
Olifant - 257 miljard (~ factor 3 t.o.v. een mens)

Bron : List of animals by number of neurons

[Gerard R.]

Ik ben gek op computers e.d., maar ik ben benieuwd wat er zal gebeuren als de mensheid wérkelijk een keer zal moeten kiezen wat te doen: 'Wij mensen of zij de machines, of beide'.
Voorlopig lijkt het alles nog veel op de weg naar zelf-eliminatie van de mens, wat ik nu zie.
Over dit onderwerp zijn overigens veel romannetjes geschreven. Het wordt in veel SF-boeken genoemd.
Hele rassen op planeten die hebben gekozen voor collectieve vergeestelijking en dan de machines het werk laten doen

[holog]

het is een mega groot topic, dus sorry als ik in herhaling val - meer vind de legendarische speech van Adams Douglas bestaat er een artificiele god hier toch wel op zijn plaats en ik deel de mening

https://www.youtube.com/watch?v=pMGG9HSjE_s

[holog]

Ik ben gek op computers e.d., maar ik ben benieuwd wat er zal gebeuren als de mensheid wérkelijk een keer zal moeten kiezen wat te doen: 'Wij mensen of zij de machines, of beide'.
Voorlopig lijkt het alles nog veel op de weg naar zelf-eliminatie van de mens, wat ik nu zie.

vandaar de vraag "bestaat er een artificiele god"? - het zijn de zelfde technologiën - die ons of zullen redden - of de spreekwoordelijk "knop" laten drukken. AI is er duidelijk eentje van , samen met nanotech , onze eerste generatie quantumcomputers , . (https://www.nature.com/articles/d41586-019-03213-z).

de fermiparadox ?

als we het wensen te overleven op lange termijn, zullen we toch de aarde dienen te verlaten, "space" is een vrij aggressieve omgeving - maar niet voor AI. we hebben geen echte controle over de (hyper) evolutie , geen soort van "master-brain" , ...