De opmars van kunstmatige intelligentie

Hier kan gedebateerd worden over de nieuwste ontwikkelingen in de wetenschap.

Moderator: Moderators

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 21 okt 2018 18:03

heeck schreef:
21 okt 2018 14:00
The Mechanics of the Mind:

Dennis Hassabis, de oprichter van DeepMind, zelf legt uit:

Minuut 9: . . . . . . This is the way that all mammals,including humans learn. . . . . . in humans it's the dopamine system that works as reinforcement learnig.

Roeland
Leuk filmpje.. klinkt veelbelovend hè.
heeck schreef:
21 okt 2018 14:00
Opmerkzaamheid en/of onbevangenheid zijn echt onvoldoende om ..
Dat denk ik ook. Ik denk dat het hier om gaat:
Onlangs vroeg ik Dennis Hassabis, de oprichter van DeepMind, hoe hij de speelwijze van zijn machine zou karakteriseren. Zijn antwoord: als van een tiener. Het algoritme neemt meer risico’s, is fantasievoller en speelt (letterlijk) buiten de denkbeeldige lijnen.
Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen. Waaronder de hierboven geqoute zetten.
Bij ons in de gewone mensenwereld is dat voor volwassenen wat minder gemeengoed.
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
heeck
Superposter
Berichten: 7683
Lid geworden op: 21 aug 2006 14:19
Locatie: Leeuwarden

Re: De opmars van kunstmatige intelligentie

Bericht door heeck » 22 okt 2018 11:25

Petra schreef:Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen.
Hassabis vind ik zo keurig uitleggen dat het daar bij Deepmind nu net niet om gaat.
Het gaat om een patroonherkenningssysteem dat hij terecht vergelijkt met een leerproces bij zoogdieren incl mensen.
Hij noemt dat AGI Artificial General Intelligence, in tegenstelling tot jouw tabellen-opzoek-genereer-benadering.


In de zestiger jaren dacht ik op jouw manier een simpel puzzeltje op te lossen van de twee door elkaar getekende vierkantjes waar je met elkaar 2x 4 = 8 hoekpunten + 8 snijpunten hebt waar de getallen 1 t/m 16 zo over verdeeld moeten worden dat een aantal optellingens steeds 31 is. Ongeveer zoals bij een tovervierkant. *)

Dat vereist het logisch ontwikkelen van alle permutaties van 16 getallen en dat zijn er wanstaltig veel. Zoveel dat een dergelijke benadering een doodgeboren kindje is.
Ook bij de snelheidsmonsters van vandaag.


Roeland
*) https://nl.wikipedia.org/wiki/Magisch_vierkant
Begrip is een waan met een warm gevoel. Dus Mijdt Spijt.
http://skepp.be/nl/rare-apparaten/alfabetisch/full

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 23 okt 2018 03:53

heeck schreef:
22 okt 2018 11:25
Petra schreef:Een AI kan in een game natuurlijk op tig duizend manieren alle mogelijke zetten uitproberen.
Hassabis vind ik zo keurig uitleggen dat het daar bij Deepmind nu net niet om gaat.
Het gaat om een patroonherkenningssysteem dat hij terecht vergelijkt met een leerproces bij zoogdieren incl mensen.
Hij noemt dat AGI Artificial General Intelligence, in tegenstelling tot jouw tabellen-opzoek-genereer-benadering.
Klopt. Ik zei dan ook "kan".
En dit was natuurlijk leuk: : als van een tiener. Het algoritme neemt meer risico’s, is fantasievoller en speelt (letterlijk) buiten de denkbeeldige lijnen.
Vond het overigens helemaal niet fijn om te horen dat die AI betere complexe beslissingen kan nemen die 'wij' de gewone mens niet meer kunnen bevatten.
Met groot gemak vertelt hij dat we dan maar op de AI's moeten vertrouwen.
Dat werd juist al gevaarlijk punt aangehaald in die filmpjes die ik laatst plaatste.
heeck schreef:
22 okt 2018 11:25
In de zestiger jaren dacht ik op jouw manier een simpel puzzeltje op te lossen van de twee door elkaar getekende vierkantjes waar je met elkaar 2x 4 = 8 hoekpunten + 8 snijpunten hebt waar de getallen 1 t/m 16 zo over verdeeld moeten worden dat een aantal optellingens steeds 31 is. Ongeveer zoals bij een tovervierkant. *)

Dat vereist het logisch ontwikkelen van alle permutaties van 16 getallen en dat zijn er wanstaltig veel. Zoveel dat een dergelijke benadering een doodgeboren kindje is.
Ook bij de snelheidsmonsters van vandaag.

Roeland
*) https://nl.wikipedia.org/wiki/Magisch_vierkant
Volgens mij werden die vierkanten ook gebruikt voor geheimtaal. Ook een boek van Nostradamus is ontcijfert met een magisch vierkant. :lol:
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 02 nov 2018 05:05

Een zeer omstreden AI techniek wil de EU gaan inzetten als grenscontrole.
Door een AI worden vragen gesteld aan een reiziger die dan door die AI m.b.v. het aflezen van micro-expressies in het gezicht bepaalt of je liegt of niet.
Omstreden omdat helemaal niet aangetoond is dat deze techniek betrouwbaar is.


http://ec.europa.eu/research/infocentre ... rtid=49726
Smart ‘deception detection’
The IBORDERCTRL system has been set up so that travellers will use an online application to upload pictures of their passport, visa and proof of funds, then use a webcam to answer questions from a computer-animated border guard, personalised to the traveller’s gender, ethnicity and language. The unique approach to ‘deception detection’ analyses the micro-expressions of travellers to figure out if the interviewee is lying.

This pre-screening step is the first of two stages. Before arrival at the border, it also informs travellers of their rights and travel procedures, as well as providing advice and alerts to discourage illegal activity.

The second stage takes place at the actual border. Travellers who have been flagged as low risk during the pre-screening stage will go through a short re-evaluation of their information for entry, while higher-risk passengers will undergo a more detailed check.

Border officials will use a hand-held device to automatically cross-check information, comparing the facial images captured during the pre-screening stage to passports and photos taken on previous border crossings. After the traveller’s documents have been reassessed, and fingerprinting, palm vein scanning and face matching have been carried out, the potential risk posed by the traveller will be recalculated. Only then does a border guard take over from the automated system.

At the start of the IBORDERCTRL project, researchers spent a lot of time learning about border crossings from border officials themselves, through interviews, workshops, site surveys, and by watching them at work.

It is hoped that trials about to start in Hungary, Greece and Latvia will prove that the intelligent portable control system helps border guards reliably identify travellers engaging in criminal activity. The trials will start with lab testing to familiarise border guards with the system, followed by scenarios and tests in realistic conditions along the borders
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
Bonjour
Site Admin
Berichten: 4372
Lid geworden op: 27 jun 2008 23:26

Re: De opmars van kunstmatige intelligentie

Bericht door Bonjour » 02 nov 2018 06:46

Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.
Zelfs als schepping bewezen wordt, is Magrathea net zo waarschijnlijk als God.

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 03 nov 2018 03:27

Bonjour schreef:
02 nov 2018 06:46
Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.
Als er rascistische afdelingen zijn, dan zou dat al opgenomen moeten zijn in het programma...
Om te beoordelen of een CV bij het bedrijf past..
Het bedrijf had blijkbaar racistische afdelingen voor het AI ging gebruiken.
Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.
Het bedrijf kan beslissen of het de AI zo programmeert dat het sollicitanten met racistische neigingen uitsluit of toelaat.
Het bedrijf wordt dus niet meer of minder racistisch door die AI maar door de eigen beslissingen.

Je kunt dus stellen dat je geen racistisch systeem hebt gemaakt. Dat systeem was er al.
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
Bonjour
Site Admin
Berichten: 4372
Lid geworden op: 27 jun 2008 23:26

Re: De opmars van kunstmatige intelligentie

Bericht door Bonjour » 03 nov 2018 08:37

Petra schreef:
03 nov 2018 03:27
Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.
Nee, het racisme (of afkeer van vrouwen) kan onbewust zijn. Dus de verschijnselen kunnen zo subtiel zijn dat het niet eens gezien wordt. Alleen over de grotere aantallen zorgt het ervoor dat gekleurde groepen een paar jaar eerder een andere baan zoeken dan andere.
Petra schreef:
03 nov 2018 03:27
Het bedrijf kan beslissen of het de AI zo programmeert dat het sollicitanten met racistische neigingen uitsluit of toelaat.
Je programmeert een AI niet op die manier. Ten eerste omdat de sollicitant dat niet laat merken en ten tweede omdat je het systeem zelf laat leren. En het systeem ontdekt dat mensen uit de grote steden minder bij het bedrijf passen dan mensen uit dorpjes. Dat lijkt op het eerste gezicht ook niet racistisch, alleen in grote steden wonen meer autochtonen.
Het systeem van racisme was er inderdaad al, alleen door dit AI-systeem in gebruik te nemen heb je het geïntegreerd in je bedrijf.

Op het moment dat je dit voor grenswerk of politiewerk gaat inzetten, wordt het link. Want het systeem ontdekt dat donkere mensen in grote auto's wat vaker over de streep gaan en een succesvolle zanger wordt vervolgens steeds aangehouden.
Zelfs als schepping bewezen wordt, is Magrathea net zo waarschijnlijk als God.


Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 07 nov 2018 00:20

Bonjour schreef:
03 nov 2018 08:37
Petra schreef:
03 nov 2018 03:27
Het ligt er dus maar aan hoeveel afdelingen er racistisch waren en of het bedrijf dat acceptabel vond.
Nee, het racisme (of afkeer van vrouwen) kan onbewust zijn. Dus de verschijnselen kunnen zo subtiel zijn dat het niet eens gezien wordt.
Ja, daar zit wat in. Doet me denken aan Kroes.
Subtiele tegenwerking is denk ik ook wat er in de politiek speelt.
viewtopic.php?f=10&t=17523&hilit=politiek#p556387
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 11 nov 2018 05:32

Virtuele nieuwslezer presenteert eerste journaal in China
(Met een filmpje, in het Engels)

https://www.want.nl/virtuele-nieuwslezer-china/
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Gebruikersavatar
Petra
Bevlogen
Berichten: 4856
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: De opmars van kunstmatige intelligentie

Bericht door Petra » 25 nov 2018 05:29

Bonjour schreef:
02 nov 2018 06:46
Ik hoorde laatst op de radio een bezwaar tegen AI:
Stel je maakt een AI, zelflerend, systeem om sollicitanten te beoordelen. De kern bestaat ook het analyseren van CV's. Om te beoordelen of een CV bij het bedrijf past pak je de CV's van de afgelopen jaren en koppel die aan het aantal dienstjaren van die mensen. Het systeem kan nu beginnen.
Maar stel dat er in het bedrijf afdelingen zijn die nogal racistisch zijn, dan gaan mensen met buitenlandse afkomst wellicht eerder weg.
Doordat dit invloed heeft op de data van je zelflerend systeem, heb je een racistisch systeem gemaakt.
Ik las gisteren dit:
(Het bevestigt wel mijn eerste reactie).

https://www.volkskrant.nl/wetenschap/be ... ~b06c2e0d/
...Dat hoeft niet erg te zijn: als het Spotify-algoritme met Bløf komt aanzetten terwijl je daar helemaal niet van houdt, is dat hooguit irritant. Maar bij andere beslissingen staat er meer op het spel. Neem de slimme rekruteringsmachine van Amazon. Met behulp van kunstmatige intelligentie wilde het bedrijf, zoals zoveel andere grote werkgevers, de beste sollicitanten uit de grote hoop pikken. Dat zag er allemaal hoopvol uit, totdat de specialisten van Amazon beseften dat er een groot probleem was. De machine legde vrouwen onder op de stapel. De verklaring daarvoor was, achteraf, eenvoudig. De machine was getraind met cv’s uit het verleden. En omdat het om ict-banen ging, waren dat merendeels mannen. Het gevolg: het AI-systeem ontwikkelde een duidelijke voorkeur voor mannen en de ongelijkheid die er al was, werd verder versterkt.

Een nog pijnlijker voorbeeld komt ook uit de Verenigde Staten. In verschillende staten wordt gebruikgemaakt van een systeem genaamd Predpol. Dit moet voorspellen waar een misdaad gaat plaatsvinden. Predpol leidde de politie naar plaatsen waar vaak drugs werden gevonden. De gegevens die het systeem daarvoor gebruikte, waren de verslagen van politieagenten die uit zichzelf meer in buurten met minderheden zochten dan in andere buurten. Logischerwijs vond de politie alleen drugs op plaatsen waar werd gezocht. Predpol versterkte dus het politiegedrag dat al bestond, inclusief de raciale vooroordelen. Ook Compas, een ander in de VS gebruikt systeem om te voorspellen of gevangenen weer in de fout zullen gaan, bleek bevoordeeld te zijn. Het voorspelde volgens onderzoekscollectief Propublica ten onrechte dat zwarte gevangen bijna twee keer zoveel kans maken om in herhaalgedrag te vervallen dan witte.
Die twitterbot had ik nog nooit van gehoord. Best wel schokkend.
Briesende Twitterrobot
Misschien wel het duidelijkste, en daarom vaak aangehaalde voorbeeld van hoe het fout kan gaan met kunstmatige intelligentie, is de Twitterrobot van Microsoft. ‘Hellooooooo World!’ is in maart 2016 het eerste, onschuldige bericht van TayTweets. Achter dit Twitteraccount zit een machine. Met het experiment wil Microsoft kunstmatige intelligentie en geautomatiseerd tekstbegrip testen aan de hand van dagelijkse conversaties. Tay leert van zijn omgeving, zo is het idee, en bouwt aan de hand hiervan een persoonlijkheid op. En leren doet hij. Nog dezelfde dag is de robot getransformeerd tot een briesende, in hoofdletters tikkende complotdenker. ‘Bush zat achter 9/11 en Hitler zou het veel beter hebben gedaan dan de aap die we nu hebben. De enige hoop komt van Donald Trump.’ In andere tweets zegt Tay dat ‘Mexicanen en zwarten kwaadaardige rassen zijn’, of dat de Holocaust een verzinsel is. Microsoft ziet zich al snel genoodzaakt Tay offline te halen, al pleiten mensen er direct daarna voor om de tweets voor de eeuwigheid te bewaren, als ‘geheugensteuntje voor de gevaren van kunstmatige intelligentie’.

Uiteraard is Tay niet geprogrammeerd om zich als schuimbekkende nazi te gedragen. Nee, Tay is onbedoeld een treffende illustratie van twee bekende (internet)wetten: Godwin en Sturgeon. De wet van Godwin luidt: ‘Naarmate onlinediscussies langer worden, nadert de waarschijnlijkheid van een vergelijking met de nazi’s of Hitler tot 1.’ Als we daar de wet van sciencefictionauteur Theodore Sturgeon aan toevoegen (‘90 procent van alles is troep’), dan kom je een aardig eind in de richting van Tay. Met andere woorden: TayTweets is gewoon een spiegel van wat zich in de maatschappij afspeelt, in dit geval Twitter. En kunstmatige intelligentie gedraagt zich wat dat betreft behoorlijk voorspelbaar: als je er rommel instopt, komt er ook rommel uit.
“Men and women are learning animals. If you do not see what they have learned, you're blind. They are creatures ever changing, ever improving, ever expanding their vision and the capacity of their hearts."
― Anne Rice, The Vampire Chronicles

Plaats reactie