Homo roboticus

[Petra]

Franse wetenschappers ontwikkelden een robotje dat de weg vindt als een woestijnmier zonder GPS.

https://www.volkskrant.nl/wetenschap/ro ... ~b8b98428/

Voorlopig wint de woestijnmier het dus van zijn kunstmatige tegenhanger. De Croon: ‘Als je werkt aan dit soort robots, krijg je alleen maar meer respect voor de natuur.’

[TIBERIUS CLAUDIUS]

De weg vinden lijkt me niet zo moeilijk.

Wel om het robotje zo te maken dat hij de wandeling kan voltooien.

[Bonjour]

Punt is wel dat het datgene is wat robots aandrijft.
Dus wat vind je daar dan van? Dat er 'straks' robots rondlopen die gedachten hebben en handelingen uitvoeren die wij niet meer kunnen snappen.
Moeten we er dan maar op vertrouwen dat wel wel goed zal zijn?

Hoewel we regelmatig momenten hebben waarop we versteld staan, komen we er altijd ook wel weer uit. Ik heb geen ervaring met AI, maar ik denk dat het gedrag van een robot ook wel te analyseren is. Eventueel moeten er wat hulpmiddelen gemaakt worden. Vergelijk het met een garage die je auto uitleest. Een ander programma analyseert je auto. Ik denk dat je dan ook met AI systemen een heel eind moet kunnen komen.

[Petra]

het is al bekend dat wij (gewone mens) op een gegeven moment niet meer snappen wat een AI tot een bepaalde conclusie heeft gebracht. De algoritmes gaan ons menselijke petje te boven.

Dat probleem heb ik nu al regelmatig met algoritmes. Daar heb je geen ai voor nodig.

Punt is wel dat het datgene is wat robots aandrijft.
Dus wat vind je daar dan van? Dat er 'straks' robots rondlopen die gedachten hebben en handelingen uitvoeren die wij niet meer kunnen snappen.
Moeten we er dan maar op vertrouwen dat wel wel goed zal zijn?
Of moeten we het zodanig binnen de perken zien te houden dat we iig kunnen snappen wat ze beweegt?

Als je de ontwikkelingen op het gebied van deep-learning volgt dan is dit juist het major issue.
Zoals bv bleek bij het go spel. Op een gegeven moment kunnen wij die AI-algoritmes/gedachten niet alleen niet meer bijbenen maar ook niet meer achterhalen.
Ze gaan simpel gezegd ons menselijke verstand te boven.
Dat was nou net het punt. Zie Europese Commissie: viewtopic.php?f=19&t=17669#p560999

Tevens is er al aangetoond dat algoritmes op eigen houtje gekke dingen kunnen doen die wij (mens) niet hadden voorzien of konden voorspellen.
Bv. het voorbeeld uit New Dark Age

Wat algoritmes op eigen houtje doen; dit is wat mensen blijkbaar graag willen zien.
En waar de menselijke moraal opspeelt; dit is niet wat we onze kinderen willen laten zien.
Wat ik nou zo intrigerend vind is dat YT besloot dat er in het vervolg mensenhanden aan te pas moesten komen.

En hier voorbeelden van hoe het uit de hand kan lopen: De opmars van de KI

[Petra]

Leuk!
Mens verslaat machine.met debatteren.

https://www.volkskrant.nl/wetenschap/de ... ~bd4e24e5/

Miss Debater is gevoed met tien miljard zinnen afkomstig van nieuwsartikelen en wetenschappelijk onderzoek. Het mocht niet baten: Natarajan was overtuigender. Volgens hem zelf is de computer heel goed in het doorspitten van grote hoeveelheden informatie om daar vervolgens de relevante argumenten uit te destilleren. Maar in de verpakking gaat het nog altijd mis. Daar komt meer bij kijken: retorica, inspelen op de verwachtingen van het publiek, emoties. Daar is de mens nog beter in.

[heeck]

Het gros van de mensen zal dus binnenkort door de eigen smartphone-app worden verslagen.

Roeland

[Peter van Velzen]

Het gros van de mensen zal dus binnenkort door de eigen smartphone-app worden verslagen.

Roeland

Ik waarschijnlijk niet. En dat is geen grootspraak

[heeck]

Het gros van de mensen zal dus binnenkort door de eigen smartphone-app worden verslagen.

Roeland

Ik waarschijnlijk niet. En dat is geen grootspraak

Peter,

Wat voor argument heb je nu om jezelf onder het gros van de mensen te rangschikken?

Roeland

[pallieter]

Hoofdauteur, Bram Vanderborcht, is toevallig een van mijn beste vrienden.

Moet toegeven dat ik zijn boek nog niet gelezen heb.

Ik heb wel al ellenlange discussies met hem gevoerd over robots en AI en dan vooral over de militaire toepassingen. Iets waar zowel hij als ik van gruwen.

[Peter van Velzen]

Het gros van de mensen zal dus binnenkort door de eigen smartphone-app worden verslagen.

Roeland

Ik waarschijnlijk niet. En dat is geen grootspraak

Peter,

Wat voor argument heb je nu om jezelf onder het gros van de mensen te rangschikken?

Roeland

Ik rangschik mijzelf geenszins onder het gros van de mensen.
Het punt is dat ik geen smartphone heb.

[heeck]

Jouw hypothetische smartphone-app zou moeten leren grijnzen!

Maar ook dat kan wel via virtual reality.

Roeland

[Petra]

https://www.fhi.ox.ac.uk/will-ai-exceed ... i-experts/

This paper reports the results from a large survey of machine learning researchers on their beliefs about progress in AI.

The surveyed researchers predict AI will outperform humans in many domains in the next 40 years, such as translating languages (by 2024), driving a truck (by 2027), working in retail (by 2031), writing a bestselling book (by 2049), and working as a surgeon (by 2053). Researchers believe there is a 50% chance of AI outperforming humans in all tasks in 45 years and of automating all human jobs in 120 years.

Asian respondents anticipate these dates much sooner than North Americans. The results of this study will inform discussion on trends in AI development amongst researchers and policymakers.

[heeck]

Wordt door Nick Bostrom (Future of Machine Intelligence ) ook aangehaald.
Maar verzamelde opinies, wat kan je daarmee?

Roeland

[Petra]

Wordt door Nick Bostrom (Future of Machine Intelligence ) ook aangehaald.
Maar verzamelde opinies, wat kan je daarmee?

Roeland

Ik denk dat daar het verschil gemaakt kan worden; opinies concreet maken en handjes en voetjes geven.
Daarom vond ik die actie waarmee ik dit topic opende zo goed. Ze concretiseren.

[Petra]

Het probleem is dat het ver weg lijkt! Het zijn jouw kinderen die daar straks mee te maken krijgen; wat voor 'designerbaby' ze willen.

Volgens mij is er met CRISPR-cas9 een schaar ontdekt en kunnen we knippen. Dat wil nog niet zeggen dat we nu haute-couture kunnen maken. Kortom jou probleem lijkt niet alleen ver weg maar is ook nog ver weg. Ik denk niet dat mijn kinderen, mijn kleinkinderen of zelfs mijn achterkleinkinderen met designerbaby's te maken gaan krijgen.

Gelukkig ook wat beweging in de medische sector wat betreft CRISPR en ethiek!

https://www.vox.com/science-and-health/ ... he-jiankui

Is the CRISPR baby controversy the start of a terrifying new chapter in gene editing?