De opmars van kunstmatige intelligentie

[Petra]

Iemand al gekeken naar die filmpjes van 'A Bright New World'

Die eerste, stelt m.i. goeie vragen over :Wat is werk? Maar vooral een herbezinning op :Wat is zinvol?

In het 2e filmpje: waar ik nou echt van van m'n stoel viel: die robot houdt iemand gezelschap "die geen sociale rol meer kan vervullen." Wordt er gezegd. Het beeld is een mevrouw in een rolstoel.
Ze zit in een rolstoel, en ze gewoon rechtop om zich heen te kijken. Lijkt best wel mentaal in orde. Het is geen plant ofzo.
Dus deze filmmakers zijn de mensen die allemaal nadenken over wat een zinvol bestaan is enzo, en dan is dit het bijgeleverde beeld voor iemand die geen sociale rol meer vervult. Dat is toch schokkend ?!

Wat betreft die derde en laatste, moest ik aan dit artikel denken:
Wat een AI zonder ethisch besef en empathisch gevoel en pijngevoel oplevert:
https://www.sg.uu.nl/nieuws/2014/moreel ... u-jij-doen

Technologische ontwikkelingen vragen om morele heroverwegingen. Als deeltijd student filosofie houdt Paulissen zich bezig met de moraal van die nieuwe technologieën. Zo plaatst hij bijvoorbeeld kanttekeningen bij de inzet van robots, zoals drones. In de ogen van veel professionals zijn robots uitermate geschikt voor het klaren van vervelende, gevaarlijke en smerige klusjes (in het Engels de drie D’s: dirty, dangerous en dull). “Maar als we dat doen,” stelt Paulissen, “halen we het lijden uit het oorlogsvoeren. En juist het lijden van de oorlogsvoerder zorgt dat er een rem op zit.” De menselijke maat verdwijnt dan van het strijdtoneel.

[heeck]

Uit diezelfde link van je:

Als we morele principes willen afleiden uit intuïties, komen we dus al snel tot tegenstrijdigheden. Je kunt niet altijd doen wat het grootste goed oplevert en tegelijkertijd de mens nooit alleen als middel gebruiken.

Zojuist terug uit het "Veenpark" bij Emmen waar nog eens fris is ten toon gesteld hoe de veenarbeiders van ruim een eeuw geleden als middel werden gebruikt en werden gehouden door zelfs privégeldsystemen van de investeerder en daaraan verbonden gdwongen nering tegen afzetprijzen.

Echt geen nieuws, alleen de schaal en het gereedschap verschuiven en ook staan geit en varken niet meer in dezelfde ruimte.

Roeland

[Petra]

Uit diezelfde link van je:

Als we morele principes willen afleiden uit intuïties, komen we dus al snel tot tegenstrijdigheden. Je kunt niet altijd doen wat het grootste goed oplevert en tegelijkertijd de mens nooit alleen als middel gebruiken.

Zojuist terug uit het "Veenpark" bij Emmen waar nog eens fris is ten toon gesteld hoe de veenarbeiders van ruim een eeuw geleden als middel werden gebruikt en werden gehouden door zelfs privégeldsystemen van de investeerder en daaraan verbonden gdwongen nering tegen afzetprijzen.

Ik zat hierbij meer te denken... om de ontmenselijking door AI tegen te gaan (vooral bij oorlogsvoering) zou je dus de AI menselijker moeten maken.
Maar ...hoe menselijker je die AI maakt.. hoe moeilijker het wordt om die te controleren. Dat is volgens mij het grote dilemma in het hele AI verhaal.

Echt geen nieuws, alleen de schaal en het gereedschap verschuiven en ook staan geit en varken niet meer in dezelfde ruimte.

Omdat het varken al het gras opvreet?
Doet me denken aan het varkensevenwicht.
Hoe beantwoordt dat het AI dilemma?

De schaal en het gereedschap verschuiven

[Petra]

jouw probleem is dat je erg veel belang hecht aan bewust nadenken. Dat is echter slechts zelden het geval.

Mijn probleem is denk ik dat ik vind dat er juist MEER aandacht moet worden besteed aan bewust nadenken.

Waarom? Omdat ik denk dat..... het gaat over menselijke verantwoordelijkheid en ethiek en dat dat de basis is van ons hele rechtsbeginsel.


Zie dat derde filmpje in 'A bright New World"
"Blijven wij superslimme machines de baas?"


Het begin:
-"Wat staat er op het spel?"
-".. de toekomst van de mensheid!"

2.22..
- Als we eenmaal die superslimme machines hebben... hoe houden we die -voor altijd! - in de hand?"

Vervolg...
"Je kunt alles aan een machine uitbesteden, als er geen MENS meer aan te pas komt, dan besteden we de ethische kant uit aan een machine, waarbij de mens niet langer verantwoordelijk is, en dát is gevaarlijk. "

vervolg...

We worden omgeven door machines, virtuele en fysieke, die machines zullen verweven zijn met onze werkelijkheid. Om dat op een verantwoorde manier te doen zullen deze machines zich aan ethische principes moeten kunnen houden en uitdragen.
BEWUSTZIJN is van het grootste belang om onze wereld vorm te geven en deze principes te herleiden.
We moeten dus een machine met bewustzijn bouwen.

Een machine met bewustzijn Peter
Wat houdt dat allemaal in? Want alleen dat al is een ethisch vraagstuk waar men zich nog steeds de kop over breekt.
Wat is dat.. dat bewustzijn? Waar bevindt zich dat? Hoe kwam het tot stand? Hoe werkt het? Wat doet het precies allemaal?
Moet het ding.. emoties hebben, empathie, pijn voelen, liefde etc etc ?
En als dat ding dat dan allemaal heeft... is het dan nog wel een ding?
En wat als dat ding zich geen ding meer voelt?
Wat als dat ding het niet meer zo eens is met die door ons zo belangrijk gedachte ethische principes?
En wat als dat ding zichzelf op hogere waarde schat dan de mens die het ding creëerde?
Wat als ...? etc etc etc

[heeck]

Petra

Varken en geit behoefden wat meer uitleg:

Every time technology has evolved, yes, individual people are impacted. . . . But the standard of living has gone up. I’d rather be in the world we’re in today than a world without computers, without cell phones, a world without elevators.”

De huidige bouwverordeningen in een deel van de wereld hebben hier geit en varken in het kot gelaten en ons in een paleis van comfort gebracht.

AI zal hetzelfde doen zodra de kosten ervan onder het minimumloon zakken.

Omdat concurrentie geen moraal kent vanwege het overheersende ROI *) dat de achterblijvende bedrijven over de kop laat gaan, gaat het opnieuw over het vervangen van te dure mensenarbeid.

Koning ROI vertegenwoordigt nu al een belang dat onmenselijk is en nog enigszins in toom kon worden gehouden door werkgelegenheidsprojecten. Waaronder de hele opkomende consumptie- en toeristenindustrie.

Roeland
*). ROI. Return On Investment

[Petra]

Petra

Varken en geit behoefden wat meer uitleg:

Every time technology has evolved, yes, individual people are impacted. . . . But the standard of living has gone up. I’d rather be in the world we’re in today than a world without computers, without cell phones, a world without elevators.”

De huidige bouwverordeningen in een deel van de wereld hebben hier geit en varken in het kot gelaten en ons in een paleis van comfort gebracht.

AI zal hetzelfde doen zodra de kosten ervan onder het minimumloon zakken.

Omdat concurrentie geen moraal kent vanwege het overheersende ROI *) dat de achterblijvende bedrijven over de kop laat gaan, gaat het opnieuw over het vervangen van te dure mensenarbeid.

Koning ROI vertegenwoordigt nu al een belang dat onmenselijk is en nog enigszins in toom kon worden gehouden door werkgelegenheidsprojecten. Waaronder de hele opkomende consumptie- en toeristenindustrie.

Roeland
*). ROI. Return On Investment

Ja, dat was ook mijn zorg bij het hele CRISPR verhaal.
Wie financieren die onderzoeken? En wie is die club die de onderzoeksvragen stuurt en de benefits zoekt? : de winstjagers.

En dat brengt mij weer bij het belang van de -waarom- vraag.
HOE ze het allemaal doen en voor mekaar krijgen; het zal. Ik wil weten WAAROM.
Dan maken intentie en motieven wel degelijk heel veel uit.
Daarmee worden bijv. onderzoeken al een bepaalde richting opgestuurd, bij CRISPR, maar ook bij AI en ook bij noemdeindustriemaarop.
Wie zijn die mensen die die AI's creëren/ Met embryo's rommelen etc. Waarom doen ze dat? Wat zijn hun intenties/motieven?

Dus JA, technology has evolved. Het heeft veel goeds gebracht maar ook een hoop ellende. Alleen al het in de klauwen zien te houden van het atoombomgevaar bv.
Maar wat ik telkens zie gebeuren over de gehele linie.. is dat de technologie op de mens vooruit loopt. Het is nooit 's anders geweest dan dat er dingen ontwikkeld werden en we daarna gingen NAdenken. Het vóórdenken, wil o.e.a. manier niet zo lukken.
En ik vraag me wederom af.. waarom?

Affijn, ik denk dat er nog ergens winst is te halen. Altruïsme in de puurste vorm bestaat niet; soit. Maar dat wil niet zeggen dat al die andere dingen die in de volksmond altruïsme worden genoemd, ook niet bestaan. Coöperatie, Mutual benefit, maatschappelijk belang etc etc.
Volgens mij zijn dat de tools om het winstbejag eruit te toveren en de menselijke maat erin (en in de AI) te krijgen.

Overigens wat ROI betreft.
Er is IMO in principe niks mis met het principe ROI.
Er wordt een hoop geld/energie geïnvesteerd in die onderzoeken. Logischerwijs moet dat wat opleveren. We leven nu eenmaal in een geld-maatschappij dus als men verlies lijdt door te investeren in dit soort projecten is het einde oefening.
Denk aan Big Pharma, en CRISPR en AI en etc etc.
Daar komen ook heus wel goeie dingen uit.. volgens mij gaat het dus juist om de intentie van...
Intentie/motief; winstbejag, zie ik geen toekomst in.
Dat is, bij nader inzien, de kern van al mijn gedram. Ik ben niet tegen technologie of vooruitgang e.d., integendeel! Maar ik vind dat het zich momenteel niet in de juiste handen bevindt.

[heeck]

Er is IMO in principe niks mis met het principe ROI.
Er wordt een hoop geld/energie geïnvesteerd in die onderzoeken. Logischerwijs moet dat wat opleveren. We leven nu eenmaal in een geld-maatschappij dus als men verlies lijdt door te investeren in dit soort projecten is het einde oefening.

In de praktijk blijkt er dus van alles mis te zijn met die ROI.

Ten eerste is het maar de vraag of de impliciete ROI-belangen overeenkomen met die van de buren of
van het verdere planten- en dierenleven en in hoeverre ons eigen bestaan wordt beïnvloed door weerstand of onvoldoende draagkracht vanuit die omgeving.
Ten tweede is de gehele kapitaalhandel los komen te staan van hetgeen onderzocht en evt. uitgebouwd moet worden tot een verhandelbare dienst of product, wat soms tot enorme kapitaalvernietiging leidt. Het bij investeerders opgehaalde geld is dan ahw "verdampt".
Ten derde is een verdienmodel dat los is komen te staan van directe levensbehoeften zonder meer al een manier die op particulier niveau een liefhebberij kan worden genoemd, maar op groter schaal een ideologie.
Ten vierde worden zelden tot nooit alle toekomstige nadelen meegenomen, wat soms achteraf reparabel is. Maar dan meestal door de benadeelde en niet door de investeerder.
Ten vijfde ?

De ene keer van een vrije markt en de andere keer van een gereguleerde of zelfs geforceerde.

ROI is minstens dáarom al een genadeloze koning, die te gemakkelijk wordt geëerd. ROI is vast dezelfde als Pandora van de doos?

Eens zien wat er achter de titel "De utopie van de vrije markt" door Hans Achterhuis steekt.
En of de opmars van de A.I. beheersbaar zou kunnen zijn als die niet los kan worden gehouden van de doos van ROI.

Mooi een leespauze!


Roeland

. . .Hij beval Hephaistos om uit water en aarde een vrouw te vormen, genaamd Pandora. Daarna schonken alle goden haar goede gaven. Athena gaf haar intelligentie, talent, manieren en kleedde haar in de mooiste kleurrijke kleding. Aphrodite gaf haar de bevalligheid en schoonheid van een godin. De andere goden gaven haar goud en staken bloemen in haar haar. De laatste god, Hermes, gaf haar de spraak en plantte schaamteloze gedachten en een bedrieglijke aard in haar wezen. Zo kreeg zij een eigenschap die geen enkele andere sterveling had: nieuwsgierigheid.

Zeus schonk haar aan Prometheus, maar deze wist dat een geschenk van de goden niet zonder gevolgen blijft en weigerde haar. Hij raadde zijn broer aan dat ook te doen. Zeus liet haar daarop door Hermes bij Epimetheus, de domme broer van Prometheus brengen. Niettegenstaande de waarschuwingen van Prometheus nam hij haar tot vrouw. Zeus schonk het paar ook een pithos (vat), waarin alle ongelukken zaten opgesloten. Als het vat gesloten bleef, konden die niemand treffen. Pandora was nieuwsgierig en wou het vat openen, maar Epimetheus hield haar tegen. Op een dag kon Pandora haar nieuwsgierigheid niet bedwingen en opende het vat. Toen kwamen daar alle rampen, ziekten en zorgen uit tevoorschijn en verspreidden zich over de aarde: aan het kommerloze bestaan van de mensen was een einde gekomen. . ..

[Peter van Velzen]

Roeland, kun je aangeven wat de bedoeling is van je quote over Pandora?

[Petra]

Er is IMO in principe niks mis met het principe ROI.
Er wordt een hoop geld/energie geïnvesteerd in die onderzoeken. Logischerwijs moet dat wat opleveren. We leven nu eenmaal in een geld-maatschappij dus als men verlies lijdt door te investeren in dit soort projecten is het einde oefening.

In de praktijk blijkt er dus van alles mis te zijn met die ROI.

Volgens mij is het ROI principe niet het euvel maar het systeem/model/grondslag waarop het zich baseert. (In een kapitalistisch systeem is de verwachtte ROI anders dan in willekeurig welk ander systeem.
Utopische blindheid?
Performativiteit!

Ten vijfde ?

Misschien wel ten totale: ?
De dystopische trekken van de neoliberale utopie...



De realiteit is dat we thans nu eenmaal in een kapitalistisch systeem leven.
Hence; onze geld-maatschappij heeft geld-ROI nodig om te blijven draaien. Dat was mijn achterliggende gedachte bij het stukje wat je gequote had.

Achterhuis bepleit een kapitalisme dat de maat houdt. Ik noem dat niet een nieuw model. De vraag is ook welke maat bedoelt ie dan? De kapitalistische maat? Of de menselijke maat? En wie gaat er dan voor zorgen dat die maat wordt gehouden? Niet de gedeeltelijk vrije economie! Waar kom je terecht met een rechtvaardigheidsstelsel in een gedeeltelijk vrije economie? Plato's totalitaire staat?

Ik hinkte meer de kant van Micheal Moore op. (Valt niet te hervormen, dus moet het verdwijnen). Met wel een nieuw model. Een wereld zonder geld
Welk model precies? Geen idee. Maar de tools die ik noemde zouden daarvan de basis moeten zijn, denk ik.
Dan krijgt ROI een heel ander aanzien. Het is dus niet het ROI principe wat het probleem is maar de grondslag/systeem/model waarop dat gebaseerd is.

Affijn, ik denk dat er nog ergens winst is te halen. Altruïsme in de puurste vorm bestaat niet; soit. Maar dat wil niet zeggen dat al die andere dingen die in de volksmond altruïsme worden genoemd, ook niet bestaan. Coöperatie, Mutual benefit, maatschappelijk belang etc etc.
Volgens mij zijn dat de tools om het winstbejag eruit te toveren en de menselijke maat erin (en in de AI) te krijgen.

Mooi een leespauze!

Pauzetijd is over, hup hup aan het werk, niet lui worden nu hè. Ledigheid is ...

Overigens.. wat Pandora betreft.
Zonder Pandora's nieuwsgierigheid had de mensheid denkelijk nog steeds in bomen geklommen. Of hm.. niet eens dat water uit gekomen. De eeuwige amoebe?! Zeg maar dank tegen de kommer en kwel

[heeck]

Roeland, kun je aangeven wat de bedoeling is van je quote over Pandora?

Vanwege mijn eerder gelijkstellen van ROI == Pandora

ROI is minstens dáarom al een genadeloze koning, die te gemakkelijk wordt geëerd. ROI is vast dezelfde als Pandora van de doos?

terwijl ik niet verwachtte dat eenieder weet waar die doos over gaat.

R.

[heeck]

Petra,

Mijn leespauze blijft, want ik weet nog van geen pleitpunt van Achterhuis.
Bovendien gaat het me er in dit topic alleen om of AI ROI-gedreven zal zijn.
Indien dit zo zal zijn dan kan je de bui al zien hangen en hoeven we het hier niet te hebben over een wereld zonder geld oid., want dan is de route van de AI-opmars voorspelbaar: "Follow the money".

Zelf pleitte ik overigens nog nergens voor omdat ik slechts langjarige (marketing)kennis heb van altijd in te tomen nadelige eigenschappen van ROI, vanwege de enorme aanstuurkracht ervan, en anderzijds de oversimplificatie van Friedman met zijn potlood *).

Een wereld zonder geld waar je naar verwees, is overigens een totaal andere zaak dan ROI.
Zonder geld kan er ook een ROI worden gehanteerd.


Roeland

*) https://www.youtube.com/watch?v=R5Gppi-O3a8

[Henry II]

Is God niet een goed voorbeeld van zuivere intelligentie met overredingskracht?
Ik bedoel, of ie bestaat of niet.. genoeg mensen die door de zuivere stem van god overreden werden om bepaalde handelingen uit te voeren.

Vreemd voorbeeld. De 'stem van God' die mensen menen te horen komt uit hen zelf, geïnspireerd door wat andere mensen over hun god meenden te moeten opschrijven. Misschien een mooie analogie voor het internet. Het internet is niet 'in de cloud' maar staat gewoon op andermans computer. God is ook niet 'in de cloud(s)' maar bestaat ook alleen maar in de hoofden van anderen.

[Petra]

Is God niet een goed voorbeeld van zuivere intelligentie met overredingskracht?
Ik bedoel, of ie bestaat of niet.. genoeg mensen die door de zuivere stem van god overreden werden om bepaalde handelingen uit te voeren.

Vreemd voorbeeld. De 'stem van God' die mensen menen te horen komt uit hen zelf, geïnspireerd door wat andere mensen over hun god meenden te moeten opschrijven. Misschien een mooie analogie voor het internet. Het internet is niet 'in de cloud' maar staat gewoon op andermans computer. God is ook niet 'in de cloud(s)' maar bestaat ook alleen maar in de hoofden van anderen.

Het was ook niet echt een goed voorbeeld. (Wat dat betreft had Peter wel een leuke tegelspreuk).
Maar.. Fish begreep het idee waar het me om ging.
De cloud is ook maar in the cloud, hoeveel mensen zitten er met aluhoedjes? Vrij onschuldig, maar hé.. wie weet wat ze allemaal nog meer kunnen bedenken ter bescherming tegen die cloud.
En hoeveel mensen krijgen boodschappen door van aliens e.d. Gelukkig zijn het meestal van die -lief zijn voor mekaar- boodschappen, maar ja.. hoeveel van die goeroes leken zo lief tot ze mensen zover kregen om massaal zelfmoord te plegen?

Ik volg je. Als mensen een god, goden of godinnen blind kunnen volgen kunnen ze ook iets als een supercomputer een goddelijke status geven.
En voor de handjes en voetjes gaan zorgen die in het verleden - en nog steeds - ook veel ellende gebracht hebben.

[Petra]

Petra,

Mijn leespauze blijft, want ik weet nog van geen pleitpunt van Achterhuis.

Achterhuis is anti-neoliberaal en bepleit 'de maat houden' in het kapitalistisch systeem, met een rechtvaardigheidsbeginsel. Wat ik daarmee zie gebeuren had ik al eerder geschreven. (Deed me aan Plato denken). Als ik Achterhuis goed begrijp is het de omslag geweest van de gewone ruilhandel naar ruilhandel mét winst wat het begin van alle ellende is geweest met als eindliedje onze huidige vrije markt ideologie. En als hoogtepunt het neoliberalisme.

Bovendien gaat het me er in dit topic alleen om of AI ROI-gedreven zal zijn.
Indien dit zo zal zijn dan kan je de bui al zien hangen en hoeven we het hier niet te hebben over een wereld zonder geld oid., want dan is de route van de AI-opmars voorspelbaar: "Follow the money

Als er geen money meer is die de dienst uitmaakt dan valt er ook geen money meer te followen hè.
Zoals ik al zei.. ROI krijgt dan een heel ander aanzien. Maatschappelijk belang/mutual benefit bijvoorbeeld.
Het is de 'winst-ideologie' en bijkomende woekerwinstgraaiers die ROI dystopisch maken. Niet het ROI principe an sich.
En het geld an sich, is ook het euvel niet. Ook met ruilhandel van producten/diensten kun je mét of zonder winst handelen.
Ook mét geld kun je winstloos handelen in een rechtvaardigheidsstelsel.

Conclusie; het is niet de ROI, het is niet het geld, het is niet de handel, het is het -winst gebaseerd systeem/model- waar het probleem zit.

Een wereld zonder geld waar je naar verwees, is overigens een totaal andere zaak dan ROI.
Zonder geld kan er ook een ROI worden gehanteerd.

Dat klopt. Zie conclusie hierboven.

Zelf pleitte ik overigens nog nergens voor omdat ik slechts langjarige (marketing)kennis heb van altijd in te tomen nadelige eigenschappen van ROI, vanwege de enorme aanstuurkracht ervan, en anderzijds de oversimplificatie van Friedman met zijn potlood *).

Friedman is hoofd van de afdeling neoliberalisme. Wat zeg ik; 1 vd aanjagers van dit systeem/model.
Zijn potloodverhaal klinkt op het eerste gezicht redelijk. Hij vergeet een klein beetje het winst verhaal te benoemen. Je koopt iets voor een habbekrats waar een hele rits aan loonslaven te weinig voor terugkrijgt. (ROI voor hun arbeid). En een hele kleine club, onrechtvaardig veel ROI weet te graaien.

P.S.
Ik bedacht me gister een nieuw systeem/model.
Liberaal-communisme.
Nog ff een aardige term bedenken; ehhhh... Liberomunisme of ehhh Commuliberaal.
Nou istie leuk of niet! Als ik je daarmee niet uit je leespauze trek weet ik het ook niet meer.
(Wat er ook uitgevallen is, uit die doos van Pandora.. -de hoop- zit er voor immer in. De wereld kon het slechter treffen )

[heeck]

Conclusie; het is niet de ROI, het is niet het geld, het is niet de handel, het is het -winst gebaseerd systeem/model- waar het probleem zit.

Zonder behoefte aan nieuwe woorden is dat gewoon geen ROI-optimalisering, maar ROI-maximalisering.
En er zijn er altijd wel die daar dol op zijn.
En er zijn er altijd wel die iets met A.I. doen wat daar uitermate geschikt voor zou zijn en daarmee worden koers en "Opmars van kunstmatige intelligentie" aangejaagd.

Roeland