De machine hel van de toekomst?

[Oldboy]

De machine hel van de toekomst?

Je zou me kunnen afschrijven als een fantast die teveel science fiction films heeft gezien maar met deze tekst wil ik toch bepaalde technologische en wetenschappelijke ontwikkelingen in vraag stellen. De laatste honderd jaar heeft de mens een ongeziene evolutie doorgemaakt en ik stel me toch de vraag waar we naartoe gaan als mensheid? Ik stel me veel vragen over de impact op ons denken en menselijkheid door bepaalde technologische ontwikkelingen. Studies hebben aangetoond dat mensen die meer met technologie bezig zijn, zoals bijvoorbeeld het internet en dergelijke vormen van verminderd menselijk contact ook veel minder empatisch zijn en moeilijker contact maken met medemensen. We zien nu al de trend van Virtual Reality opkomen maar wat als we in een bepaalde toekomst werkelijk verbonden zullen zijn met een computer of dergelijke machine?

Neural interfaces, die dingen zullen in een nabije toekomst ontwikkeld worden volgens mij, de werkelijke verbinding van geest en machine. Het is slechts een kwestie van tijd volgens mij, er bestaan al zeer primitieve vormen hiervan. De toepassingen momenteel zijn bijvoorbeeld om te communiceren met mensen die niet kunnen spreken en volledig verlamd zijn. Zij kunnen dan een cursor op een scherm sturen met hun denken. Dit in combinatie met eye-tracking software. Het zijn externe apparaten, maar in een niet zo verre toekomst kunnen interfaces met onze hersens een feit worden. Stel je eens voor dat een interface in je hersenstam je vitale functies zou kunnen sturen of volledig overnemen, je reflexen verhogen of je meer kracht geven. Of wat als een interface in je visuele cortex kan meekijken met wat je ogen zien of externe informatie zou kunnen toevoegen aan hetgene wat je ziet. Wat als alle zintuigen in de toekomst gemanipuleerd zouden kunnen worden? De toepassingen zouden eindeloos zijn, zeker op medisch vlak maar wat als het primaire doel is om mensen te controleren of te domineren? Wat als je gedachten of zelf je onderbewuste denken niet meer vrij is?

Volgens mij zullen in het begin mensen vrijwillig kiezen voor deze technologie, meestal mensen die een biologische verbetering willen voor de functie die ze uitoefenen. Ik denk dan aan het leger, ordehandhaving of misschien zelf de topmensen van multinationals. Er zullen twee politieke stromingen ontstaan met de komst van deze technologie volgens mij, mensen die voor en mensen die tegen zijn. Uiteindelijk zal deze technologie toegepast worden op gevangenen en andere kwetsbare doelgroepen. Gevangenissen zouden kunnen verdwijnen. Straffen zouden kunnen bestaan uit een dwangmatig bestaan gestuurd en beheerd door artificiële intelligentie. Doet de gestrafte niet wat er van hem verlangd word zou het programma bijvoorbeeld een pijnprikkel kunnen geven. Maar het zou ook veel erger kunnen, door de analyse van het subject zou een psychologische sturing mogelijk kunnen worden. Mensen zouden in een technologische hel kunnen belanden als zijn of haar ergste angsten geprojecteerd en gemanipuleerd worden. In het ergste geval zouden vitale functies zelf gemanipuleerd kunnen worden. Een technologische hel tussen je twee oren.

Voor de massa zou de controle veel subtieler kunnen zijn. Als zelf je gedachten niet meer vrij zijn zouden alle mensen die afwijken van de norm kunnen bijgestuurd worden, dit door middel van sublimale en subtiele projecties. Zelfs herinneringen zouden artificieel kunnen zijn. Ik zie nu al op het nieuws bionische toepassingen die de medische wereld op zijn kop zullen zetten. Onlangs was er nog het bionisch oog en de artificiele baarmoeder. Maar ook interfaces die zenuwbanen van organen en spieren aansturen zijn al een feit. Met het domein van eugenetica en de combinatie van al deze andere technologieën begeven we ons op gevaarlijk terrein volgens mij. Waar ligt de grens en zijn de eigenschappen die ons werkelijk mens maken niet in gevaar? Eén belangrijke eigenschap is onze sterfelijkheid. Sommige auteurs en wetenschappers dromen nu al van een onsterfelijk bestaan en fantaseren over een machine bestaan. Wat we zien is dat de ethische discussie en de politieke verantwoordelijkheid altijd achterop hinkt met het huidig wetenschappelijk onderzoek en mogelijke toepassingen. Dit is zeker het geval voor de militaire ontwikkelingen, iedere grootmacht probeert de eerste te zijn in de wapenwedloop. De ethische kant van die ontwikkelingen zijn soms zelf onbestaand omdat het over geheim onderzoek gaat.

Ergens ben ik blij dat ik de volgende belangrijke trends in onze evolutie waarschijnlijk niet meer zal meemaken. Ik zie er veel gevaren in en een potentiele onwerkelijke machine hel. Als artificiële intelligentie en machine bewustzijn een feit is en een bepalende rol zou spelen in onze wereld dan is het gevaar dat ethische kwesties veel minder belangrijk zullen worden. Simpelweg omdat die dingen geen gevoelens kennen of denken zoals een mens zou doen. Die elementaire kenmerken van het mens zijn en de daarbij horende empathie en andere gevoelens zouden onbestaand kunnen zijn voor een 'bewuste' machine. Zou de nadruk dan niet kunnen liggen op compleet andere doelstellingen dan het welzijn en bestaansrecht van ieder levend wezen? Er is een verpletterende verantwoordelijkheid van onze leiders om deze ontwikkelingen te reguleren en beperken. Ik denk dan bijvoorbeeld aan het klonen van een mens, dat is ook verboden en ik vind dat maar goed ook. Het is nu dat we deze discussie op gang moeten trekken al voor dat deze potentiele technologie bestaat. Want willen of niet, volgens mij komt deze technologie eraan.

Oldboy,

[Petra]

... het gevaar dat ethische kwesties veel minder belangrijk zullen worden. Simpelweg omdat die dingen geen gevoelens kennen of denken zoals een mens zou doen. Die elementaire kenmerken van het mens zijn en de daarbij horende empathie en andere gevoelens zouden onbestaand kunnen zijn voor een 'bewuste' machine. Zou de nadruk dan niet kunnen liggen op compleet andere doelstellingen dan het welzijn en bestaansrecht van ieder levend wezen? Er is een verpletterende verantwoordelijkheid van onze leiders om deze ontwikkelingen te reguleren en beperken. Ik denk dan bijvoorbeeld aan het klonen van een mens, dat is ook verboden en ik vind dat maar goed ook. Het is nu dat we deze discussie op gang moeten trekken al voor dat deze potentiele technologie bestaat. Want willen of niet, volgens mij komt deze technologie eraan.

Oldboy,

De technologie is er al.
We zitten al in die trein, die naar mijn smaak ook te hard en te 'blind' doorsjeest.
Maar als je dat zegt ben je een conservatieve ouwe muts of bang voor nieuwe technologie of .. sja.

Ik had dan ook al wat topics gestart vanuit deze gedachte. Al ben ik het niet met alles eens wat je zegt, ik ben het wel eens met de gedachte dat het ethische vraagstukken zijn en dat er keihard op de rem getrapt moet worden tot deze afdoende beantwoord zijn.
Eerst eens alle consequenties doordenken op (waarom niet?) heeeeeele lange termijn.
Zodra je denkt 'het zal mijn tijd wel duren' kun je net zo goed meteen die allesvernietigende bom laten ploffen, is mijn stelling. Doen we niet, we doen aan termijn denken. Waarom dan niet die verre lange termijn

Gek genoeg vind ik 'iedereen braaf en in de pas' het grootste punt van zorg. Zonder dissidenten komt m.i. elke levensvorm tot stilstand en daarmee ten einde.

viewtopic.php?f=25&t=17378#p551198
viewtopic.php?f=25&t=16916&hilit=einde+ ... id#p529827

[Peter van Velzen]

Dat tecnologisch ontwikkelingen gevaren met zich meebrengen, is uiteraard waar. Tel alleen al het aantal verkeersslachtoiffers. Dat zou met paard en wagen waarschijnlijk kleiner zijn geweest. Er staan echter ook veel voordelen tegenover. We zijn beter en sneller in staat voedsel aan te voeren en medische hulp te leveren.

Vooralsnog is de opwarming van de aarde een groter en acuter probleem

[Giovedico delle Fate]

Dat tecnologisch ontwikkelingen gevaren met zich meebrengen, is uiteraard waar. Tel alleen al het aantal verkeersslachtoiffers. Dat zou met paard en wagen waarschijnlijk kleiner zijn geweest.

Dat staat nog te bezien. Als je elke auto in Nederland zou vervangen door een paard en wagen, zou je volgens mij ook aardig wat verkeersslachtoffers krijgen. OK, ze bewegen zich gemiddeld minder snel voort, maar op zo'n wagen ben je ook volkomen onbeschermd.
Daarnaast krijg je nog talloze andere problemen. Stel je eens voor: al die paard en wagens op de Amsterdamse grachten, of in de file op de Brienenoordbrug...

[Peter van Velzen]

Dat staat nog te bezien. Als je elke auto in Nederland zou vervangen door een paard en wagen, zou je volgens mij ook aardig wat verkeersslachtoffers krijgen. OK, ze bewegen zich gemiddeld minder snel voort, maar op zo'n wagen ben je ook volkomen onbeschermd.
Daarnaast krijg je nog talloze andere problemen. Stel je eens voor: al die paard en wagens op de Amsterdamse grachten, of in de file op de Brienenoordbrug...

Het zou - vermoed ik - niet mogelijk geweest zijn om al die paarden te voederen, dus zouden ze er nooit geweest zijn. Maar het is wel leuk om je de hoeveelheid paardemest voor te stellen die dat zou opleveren!

Voor het verkeer in Londen: Zie de toestand in 1890

[Peter van Velzen]

Een serieuse benadering van de technoloische revolutie van vandaag komt van Yuval Noah Hariri