Dit lijkt mij voor een paperclip bedrijf niet zo'n logische vraag. Logischer lijkt me om de opbrengst te maximaliseren. Een slimme AI zou moeten weten dat een universum vol paperclips onhaalbaar is en het bedrijf niet verder gaat helpen. Maar het geeft wel duidelijk een risico aan van AI.Mullog schreef: 14 mei 2026 11:02Optimist.gerard_m schreef: 14 mei 2026 10:23 ...
De vergelijking met zelfsturende auto's is heel terecht. Menselijk besturen van auto's heeft in de geschiedenis zo' n 10.000.000 onschuldige mensen gedood. Ik vermoed dat AI het veel beter zal gaan doen.
Nick Bostrom heeft de Paperclip Maximalisator bedacht. Een gedachte experiment hier beschreven (naast andere) waarin een AI opdracht krijgt zoveel mogelijk paperclips te produceren wat uiteindelijk resulteert in een universum vol met paperclip fabrieken.
Dat klopt, maar de vraag is of AI hier bepalend is. Zonder algotritmes zouden menselijke moderatoren wellicht gericht social media beinvloeden, zoals marketeers dat al deden. AI maakt het vooral makkelijker.De algoritmes achter social media zijn er op gericht om zoveel mogelijk en zolang mogelijk mensen aan het medium te binden met als bijeffect dat geweld en sensatie de overhand heeft. Want dat trekt nu eenmaal meer mensen en houdt ze langer vast.
Je kunt dus wel een AI de doelstelling meegeven geen burgerdoelen aan te vallen of geen burgerslachtoffers te maken maar als de doelstelling is de oorlog te winnen of op zijn minst niet te verliezen wordt het vrijwel onvoorspelbaar hoe zich dat in de praktijk gaat uitwerken.
In oorlogen kan het twee kanten op werken. Een soldaat kan wreedheden plegen uit haat of wraak, maar ook een geweten hebben en foute orders weigeren. Van beide situaties zijn veel voorbeelden. De macht van de ontwerper van het systeem wordt groter met AI. Dit is zeker een risico. Maar een slim AI systeem had mogelijk oorlogsinspanningen gestopt toen allang duidelijk was dat de nazi's de oorlog niet gingen winnen en zichzelf aan het vernietigen waren door eindeloos door te gaan.
O.b.v. verkeerskundige kennis durf ik er een goede fles wijn op te zetten dat zelfrijdende auto's tot een aanzienlijke toename van files gaan leiden.Qua rijgedrag geloof ik wel dat zelfrijdende auto's tot minder verkeersslachtoffers (en minder files) zullen leiden. Voor wapentuig en oorlogvoering ben ik niet overtuigd.
Op het eerste oog paradoxaal.
Ook in oorlogsvoering zal AI - net als de meeste nieuwe technieken - waarschijnlijk paradoxale effecten hebben. Dat is de reden voor mijn (beperkte) optimisme.
Nieuwe technieken leiden meestal tot overdreven verwachtingen EN angsten.
De atoombom heeft tot nu toe niet geleid tot meer oorlogsdoden, de auto niet tot korte reistijden en internet niet tot massale werkeloosheid.
Ook AI zal anders uitpakken dan we nu denken. Bij de oorlog in Oekraine, lijkt het tot nu toe vooral (Oekrainse) levens te sparen.
