Wapens met AI

[Bonjour]

De drones worden steeds slimmer. Oekraïne heeft er nu ook die uitgerust zijn met AI. Ze kunnen autonoom een doel uitkiezen.Dat is natuurlijk heel handig als de internetconnectie gestoord wordt.

Nu zijn er ook wel discussies geweest over dat robots nooit zelfstandig mogen doden. Het lijkt nu een achterhaald standpunt.

Wat vinden jullie? Moten we ons bij de situatie neerleggen? Of toch proberen dat standpunt gerealiseerd te krijgen in de wapens.
Ik denk zo'n beetje dat het een noodzakelijk kwaad is en wanneer je tegenstander genoeg burgers doodt met wapens zonder AI kan ik me voorstellen dat je weinig bezwaren hebt tegen autonome wapens.

[dikkemick]

Ik moet wel erg denken aan "terminator", de oude film met Schwarzenegger. Heel eng dat dit nu (bijna) werkelijkheid wordt. Waar is de tijd gebleven van de 1 op 1 duels?
Poetin versus Trump met zwaard.

[dingo]

Wapens met AI zijn een realiteit en met deze nieuwe realiteit zullen we moeten leren leven. Tegelijkertijd denk ik wel dat er in ieder geval een poging gedaan moet worden om in internationaal verband verdragen te sluiten die inzet van AI wapens op burgerdoelen verbiedt.
Dat gaat niet voorkomen dat het toch gebeurt maar helpt wel om mensen veroordeeld te krijgen als ze ooit voor het Internationaal Gerechtshof terecht staan. Ik hoop tenminste dat de huidige periode van internationale rechteloosheid aangevoerd door Putin, Trump en Netanyahu weer gevolgd wordt door een periode van internationaal recht.

[Bonjour]

Tegelijkertijd denk ik wel dat er in ieder geval een poging gedaan moet worden om in internationaal verband verdragen te sluiten die inzet van AI wapens op burgerdoelen verbiedt.

Daar zat ik ook aan te denken, maar een aanval op burgerdoelen is al een oorlogsmisdaad.
En dan denk ik aan een vergelijking met zelfsturend auto's. Volgens sommigen moge die nooit een fout maken, maar ik denk dat dat niet realistisch is. Als ze maar minder fouten maken dan mensen.
Als de AI wapens nu mindr futen maken dan de domme wapens, is het dan al goed genoeg?

[dingo]

Daar zat ik ook aan te denken, maar een aanval op burgerdoelen is al een oorlogsmisdaad.
En dan denk ik aan een vergelijking met zelfsturend auto's. Volgens sommigen moge die nooit een fout maken, maar ik denk dat dat niet realistisch is. Als ze maar minder fouten maken dan mensen.
Als de AI wapens nu mindr futen maken dan de domme wapens, is het dan al goed genoeg?

In een dergelijk verdrag zou het niet trainen van AI om burgerdoelen te herkennen en te mijden strafbaar zijn. Wat je niet wilt is dat de daders zich kunnen verschuilen achter het feit dat het autonome wapens zijn zodat zij "er niets aan konden doen".

Foutloze machines bestaan inderdaad niet. Ook al komen auto's op een snelweg door het limitatieve aantal mogelijke situaties al een heel eind.

Maar wat is de definitie van minder fouten maken? Wapens zijn gemaakt om mensen te doden en degene die het wapen bedient kan fouten maken. Een autonoom wapen, getraind door mensen zal waarschijnlijk dezelfde fouten maken als mensen. Mogelijk minder dan gemiddeld maar waarschijnlijk meer dan de minst fouten makende mens.

[Mullog]

...
Als de AI wapens nu mindr futen maken dan de domme wapens, is het dan al goed genoeg?

Dan krijg ik een beeld van ieder schot dat raak is, hele efficiënte oorlogvoering. Waarbij weinig doden vallen maar heel veel zwaar gewonden met levenslange handicaps om de maatschappij van de tegenstander zo zwaar mogelijk te belasten.

Een totaal verbod lijkt mij het enige. Ongetwijfeld gaat niemand er zich aan houden maar het geeft misschien de mogelijkheid mensen strafrechtelijk te vervolgen zoals Dingo ook aangeeft.

Hoopgevend is dat een bedrijf als Anthropic zijn AI hiervoor niet wil lenen. Of ze dat volhouden...? Of het zoden aan de dijk zet ...?

[Gerard R.]

De drones worden steeds slimmer. Oekraïne heeft er nu ook die uitgerust zijn met AI. Ze kunnen autonoom een doel uitkiezen.Dat is natuurlijk heel handig als de internetconnectie gestoord wordt.

Nu zijn er ook wel discussies geweest over dat robots nooit zelfstandig mogen doden. Het lijkt nu een achterhaald standpunt.

Wat vinden jullie? Moten we ons bij de situatie neerleggen? Of toch proberen dat standpunt gerealiseerd te krijgen in de wapens.
Ik denk zo'n beetje dat het een noodzakelijk kwaad is en wanneer je tegenstander genoeg burgers doodt met wapens zonder AI kan ik me voorstellen dat je weinig bezwaren hebt tegen autonome wapens.

Ik vrees dat de geest al lang uit de fles is en dat er niets meer aan valt te doen, zoals ik ook al jaren verwacht.
Beetje tegenwerken zal wellicht kunnen, maar dat is het dan...
En dit zal nog heel veel verder gaan. Dat zou je als mens niet moeten willen, maar we weten wat dat is met mensen...
Als ik een beetje zonder grenzen doordenk dan weet ik wel wat er zou kunnen gebeuren op langere of lange termijn.
Ook hier zijn aardig wat romannetjes over geschreven, schrijvers denken ook verder dan hun neus lang is.

[TIBERIUS CLAUDIUS]

Tegelijkertijd denk ik wel dat er in ieder geval een poging gedaan moet worden om in internationaal verband verdragen te sluiten die inzet van AI wapens op burgerdoelen verbiedt.

Daar zat ik ook aan te denken, maar een aanval op burgerdoelen is al een oorlogsmisdaad.
En dan denk ik aan een vergelijking met zelfsturend auto's. Volgens sommigen moge die nooit een fout maken, maar ik denk dat dat niet realistisch is. Als ze maar minder fouten maken dan mensen.
Als de AI wapens nu mindr futen maken dan de domme wapens, is het dan al goed genoeg?

Daar hebben ze een smoesje voor bedacht:

Het zijn ook economische doelen en dat is wel toegestaan.
Stamt na WOII zodat het platgooien van steden door de geallieerde geen misdaad was.
Derhalve zijn hier ook geen Duisters voor veroordeeld.

PS.
Met wat goede wil is een hondenhok al een economisch doel.

[TIBERIUS CLAUDIUS]

Las onlangs een artikel hoe AI oorlog voert.

Het streeft niet naar een compromis maar blijft doorgaan, ook blijkt het veel eerder kernwapens in te zetten, ook al is dit niet geoorloofd.

Gevaarlijk spel dus, van de programmeurs, want die zetten het erin.,

[Gerard R.]

En vergeet niet dat AI zelf leert. Dat onderscheidt het juist van andere software. Wat gaat het beste, het totaalste, zo efficiënt mogelijk...

[TIBERIUS CLAUDIUS]

En vergeet niet dat AI zelf leert. Dat onderscheidt het juist van andere software. Wat gaat het beste, het totaalste, zo efficiënt mogelijk...

Dat zelf lerende is ook een kwestie van programmeren.

[gerard_m]

Daar zat ik ook aan te denken, maar een aanval op burgerdoelen is al een oorlogsmisdaad.
En dan denk ik aan een vergelijking met zelfsturend auto's. Volgens sommigen moge die nooit een fout maken, maar ik denk dat dat niet realistisch is. Als ze maar minder fouten maken dan mensen.
Als de AI wapens nu mindr futen maken dan de domme wapens, is het dan al goed genoeg?

Zoals elk nieuw wapen, is vooral bepalend hoe het wordt gebruikt. De vraag is of AI hier niet juist gaat bijdragen aan partijen die zich wel aan regels houden. Een soldaat met een mitrailleur kan zelfstandig bevelen negeren en een dorp uitmoorden, bijvoorbeeld om wraak te nemen. AI kan hooguit verkeerde inschattingen maken. Het risico op destructief programmeren lijkt mij niet groter dan van een dictator die uit is op vernietiging. De geschiedenis van menselijke oorlogsvoering kent genoeg voorbeelden van eindeloze vernietiging, zoals Nazi Duitsland.

De vergelijking met zelfsturende auto's is heel terecht. Menselijk besturen van auto's heeft in de geschiedenis zo' n 10.000.000 onschuldige mensen gedood. Ik vermoed dat AI het veel beter zal gaan doen.

[Mullog]

...

De vergelijking met zelfsturende auto's is heel terecht. Menselijk besturen van auto's heeft in de geschiedenis zo' n 10.000.000 onschuldige mensen gedood. Ik vermoed dat AI het veel beter zal gaan doen.

Optimist.

Nick Bostrom heeft de Paperclip Maximalisator bedacht. Een gedachte experiment hier beschreven (naast andere) waarin een AI opdracht krijgt zoveel mogelijk paperclips te produceren wat uiteindelijk resulteert in een universum vol met paperclip fabrieken.

De algoritmes achter social media zijn er op gericht om zoveel mogelijk en zolang mogelijk mensen aan het medium te binden met als bijeffect dat geweld en sensatie de overhand heeft. Want dat trekt nu eenmaal meer mensen en houdt ze langer vast.

Je kunt dus wel een AI de doelstelling meegeven geen burgerdoelen aan te vallen of geen burgerslachtoffers te maken maar als de doelstelling is de oorlog te winnen of op zijn minst niet te verliezen wordt het vrijwel onvoorspelbaar hoe zich dat in de praktijk gaat uitwerken.

Qua rijgedrag geloof ik wel dat zelfrijdende auto's tot minder verkeersslachtoffers (en minder files) zullen leiden. Voor wapentuig en oorlogvoering ben ik niet overtuigd.

[Gerard R.]

En vergeet niet dat AI zelf leert. Dat onderscheidt het juist van andere software. Wat gaat het beste, het totaalste, zo efficiënt mogelijk...

Dat zelf lerende is ook een kwestie van programmeren.

Dat kán. Maar als men wil kan AI het ook prima autonoom. En dat zal nog enorm verbeteren. En breder van karakter worden.

[Gerard R.]

De drones worden steeds slimmer. Oekraïne heeft er nu ook die uitgerust zijn met AI. Ze kunnen autonoom een doel uitkiezen.Dat is natuurlijk heel handig als de internetconnectie gestoord wordt.

Nu zijn er ook wel discussies geweest over dat robots nooit zelfstandig mogen doden. Het lijkt nu een achterhaald standpunt.

Wat vinden jullie? Moten we ons bij de situatie neerleggen? Of toch proberen dat standpunt gerealiseerd te krijgen in de wapens.
Ik denk zo'n beetje dat het een noodzakelijk kwaad is en wanneer je tegenstander genoeg burgers doodt met wapens zonder AI kan ik me voorstellen dat je weinig bezwaren hebt tegen autonome wapens.

Ik kan er niets aan doen. Maar ik ben fel tegen dit gedoe. Er zijn mij ook nog eens teveel idioten die het op je los kunnen laten... Dat zie je ook al zonder AI.