Evolutie@Work

Discussies over de evolutieleer, creation science, 'jonge aarde' creationisme, de zondvloed etc..

Moderator: Moderators

Plaats reactie
Gebruikersavatar
Mullog
Ervaren pen
Berichten: 679
Lid geworden op: 02 nov 2016 17:20

Evolutie@Work

Bericht door Mullog » 31 jul 2017 16:20

Van nu.nl
De samenvatting van het artikel schreef:Beveiligingsonderzoekers hebben met behulp van kunstmatige intelligentie een nieuw soort malware gemaakt, die niet door antivirusprogramma’s wordt gedetecteerd.
Als je het artikel leest lijkt het erop dat de malware met hulp van kunstmatige intelligentie probeert code te ontwikkelen die niet meer door virusscanners herkend wordt. Mijn inschatting is dat de volgende stap zal zijn dat virusscanners gaan proberen malware op basis van dezelfde principes alsnog te herkennen. En zie daar de start van evolutionaire processen op een plaats waar deze nog niet eerder in deze vorm gezien zijn (denk ik) maar waar ze wel verwacht zijn.

Wat ik mij nu afvraag is of we dit als mensen nog kunnen (blijven) volgen. Weten hackers straks nog wat ze waarmee met welk doel aan het hacken zijn? En weten de McAffees, Kasperki's, Norton's en hoe ze verder ook mogen heten nog wat ze waarmee op welke wijze aan het verdedigen zijn?

Het is volgens mij al langer zo dat technici die de hardware ontwikkelen nauwelijks inzicht hebben in wat programmeurs die de code (bijvoorbeeld Java) voor het programmeren ontwikkelen doen. En dat de programmeurs die (bijvoorbeeld in Java) functionaliteiten ontwikkelen nauwelijks besef hebben van wat er onderliggend gebeurt. En nu naderen we een stadium waarbij software zichzelf gaat ontwikkelen en bestrijden.

Zou er nu malware kunnen ontstaan die op zoek gaat naar creditcardnummers op een PC en beveiligingssoftware die dat constateert maar in plaats van de malware te blokkeren een strategie ontwikkeld waarmee bijvoorbeeld de opgepikte creditcardnummers worden verminkt voordat ze de PC verlaten?
Zo moet ge dat zien, we worden geboren en we gaan dood, daar tussendoor begaan we stommiteiten (hoofdinspecteur van In, Aspe)

Gebruikersavatar
Jan van Lennip
Diehard
Berichten: 1135
Lid geworden op: 13 mar 2012 15:36

Re: Evolutie@Work

Bericht door Jan van Lennip » 31 jul 2017 17:40

Mullog schreef:Van nu.nl
De samenvatting van het artikel schreef:Beveiligingsonderzoekers hebben met behulp van kunstmatige intelligentie een nieuw soort malware gemaakt, die niet door antivirusprogramma’s wordt gedetecteerd.
[..]

Software wars. Idd een topic om rekening mee te houden.
De beste manier om kritiek te voorkomen is door je mond te houden. Aristoteles

Gebruikersavatar
Dat beloof ik
Bevlogen
Berichten: 3285
Lid geworden op: 07 jun 2013 13:21
Locatie: Brabanste Wal

Re: Evolutie@Work

Bericht door Dat beloof ik » 31 jul 2017 19:18

Mijn inschatting is dat de volgende stap zal zijn dat virusscanners gaan proberen malware op basis van dezelfde principes alsnog te herkennen. En zie daar de start van evolutionaire processen op een plaats waar deze nog niet eerder in deze vorm gezien zijn (denk ik) maar waar ze wel verwacht zijn.
Ik zie dat niet zo. Het ligt er ook nogal aan wat je onder 'evolutionair proces' verstaat. Als je ermee bedoelt 'zoals in de evolutietheorie' : Een technologische ontwikkeling is iets anders als een evolutionair proces. In het kader van deze discussie erg belangrijk, anders gaat de discussie alle kanten op.
Zou er nu malware kunnen ontstaan die op zoek gaat naar creditcardnummers op een PC en beveiligingssoftware die dat constateert maar in plaats van de malware te blokkeren een strategie ontwikkeld waarmee bijvoorbeeld de opgepikte creditcardnummers worden verminkt voordat ze de PC verlaten?
Deze software is er al lang. De vraag is wat voor nut het heeft om beveiligingssoftware zo te laten reageren. Meestal zal de malware gewoon worden geblokkeerd.
“Mr. Spock, do you have a theory?”
“No captain. For a theory, one requires facts. Since we do not have any, it would be illogical to have a theory.”
(Star Trek, seizoen 1)

Gebruikersavatar
Mullog
Ervaren pen
Berichten: 679
Lid geworden op: 02 nov 2016 17:20

Re: Evolutie@Work

Bericht door Mullog » 01 aug 2017 09:38

Dat beloof ik schreef:Ik zie dat niet zo. Het ligt er ook nogal aan wat je onder 'evolutionair proces' verstaat.
Ik beschouw wat er beschreven wordt als analoog aan de ontwikkeling tussen bijvoorbeeld ziekteverwekkers en het imuunsysteem. Malware probeert zich te maskeren voor beveiligingssoftware of deze te omzeilen. Beveiligingssoftware probeert malware het "leven" onmogelijk te maken.

Het gebruik van KI zie ik dan als een stap in een richting waarbij de software zelfstandig gaat doorontwikkelen.
Dat beloof ik schreef:Deze software is er al lang. De vraag is wat voor nut het heeft om beveiligingssoftware zo te laten reageren. Meestal zal de malware gewoon worden geblokkeerd.
Ongetwijfeld heb je met beide opmerkingen gelijk. Maar als strategie ervoor kiezen de malware te laten "leven" maar onbruikbare informatie door te laten sturen is misschien zo gek nog niet. Het leidt er aan de malware kant toe dat het probleem ook in de malware zelf zou kunnen zitten.

Ik vind het een fascinerend idee dat software helpt software ontwikkeld om andere software om de tuin te leiden
Zo moet ge dat zien, we worden geboren en we gaan dood, daar tussendoor begaan we stommiteiten (hoofdinspecteur van In, Aspe)

Gebruikersavatar
Petra
Banned
Berichten: 6144
Lid geworden op: 14 apr 2017 12:07
Locatie: Vietnam

Re: Evolutie@Work

Bericht door Petra » 04 aug 2017 05:03

Mullog schreef: Het gebruik van KI zie ik dan als een stap in een richting waarbij de software zelfstandig gaat doorontwikkelen.
Ik ook.
Tot het kantelpunt, waarop wij het ook niet meer kunnen bijpotelen, kunnen we het erover hebben.
Daarna zien of begrijpen we niet eens meer wat er gaande is.
Braver dan the braafste braverik!

"If the mind can find no meaning, then the senses give it. Live for this, wretched being that you are."
― Anne Rice, The Queen of the Damned

Plaats reactie