De opmars van kunstmatige intelligentie

[holog]

Wij denken vaak algoritmisch, dat is denken in taal.

We kunnen echter ook anders denken, dat gebeurt zonder taal. (dieren kunnen allen het laatste, (voor zover bekend)
Hoe dat proces plaats vindt is maar slecht bekend, wel dat dat nu juist de nieuwe ideeën oplevert.

en is dat uw theorie of heb je er ook refenrenties naar ...??

komt me eerder over dat onze hersenen erop gebouwd zijn om welbepaalde patronen te herkennen , gegeven onze zintuigen , enz..( een ander soort hersenen kunnen totaal andere patronen herkennen)

We hebben op zijn minst de illusie om sommige zaken te kunnen voorspellen (via patronen, algorotmes) .. moesten we niets kunnen ''voorspellen' zouden we totaal geen wetenschappen hebben. we bouwen onze volledige 'wereld' rondom dit soort van regulariteiten/patronenen die onze soort van hersennen herkennen als zinvol, gegeven onze soort van zintuigen. Dan via technologie en via evolutie blabla bouwen nog 'betere' hersenen en zintuigen die nog meer gericht zijn op de patroonherkenning/voorspelling die wij zinvol achten een soort van 'self-fulfilling prophecy' ?

[vegan-revolution]

 
Hier postte ik een artikel waarin vermeld werd dat de kunstmatige intelligentie Leta een IQ van 150 zou hebben. Met de nadruk op zou, want we kunnen maar beter voorzichtig zijn met het trekken van conclusies, nietwaar?
 
Maar let op : Leta is mede gebaseerd op GPT-3 en wat lees ik?
 
Watch out, GPT-3, here comes AI21's 'Jurassic' language model
 
Daaruit :
 

Jurassic, a computer program introduced Wednesday by Tel Aviv-based artificial intelligence startup AI21 Labs.
 
GPT-3, of course, is the language program from the San Francisco-based startup OpenAI that rocked the world in 2020 by generating sentences and whole articles that seemed quite human-like.

In Levine and team's research, they found that too many layers can lead to diminishing results for a deep learning program of the type "self-attention," which is what GPT-3 is, and all programs like that are all built on the original Transformer program from Google.

It is this insight that AI21's Shoham and colleagues detail in their paper. "For a given parameter budget there is an optimal depth." Specifically, they replace GPT-3's 96 layers with just 76 layers

what the AI21 researchers observe is "a significant gain in runtime performance" when running their program on a GPU versus GPT-3

One more thing that Shoham and team did with Jurassic was to boost the vocabulary size, the number of unique tokens that the program can ingest and keep track of, from the 50,000 that GPT-3 uses to 256,000. They also went beyond using tokens as just words to using "vocabulary items," as they call them, where the units "contain a rich mixture of word pieces, whole words, and multi-word expressions."

While the test results will probably be scrutinized many different ways as people kick the tires, the larger objective of AI21 seems to be to have built a more-accessible GPT-3 on the other side of the OpenAI wall, to take advantage, as a business, of the desire for many users to gain access to the capability.

Het lijkt er dus op dat de ontwikkelingen op het gebied van kunstmatige intelligentie recent in een stroomversnelling terecht zijn gekomen, waarbij nieuwe constructies die van de voorgaande constructies lijken te overtreffen.
 

[heeck]

Tiberius,

Blijft mijn vraag over jouw betiteling van dat hersen-funktioneren.

Roeland

Ik weet niet wat ik er nog meer over moet zeggen.
De hersenen zijn iets biologisch, dus is het een biologisch functioneren.

Dat nog veel over dit functioneren onbekend is doet daar niets aan af.

Tiberius,

Omdat jij de domme algoritmes opvoerde ben ik benieuwd naar jouw classificatie van het natuurlijk/biiologisch functioneren.
Als dat ook functioneert op manieren die in wezen identiek zijn aan algoritmes dan zijn die ook dom.

Het enige waarbij dat functioneren slimmer dan dom zou mogen worden genoemd, dat is het vermogen bij sommige vormen van hersenen om zich los te maken van hetgeen er direct voorvalt en plannen te maken voor een toekomst en die al bijstellend uit te voeren.
Maar in de grond nog steeds dom.

Net zo dom als een algoritme?!

Roeland

[heeck]

Tiberius e.a.,

Gelukkig ben ik niet de enige eigenwijze en zijn er betere:

https://www.sciencedaily.com/releases/2 ... 165921.htm

Our brains have a basic algorithm that enables us to not just recognize a traditional Thanksgiving meal, but the intelligence to ponder the broader implications of a bountiful harvest as well as good family and friends.

"A relatively simple mathematical logic underlies our complex brain computations," said Dr. Joe Z. Tsien, neuroscientist at the Medical College of Georgia at Augusta University, co-director of the Augusta University Brain and Behavior Discovery Institute and Georgia Research Alliance Eminent Scholar in Cognitive and Systems Neurobiology.

"For it to be a universal principle, it needs to be operating in many neural circuits, so we selected seven different brain regions and, surprisingly, we indeed saw this principle operating in all these regions," he said.

Roeland

[holog]

Tiberius,

Blijft mijn vraag over jouw betiteling van dat hersen-funktioneren.

Roeland

Ik weet niet wat ik er nog meer over moet zeggen.
De hersenen zijn iets biologisch, dus is het een biologisch functioneren.

Dat nog veel over dit functioneren onbekend is doet daar niets aan af.

Tiberius,

Omdat jij de domme algoritmes opvoerde ben ik benieuwd naar jouw classificatie van het natuurlijk/biiologisch functioneren.
Als dat ook functioneert op manieren die in wezen identiek zijn aan algoritmes dan zijn die ook dom.

Het enige waarbij dat functioneren slimmer dan dom zou mogen worden genoemd, dat is het vermogen bij sommige vormen van hersenen om zich los te maken van hetgeen er direct voorvalt en plannen te maken voor een toekomst en die al bijstellend uit te voeren.
Maar in de grond nog steeds dom.

Net zo dom als een algoritme?!

Roelandte

@Heeck - volgens mij is er niets eigenwijs/ controversieel uw vraag - wel aan de bewering van @Tiberius - ik vroeg hem eveneens naar referenties waar dit vandaan komt?

[holog]

Het lijkt er dus op dat de ontwikkelingen op het gebied van kunstmatige intelligentie recent in een stroomversnelling terecht zijn gekomen, waarbij nieuwe constructies die van de voorgaande constructies lijken te overtreffen.
 

je referenties gaat volledig over AI op gebied van 'taal' - wat we 'vandaag' zien is effectief nog steeds ontzettend 'dom' en 'peanuts' tov wat er (ik vermoed op relatief korte termijn) in de pipeline zit.
voor een mooi en vrij volledig historisch (inclusief toekomst) overzicht ivm 'taalverwerking en AI' en waarom zelfs waarom de bovenstaande bewering vrij evidente bewering is, indien interesse erin onderstaande is zeker een aanrader (nogal uitgebreid maar ook enkel de eerste 15 minuten of zo - geeft toch al wat inzicht)

[vegan-revolution]

wat we 'vandaag' zien is effectief nog steeds ontzettend 'dom' en 'peanuts' tov wat er (ik vermoed op relatief korte termijn) in de pipeline zit.

Ik sluit dat zeker niet uit.

Ik heb het eerste kwartier van de door jou geposte video alvast even bekeken handelende over symboliek en connectiviteit (met vectoren en tensoren). Interessant. Op een later moment ga ik er nog wel wat dieper in duiken.
 

[holog]

een duidelijke boodschap "a call to action"

[Peter van Velzen]

Actie?

Dan zal men eerst moeten weten waarover men het heeft, En het probleem is dat zolang er niets gebeurt dat je zorgen baart, blijk je je achteraf niet meer te herinneren wat er onderweg gebeurde. Ook al heb je prima gestuurd. Toen het internet ontstond kregen we eerst startpagina maar Google bleek sneller met name omdat het rekening hield met je voorkeuren. Helaas blijken onze voorkeuren ook fout te kunnen zijn Want wij hebben soms voorkeuren die niet zo verstandig blijken.

Niet kunstmatige intelligentie is de grootste bedreiging, maar onze eigen domheid. (waar de machines dan aan toegeven), Helaas: De machine kent wel een "is" maar geen "ought", net als ons bewuste denken overigens, dat laat het nemen van besluiten ook nog steeds aan zijn onbewuste voorganger(s) over. Misschien dat quantum computers dit probleem kunnen oplosssen,maar juist dát moeten we inderdaad trachten in de gaten te houden. Dat ze het straks kunnen betekent niet, dat we hen er mee aan de haal moeten laten gaan, Misschien zijn de machines straks "loony leftists" (zelfs in de ogen van degene die door rechts zo genoemd worden of juist godsdienstwaanzinnigen (zelfs in de ogen van de eindtijdgelovigen). Je weet het niet. tot je het ziet.

[vegan-revolution]

Niet kunstmatige intelligentie is de grootste bedreiging, maar onze eigen domheid.

Wat denk je dan van machinale superintelligentie gecombineerd met menselijke domheid? Menselijke domheid is er altijd al geweest zolang er mensen bestaan, maar machinale superintelligentie zou iets nieuws zijn. Vandaar dat de focus in discussies hierover ligt bij machinale superintelligentie als nieuwe factor en niet bij menselijke domheid als factor. Want menselijke domheid als factor bestaat al heel lang en daar weten we daarom ook al heel lang heel veel over.

[holog]

Niet kunstmatige intelligentie is de grootste bedreiging, maar onze eigen domheid.

Wat denk je dan van machinale superintelligentie gecombineerd met menselijke domheid? Menselijke domheid is er altijd al geweest zolang er mensen bestaan, maar machinale superintelligentie zou iets nieuws zijn. Vandaar dat de focus in discussies hierover ligt bij machinale superintelligentie als nieuwe factor en niet bij menselijke domheid als factor. Want menselijke domheid als factor bestaat al heel lang en daar weten we daarom ook al heel lang heel veel over.

de oproep van Ilyas Khan naar "quantum ethics" is wel degelijk eerder gericht naar menselijke 'domheid' - de boodschap is eerder in de aard te interpreteren van de tools die we nu ter beschikking hebben - is zowat het stenentijdperk tov de eventuele potenties van de quantum computing generatie, we moeten ons ogen daarvoor niet sluiten , hoe hoger technologische mogelijkheden hoe hoger eveneens de potentiele gevaren.
(quantum computing is veel ruimer dan wat we onder kunstmatige intellegentie verstaan)

https://www.scientificamerican.com/arti ... -humanity/

[holog]

Actie?

Dan zal men eerst moeten weten waarover men het heeft, En het probleem is dat zolang er niets gebeurt dat je zorgen baart, blijk je je achteraf niet meer te herinneren wat er onderweg gebeurde. Ook al heb je prima gestuurd.

ook al is het absoluut zo - bij nieuwe technologiën die nog in hun baby/kinderschoenen staan de eigenlijke impact ommogelijk te voorspellen valt.
En je hebt gelijk dat zeker het geval is bij quantum computing we eigenlijk zelf niet weten waarover we het mogelijk hebben (en of we zelfs effectief verder geraken en de NISQ machines - sommigen zullen zeggen van niet).
Het is eveneens niet zo dat we absoluut volledig in het donker tasten betreffende de eerste vorm van applicaties - die zijn vollop in ontwikkeling.

Wil volgens mij niet zeggen dat er wel degelijk 'ethische issues' - kunnen pogen vooropgesteld worden.

[vegan-revolution]

de oproep van Ilyas Khan naar "quantum ethics" is wel degelijk eerder gericht naar menselijke 'domheid'

Uiteraard. Maar dan in de zin van dom omgaan met grotere technologische mogelijkheden.

hoe hoger technologische mogelijkheden hoe hoger eveneens de potentiele gevaren.

Vanwege die menselijke domheid uiteraard.

Maar niettemin zegt Ilyas Khan : "Mensen, wees niet dom."

[vegan-revolution]

 
In het kader van dit topic vond ik dit (wel lang !) artikel (geschreven door Alberto Romero op 8 september 2021) interessant :
 
Here's Why We May Need to Rethink Artificial Neural Networks

Daaruit :

What most people don't know is that neither of those concepts is remotely new. AI was born as a field of research in 1956. ML (Machine Learning) and DL (Deep Learning) were introduced in 1959 and 1986, respectively. And artificial neural networks — a term borrowed from the, at the time, immature field of neuroscience — appeared in 1943, with the pioneering work of Warren S. McCulloch and Walter Pitts.

This is the McCulloch and Pitts neuron model (MCP), conceived almost 80 years ago. It's, for the most part, the same model that's taught in every modern introduction course or book on deep learning. It's not because MCP is an accurate model that needs no refinement, but because deep learning hasn't changed a bit at this elemental level since 1943.

The main simplification and the one that most hurts the MCP model is that each neuron in the ANN (Artificial Neural Network) is collapsed into a single point in space. This is sufficient to simulate the behavior of some neurons, but the biophysical nature of other, more complex neurons is too nuanced and intricate.

A few days ago, David Beniaguev and his colleagues, published a paper in Neuron that proves what's been suggested all these years: An artificial neuron can't accurately represent a biological neuron at all.

They found that, at the very least, a 5-layer 128-unit TCN — temporal convolutional network — is needed to simulate the I/O patterns of a pyramidal neuron at the millisecond resolution (single spike precision). They modified depth and width and found that the best performance was achieved by an 8-layer 256-unit TCN.

To make a gross comparison: This means a single biological neuron needs between 640 and 2048 artificial neurons to be simulated adequately. It doesn't imply a biological neuron has this much more computational power or complexity. However, it's a clear sign that both types of neurons are further apart in form and substance than previously thought.

The neurons in our brain — although not all — are way more complex than their artificial counterparts. It'd be reasonable to approach this issue by checking if the assumptions established by AI and deep learning still hold despite the recent — and not so recent — discoveries in neuroscience.

We could compensate for the lack of complexity in artificial neurons with larger models, tons of computing power, and gigantic datasets, but that's too inefficient to be the eventual last step of this quest.

It seems, however you look at it, that AI and particularly ANNs have problems of paramount importance to solve. Even if we rethink them from their very foundations it's improbable that the issues will be solved right away.

[holog]

eerste stap van het Compositional Intelligence project , aflevering van QNLP free to download en uit te proberen op een van de online beschikbare quantum computers.

Now you can try it yourself with lambeq

Compositional Intelligence project aims to provide AI with intelligible reasoning mechanisms going well beyond traditional GOFAI = "Good Old fashioned Artificial Intelligence" ones


https://medium.com/cambridge-quantum-co ... 6a44b319b2

download link in footnote [9]

Our main source of inspiration comes from reasoning structures developed within categorical quantum mechanics (CQM).These novel compositional reasoning mechanisms have made CQM so effective by giving up the Birkhoff-von Neumann style propositional structures and replacing them with ones able to deal with the non-Boolean data that we also see in modern machine learning. In the context of CQM, results include both logical completeness theorems that establish this reasoning to be on par with matrix calculations, as well as state-of-the-art techniques for quantum technology. These entirely novel reasoning mechanisms moreover point us towards quantum-native quantum hardware implementations, at the cutting-edge of the ongoing quantum tech revolution