De opmars van kunstmatige intelligentie

[Rereformed]

Als taalmodel dat getraind is door OpenAI, heb ik toegang tot een enorme hoeveelheid gegevens en informatie uit verschillende bronnen, waaronder tekst in het Nederlands en andere talen. Dit betekent dat wanneer je me iets vraagt in het Nederlands, ik niet alleen informatie kan gebruiken die in het Nederlands op internet beschikbaar is, maar ook informatie uit andere talen kan gebruiken als dit relevant is voor het beantwoorden van je vraag.

Het is belangrijk om op te merken dat ik alleen gebruik maak van de informatie die op internet beschikbaar is, wat betekent dat ik soms niet in staat ben om specifieke informatie te vinden als deze niet online beschikbaar is. Bovendien is mijn reactie gebaseerd op de gegevens die ik heb geleerd tijdens mijn training, wat betekent dat ik niet altijd up-to-date ben met de meest recente informatie.

Kortom, als je me iets vraagt in het Nederlands, zal ik alle beschikbare informatie gebruiken die relevant is voor het beantwoorden van je vraag, inclusief informatie in andere talen, maar mijn kennis is gebaseerd op wat ik heb geleerd tijdens mijn training en beperkt tot informatie die beschikbaar is op internet.

Duidelijk en glashelder met herhalingen en toevoegingen waar niet om gevraagd werd, kortom de ideale schoolmeester.

Ik kwam op het internet tegen dat Jan Cremer het woord sijsjeslijmer gebruikt had in zijn boek "Ik, Jan Cremer", maar dat boek is vast niet te lezen op internet, dus deze specifieke informatie is dan niet te vinden voor AI.

[heeck]

De wereld ontwaakt een beetje: NRC 25 februari 2023
Vast met de verplichting de rarnt te kopen bij link-klik.

Interview Herman Wolswinkel
Directeur NDP Nieuwsmedia

ChatGPT kan
verdienmodel
journalistiek
ondermijnen

De populariteit van AI-chatbots baart uitgevers
grote zorgen. "Want betrouwbaarheid van de
nieuwsvoorziening is het kostbaarste bezit dat
media hebben".

Roeland

[HierEnNu]

Ik kwam op het internet tegen dat Jan Cremer het woord sijsjeslijmer gebruikt had in zijn boek "Ik, Jan Cremer", maar dat boek is vast niet te lezen op internet, dus deze specifieke informatie is dan niet te vinden voor AI.

Wat is een sijsjeslijmer?

• Ik kan geen betekenis vinden voor het woord "sijsjeslijmer" in het Nederlands. Het is mogelijk dat het een verkeerd gespelde of zeldzame term is. Als je meer context kunt geven of weet hoe het woord correct gespeld moet worden, kan ik je mogelijk beter helpen.

Wat betekent sijsjeslijmer in boek "Ik, Jan Cremer"

• In het boek "Ik, Jan Cremer" gebruikt Jan Cremer het woord "sijsjeslijmer" om een man aan te duiden die zich overdreven netjes en beleefd gedraagt, vaak om een gunst of voordeel te verkrijgen. Het woord wordt vaak gebruikt om iemand te beschrijven die probeert te slijmen of zich onderdanig opstelt om de goedkeuring van anderen te krijgen. Het woord is een denigrerende term die suggereert dat de persoon die zo wordt genoemd, onoprecht is en slechts oppervlakkig beleefd is om zijn eigen doelen te bereiken.

[Rereformed]

Wat is een sijsjeslijmer?

Zie deze post van heeck en volgende bijdragen. Enkel heeck heeft hier verstand van, en ja, zijn locatie is Leeuwarden.

Het lijkt erop dat het een prachtig synoniem is voor slijmbal.

[B.S.]

Zoals het er nu voorstaat is internet dus de cruciale informatiebasis voor AI-programma's.
Dictaturen zullen niet happig zijn op de AI-ontwikkeling, zou je denken. Of er weer vormen van censuur in voorprogammeren.

[chromis]

Ik denk dat het belangrijk is om beter te begrijpen wat ChatGPT (en de opvolger: GPT-4) nou echt "doet" (en "kan"). Beiden zijn OpenAI producten en het blijkt onduidelijk waarom GPT-4 beter is: dit "MIT Technology review"-artikel geeft wat achtergrond en is tevens kritisch. Daarin wordt ook beschreven dat OpenAI de transitie van "non-profit onderzoekslab" naar "for-profit firma" hiermee (helaas?) volledig heeft gemaakt.

Dat merk ik ook op, het ontnuchtert mijn enthousiasme; hoe meer ik 'wil' met GPT (via directe koppelingen met de OpenAI-servers, ChatGPT is een "dienst" die je kan afnemen en kan integreren met je eigen creaties), hoe groter de kans dat "het gordijntje" (waar de tovenaar van Oz zich achter verschuilt) door de wind zodanig een keer wappert zodat je een glimp krijgt van de mechanieken daarachter.

Zo had ik verondersteld dat het concept "contextueel converseren" (net zoals met een persoon) mogelijk was: daarmee schep je expliciet de illusie dat je, nou ja, een conversatie hebt; maar zo werkt het blijkbaar toch niet (helaas). De AI (b)lijkt "stateless". Je moet een (deel van de) eerdere conversatie expliciet meegeven: daarmee bepaalt de applicatie "de context van de conversatie". Dit heeft invloed op de kosten: het lijkt erop dat deze conversatie vervolgens dubbel, driedubbel, vierdubbel, etc. meetelt, de GPT-koppeling 'rekent af' "per token" (zeg maar: per woord).

Waar ik zelf expliciet interesse in heb lijkt te kunnen: er zijn manieren om het model "uit te breiden" c.q. "te trainen", maar om dat goed te doen blijkt geen sinecure. Ik denk dat dit specialistisch werk is... en wetenschap over de interne werking van het model wordt dan essentiëler, en dat is nou juist "under veils". Dan is een speurtocht naar "hoe dit nu zou moeten werken" (en: of er 'open source' projecten zijn die iets vergelijkbaars kunnen, ik heb de BigScience Large Open-science Open-access Multilingual Language Model gevonden!) voor mij een logische vervolgstap. Dan blijkt dit gebeuren toch wel een redelijke historie te hebben. Hoe revolutionair is dit nou daadwerkelijk? ja ach..., kritische (en interessante) artikelen zijn genoeg te vinden, maar dat wisten we eigenlijk al. Dat OpenAI heeft [volgens Google] 375 werknemers: daar ben ik naar gaan zoeken nadat ik dit artikel had gespot. Wellicht doet een significant percentage van die 375 werknemers "ai training", om de accuraatheid te verhogen? Ook ben ik op het begrip Potemkin AI gestoten.

Met name door deze speurtocht ben ik me gaan realiseren dat dit vooral een leuk speeltje is: dat 'onder de indruk raken/zijn' begrijp ik wel, maar de hype erom heen lijkt mij een stuk gevaarlijker. Het wetenschappelijke perspectief dient niet uit het oog verloren te worden. Wat vinden linguïsten en cognitieve wetenschappers hier nu van? Toen kwam ik dit gesprek tegen, tussen Noam Chomsky en Gary Marcus. Tenminste voor mij was hun kijk op de zaak herkenbaar (en toegegeven: bevestigend).

Ik heb er effe genoeg van.

[holog]

Wat vinden linguïsten en cognitieve wetenschappers hier nu van? Toen kwam ik dit gesprek tegen, tussen Noam Chomsky en Gary Marcus. Tenminste voor mij was hun kijk op de zaak herkenbaar (en toegegeven: bevestigend).

Ik heb er effe genoeg van.

Heb enkel het laatste stuk bekeken. En wat effectief de big issue blijkt te zijn is dat ml (neurale nets) en gofai (logic / redeneer systemen) niet echt blenden. Wat ik veronderstel in de video niet wordt uitgelegd, en niet slechts een detail is, is dat het is omwille van diep wiskundige redenen ( of kort door de bocht vectorspaces of exotischer leven in Hilbertspace)

Hoever de aankondiging van de wolfram addin hier korte metten mee maakt is nog zozeer de vraag. (Ik veronderstel niet echt , of slechts oppervlakkig)

(Ik wou ook even kwijt het is eigenlijk: dagger symmetric monoidal category )

En vroeg me af of je deze gezien hebt

[heeck]

Chromis,

Dank voor je naspeuringen:

And Kempelen’s Mechanical Turk was a forerunner of today’s systems of artificial intelligence, not because it managed to play a game well, as with IBM’s Deep Blue or Google’s AlphaGo, but because many AI systems are, in large part, also technical illusions designed to fool the public

Onderscheid kunnen maken tegenover het verdienmodel door het publiek zand in de ogen strooien.
Altijd het zelfde.

Roeland

[chromis]

Hallo holog,

Zelf ben ik niet bekend met deze hoek wat betreft ML (Machine Learning). Ik ben ook niet bekend met (het werk van) Bob Coecke [de conversatie vind ik wel interessant. Dank voor het delen!]

Tsja,

In mijn ervaring is vrijwel alle ML geïnspireerd door (en is een simplistisch model van) biologische neurale netten. Vervolgens heb je nog de genetische algoritmiek (waarmee je in theorie neurale netten kan genereren of trainen). Zulke dingen gaan in de engineering-praktijk echter vaak een eigen leven leiden. Deze leiden vervolgens tot "brute force" oplossingen. Dat zijn deze "language models" ook. De gedachte dat het resulterende fabricaat — met de "juiste" training — wel moet leiden tot een contraptie waarin een "traditionele logica" d.w.z. "redeneer-systeem" verstopt zit lijkt mij de aanname die hieraan ten grondslag ligt; die dataset van 45TB is enerzijds nogal wat. Anderzijds... (met die aanname in gedachte dus) die dataset "moet" 'nog groter worden'; dat kan je ook uit bepaalde kritiek op ChatGPT destilleren aangezien de 'voornaamste verbeteringen' van die GPT-versies vooral "scaling up" (van de "brute force" oplossing) of "training" betreft. Dat de GPT's getraind worden door heel wat (onderbetaalde) mensen is niet uit te sluiten (omdat die kritische artikelen beschrijven dat AI's van andere bedrijven ook zo getraind worden, blijkbaar). ..."nog meer parameters", "nog meer geheugen". Voor je het weet: *poef*, een AGI? Door dit alles is wel duidelijk geworden dat veel mensen (met name investeerders) vooral willen en wensen dat dit mogelijk is.

En vervolgens heb je nog de cognitieve wetenschappers, neurologen, psychologen maar ook filosofen die de "traditionele AI" blijkbaar ondergesneeuwd zien worden door dit soort on-wetenschappelijke toestanden. Even afgezien van wat "traditionele AI" inhoudt, welke mode-grillen daar al op het toneel zijn geweest.

Inderdaad, nog meer van hetzelfde.

[holog]

In mijn ervaring is vrijwel alle ML geïnspireerd door (en is een simplistisch model van) biologische neurale netten. Vervolgens heb je nog de genetische algoritmiek (waarmee je in theorie neurale netten kan genereren of trainen). Zulke dingen gaan in de engineering-praktijk echter vaak een eigen leven leiden. Deze leiden vervolgens tot "brute force" oplossingen. Dat zijn deze "language models" ook. De gedachte dat het resulterende fabricaat — met de "juiste" training — wel moet leiden tot een contraptie waarin een "traditionele logica" d.w.z. "redeneer-systeem" verstopt zit lijkt mij de aanname die hieraan ten grondslag ligt; die dataset van 45TB is enerzijds nogal wat. Anderzijds... (met die aanname in gedachte dus) die dataset "moet" 'nog groter worden'; dat kan je ook uit bepaalde kritiek op ChatGPT destilleren aangezien de 'voornaamste verbeteringen' van die GPT-versies vooral "scaling up" (van de "brute force" oplossing) of "training" betreft. Dat de GPT's getraind worden door heel wat (onderbetaalde) mensen is niet uit te sluiten (omdat die kritische artikelen beschrijven dat AI's van andere bedrijven ook zo getraind worden, blijkbaar). ..."nog meer parameters", "nog meer geheugen".

Inderdaad, nog meer van hetzelfde.

De neurale netwerken , het leren uit data, we weten (cfr de geschiedenis babyloniers tov grieken ) dat het over het algemeen het goede eerste stap is.

Enkel de neurale netwerken hebben nogal wat problemen naar ethiek, blackboxen , nog afzien van de ecologische katastroof (door scaling up). ... Hoe verkom je een fascistische chatbox enkel via puur neurale netwerken ?

( ik heb het vermoeden dat het niet echt blenden (van neurale netwerken met gofai) probleem in de technische wereld eigenlijk een zeer bekend probleem is , maar misschien minder duidelijk naar de buitenwereld , mogelijks zie ik dat fout)

Bob legt deze visie goed uit in de tweede helft van deze video
Beginnende vanaf 10m30

[Rereformed]

Ik heb er effe genoeg van.

Hartelijk bedankt voor alle informatie!

[B.S.]

Een rampzalige ontwikkeling voltrekt zich https://www.wyniasweek.nl/dit-computerp ... -die-niet/

[heeck]

Iedereen lijkt MULTIVAC te vergeten:
https://schools.ednet.ns.ca/avrsb/070/r ... 0world.pdf

The greatest industry on Earth centred about Multivac – Multivac, the giant computer that had grown in fifty years until its various ramifications
. . .
. .
An army of civil servants fed it data constantly and another army correlated and interpreted the answers it gave. A corps of engineers patrolled its interior while mines and factories consumed themselves in keeping its reserve stocks of replacement parts ever complete, ever accurate, ever satisfactory in every way.

https://en.wikipedia.org/wiki/Multivac

Roeland

[appelfflap]

https://businessam.be/onderzoek-ai-elon ... ak-harari/
als die mannen het eens zijn moet je er toch naar luisteren

[heeck]

https://businessam.be/onderzoek-ai-elon ... ak-harari/
als die mannen het eens zijn moet je er toch naar luisteren

Dat zou je langzamerhand best wel eens mogen aannemen ja . . .

https://futureoflife.org/open-letter/pa ... periments/

Roeland