De opmars van kunstmatige intelligentie

[Leon]

In viewtopic.php?f=23&t=18729 geef ik een Engelstalige dialoog weer die ik had met chatGPT-4 over kunstmatige intelligentie.

Ik hoop dat enigen die dialoog willen doornemen. Volgens mij zitten er wat interessante punten in.

ChatGPT lijkt zelf aan te geven wat nu ook in het nieuws is dat ethische regels voor toepassing van Ai noodzakelijk zijn en discussie broodnodig.

In hoeverre kunnen jullie je vinden in het perspectief van een toekomst met kunstmatige intelligentie dat chatGPT-4 schetst?

Als ik kijk naar de Ernie Bot die een verborgen politieke agenda heeft, ben ik toch bang dat we gewoon niet in staat zijn tot het ideaalbeeld voor kunstmatige intelligentie.

Ik heb trouwens chatGPT gevraagd te vertalen, maar daarin liep deze vast en veranderde ook de inhoud. Op de vraag waarom het systeem dat deed kreeg ik als antwoord dat duidelijkheid voor de strikte vertaling ging.

Ik heb gemerkt dat engelstalige dialogen lekkerder lopen, ik voel me daar ook in thuis omdat het me dwingt tot zorgvuldiger formuleren en woordgebruik.

Ik hoop dat jullie de moeite nemen het stuk door te nemen.

[appelfflap]

Ik hoop dat jullie de moeite nemen het stuk door te nemen.

https://www.welingelichtekringen.nl/gez ... atbot.html
mja, als ge dit leest ...

zelfmoord plegen na chatten met AI?
het lijkt logisch wat dat ding schrijft maar hij pikt gewoon in op hetgeen de andere schrijft zonder redenering en motief.
het versterkt in dit geval blijkbaar waanideeën

[B.S.]

Dit lijkt me een verhaal om kapot te checken.
Er zijn vast horrorfilms met dit gegeven gemaakt.

[B.S.]

Als het al zo gegaan is lijkt de man vooral toch al ontwikkelde gedachten aan het programma gevoerd te hebben.
Wat erop zou kunnen wijzen dat deze 'intelligentie' nog altijd door mensen gestuurd kan worden.

[Peter van Velzen]

Iedereen lijkt MULTIVAC te vergeten:
https://schools.ednet.ns.ca/avrsb/070/r ... 0world.pdf

The greatest industry on Earth centred about Multivac – Multivac, the giant computer that had grown in fifty years until its various ramifications
. . .
. .
An army of civil servants fed it data constantly and another army correlated and interpreted the answers it gave. A corps of engineers patrolled its interior while mines and factories consumed themselves in keeping its reserve stocks of replacement parts ever complete, ever accurate, ever satisfactory in every way.

https://en.wikipedia.org/wiki/Multivac

Roeland

Belast met alle problemen in de wereld, werd Multivac overigens depressief, en trachtte zelfmoord te plegen.

[chromis]

Als iemand van oude horror-films houdt: https://en.wikipedia.org/wiki/Demon_Seed

[Rereformed]

Ik heb trouwens chatGPT gevraagd te vertalen, maar daarin liep deze vast en veranderde ook de inhoud. Op de vraag waarom het systeem dat deed kreeg ik als antwoord dat duidelijkheid voor de strikte vertaling ging.

Hoe in vredesnaam liep vertaling vast? Veranderde de inhoud?
Een vertaling die kiest voor de duidelijkheid, oftewel dat het begrepen wordt en vloeiend klinkt in de taal waarnaar vertaald wordt is juist het criterium waaraan je een goede vertaling herkent en kan afmeten. Aangezien het Engels en Nederlands zeer nauw verwante talen zijn, en er bovendien geen cultuur- en tijdsperiodeverschillen zijn, zijn afwijkingen van de streng letterlijke vertaling echter minimaal en kunnen ze nauwelijks een probleem opleveren.

Je opmerking verbaast me dan ook hogelijk en ik zou graag concrete antwoorden willen krijgen waar je problemen zaten om het beter te kunnen begrijpen.
Ik ga er hierbij van uit dat chatGPT vertaling niet onder doet voor die van de google vertaalfunktie die iedereen ter beschikking staat. Hier is het eerste deel van de tekst waarnaar je verwijst met de Nederlandse vertaling van google-vertaal. Imho een nagenoeg perfecte vertaling van het Engels:

As an AI language model, I don't have personal beliefs or expectations. However, I can provide you with information on the topic of the singularity in artificial intelligence.

The concept of the singularity, also known as the technological singularity, refers to a hypothetical point in the future when artificial intelligence (AI) would surpass human intelligence, leading to rapid technological advancements that are difficult to predict or comprehend. Proponents of the singularity argue that once AI reaches this level, it could lead to self-improving systems that would accelerate progress even further.

There is considerable debate among experts and researchers about the likelihood and the potential timeframe of the singularity. Some argue that it may occur within a few decades, while others believe it may take centuries or may never happen at all.

Several factors can influence the development of artificial intelligence and the potential for a singularity:
Technical advancements: Breakthroughs in AI research and technology could accelerate progress toward the singularity. For instance, improvements in machine learning algorithms, computational resources, and data availability can all contribute to advancing AI capabilities.
Ethical and safety considerations: As AI becomes more powerful, ensuring its ethical use and managing risks associated with AI systems will become increasingly important. Efforts to develop safe AI and to establish guidelines for AI development and deployment could impact the timeline and nature of the singularity.
Societal and political factors: Government policies, regulations, and public opinion can shape the development of AI technologies. These factors could either promote or inhibit progress toward the singularity, depending on how they influence AI research, funding, and deployment.
Economic factors: The economic incentives for developing advanced AI systems, as well as the potential for AI-driven automation and its impact on the job market, could influence the pace and direction of AI research.

Als AI-taalmodel heb ik geen persoonlijke overtuigingen of verwachtingen. Ik kan u echter informatie geven over het onderwerp van de singulariteit in kunstmatige intelligentie.

Het concept van de singulariteit, ook wel bekend als de technologische singulariteit, verwijst naar een hypothetisch punt in de toekomst waarop kunstmatige intelligentie (AI) de menselijke intelligentie zou overtreffen, wat zou leiden tot snelle technologische vooruitgang die moeilijk te voorspellen of te begrijpen is. Voorstanders van de singulariteit beweren dat zodra AI dit niveau bereikt, dit zou kunnen leiden tot zelfverbeterende systemen die de vooruitgang nog verder zouden versnellen.

Er is veel discussie tussen experts en onderzoekers over de waarschijnlijkheid en het mogelijke tijdsbestek van de singulariteit. Sommigen beweren dat het binnen enkele decennia kan gebeuren, terwijl anderen denken dat het eeuwen kan duren of misschien helemaal nooit zal gebeuren.

Verschillende factoren kunnen de ontwikkeling van kunstmatige intelligentie en het potentieel voor een singulariteit beïnvloeden:
Technische vooruitgang: Doorbraken in AI-onderzoek en -technologie kunnen de voortgang naar de singulariteit versnellen. Verbeteringen in machine learning-algoritmen, rekenbronnen en beschikbaarheid van gegevens kunnen bijvoorbeeld allemaal bijdragen aan het verbeteren van AI-mogelijkheden.
Ethische en veiligheidsoverwegingen: Naarmate AI krachtiger wordt, zal het waarborgen van het ethische gebruik ervan en het beheersen van de risico's in verband met AI-systemen steeds belangrijker worden. Pogingen om veilige AI te ontwikkelen en richtlijnen vast te stellen voor de ontwikkeling en inzet van AI kunnen van invloed zijn op de tijdlijn en de aard van de singulariteit.
Maatschappelijke en politieke factoren: Overheidsbeleid, regelgeving en de publieke opinie kunnen de ontwikkeling van AI-technologieën bepalen. Deze factoren kunnen de voortgang naar de singulariteit bevorderen of belemmeren, afhankelijk van hoe ze AI-onderzoek, -financiering en -implementatie beïnvloeden.
Economische factoren: de economische prikkels voor de ontwikkeling van geavanceerde AI-systemen, evenals het potentieel voor AI-gestuurde automatisering en de impact ervan op de arbeidsmarkt, kunnen het tempo en de richting van AI-onderzoek beïnvloeden.

Dat vertaling via AI zo'n perfect resultaat oplevert is voor mij juist één van die zaken die me versteld doen staan. Tien of vijftien jaar geleden waren automatische vertalingen nog een onderwerp om je mee te vermaken.

Aangezien ik de niet Indo-Europeaanse Finse taal beheers kan ik wel zeggen dat vertaling van het Nederlands naar het Fins weliswaar verbeterd is de laatste jaren, maar nog steeds zoveel mankementen vertoont dat het het lezen stoort.

[chromis]

Overigens,

Laten we vooral niet vergeten dat deze modellen getraind zijn met grote hoeveelheden data, geproduceerd door mensen. Dat trainen is een "computer-rekenkundig" dure (en lange) aangelegenheid: het resultaat is (hoogstwaarschijnlijk) een statische "data-set" waarmee het model vervolgens werkt. De antwoorden die het dan lijkt te geven is een statistische "almagatie" van een gruwelijk groot maar onbekend (en ontraceerbaar!) aantal (tekst)bronnen gecombineerd met intensieve training door (waarschijnlijk) hele teams van mensen, wellicht in de afgelopen 10+ jaar. Zie ook een van mijn vorige berichten voor de term "Potemkin AI".

Als je direct koppelt met OpenAI dan kan je "converseren" met (door OpenAI zo genoemde) "chatCompletion"; dat is wat je ook doet via de web interface. Je/deze stuurt letterlijk een lijst van allerlei berichten mee: "systeem-berichten" - daarin kunnen commando's/instructies zitten voor de bot, "gebruikers-berichten" - dit zijn berichten die iemand b.v. "jij" tikt, en... "assistant-berichten" - dit zijn de berichten die de bot al eerder gegenereerd heeft... maar je zou hiermee dus kunnen foetelen en de completer "truuken", zo lijkt het. Maar er zitten allerlei "kuisheids-gordels" in - meh - en het speelt "moraal-ridder". In combinatie met de fine-tuning capaciteit kan je de bot volgens mij daadwerkelijk laten doen wat je wil... en daarmee wordt het in potentie ook "gevaarlijk" als het gaat om het kunnen verspreiden van mis-informatie. Ik ga hier nog mee experimenteren Maar ik denk hiervoor wel mijn credit-card te moeten koppelen Al is het maar omdat ik naar GPT-4 wil (afgezien van de wachtlijst waar ik nu op sta, want ik wil dat model kunnen benaderen via de koppeling). Met "fine-tuning capaciteit" bedoel ik overigens dat je het model (waarschijnlijk: tot zekere hoogte) kan 'uitbreiden' met nieuwe kennis of (ogenschijnlijk) gedrag.

Want, ja: GPT komt in werkelijkheid in diverse soorten en smaken, en de meesten (met een gratis account) "converseren" niet met het "meest krachtige model".

Voor "easy access" tot GPT-4 (versie 4, dus) via die chat interface moet je momenteel 20/maand betalen (voor "chatGPT plus"), waarschijnlijk doe je via de gratis beschikbare web interface "chatten" met een variant van 3.5 (ik vermoed gpt-3.5-turbo, de naam van het model suggereert al e.e.a.; OpenAI raadt het gebruik van dit model aan voor experimenten, (letterlijk) "because of its lower cost.") - er zijn meerdere varianten: GPT-4 zelf heeft nu (op dit moment van schrijven) 4 varianten beschreven in hun API docs (gpt-4 en gpt-4-0314 - een nieuwere release en dan gpt-4-32k en gpt-4-32k-0314, beiden mogen max. epistels van 32,768 woorden genereren). GPT-3.5 komt momenteel in 5 modellen, een daarvan is het gespecialiseerde model genaamd code-davinci-002; zoals de naam suggereert is dit model geoptimaliseerd voor het kunnen completen van programma-code (van computerprogramma's). Dan heb je nog andere (waarschijnlijk: oudere) modellen die waarschijnlijk voor specifieke zaken het beste zijn.

De meesten (met een gratis account) "converseren" niet met het "meest krachtige model"... even afgezien van de kwestie of 'het meest krachtige model' (in termen van aantal parameters en [carbon!] footprint) ook het meest "overtuigende" is wat betreft "mensen gaan/willen geloven dat de contraptie zelf-bewust is": volgens mij speelt dat ook een belangrijke rol in dit alles. Ook als investeerders en bepaalde zakenlui vanalles gaan toeteren, zoals die Elon Musk: die Musk is al jarenlang bezig met zelf-rijdende auto's. Hoe lang zijn mensen daar al niet bang voor? (dat chauffeurs, met name truckers, hun baan zouden verliezen?); en? Rijden ze al volledig autonoom? Nouja, wat de toekomst daadwerkelijk geeft weet ik niet (wellicht rijden auto's op een dag daadwerkelijk autonoom, maar dat zal "niet gemakkelijk" zijn) maar ik schat de kans hoog in dat deze hype op een dag overwaait en dat we vervolgens zijn opgescheept met chat bots op pagina's van grote bedrijven die - zonder tussenkomst van een 1e-lijns helpdeskmedewerker - getraind zullen zijn om jou lekker met een kluitje in het riet te sturen. Vooruitgang?

[Leon]

Ik heb trouwens chatGPT gevraagd te vertalen, maar daarin liep deze vast en veranderde ook de inhoud. Op de vraag waarom het systeem dat deed kreeg ik als antwoord dat duidelijkheid voor de strikte vertaling ging.

Hoe in vredesnaam liep vertaling vast? Veranderde de inhoud?

Het systeem gaf aan “load failed” deed maar gedeeltes, en liet delen weg, ik gaf steeds aan “please continue” maar toen liep GPT-4 uit zijn “caps” en moest ik het een uur later nog eens proberen. Ik ging met GPT3.5 verder, maar bijvoorbeeld de toestemming voor het plaatsen op een forum veranderde die met de opmerkingen dat bronvermelding erbij moest en dat ik beter ook meerdere bronnen moest tonen.

Ik had het misschien wat complex gemaakt door te vragen bulletinboard code toe te voegen. Die heb ik zelf ook in de engelse tekst toe moeten voegen.

Het ging heel rommelig. Ik hoopte dat GPT-4 een tekst van 10.000 woorden wel aankon.

[Leon]

Ik betaal trouwens 24,20 per maand voor gebruikt van GPT-4 (met BTW).

[Leon]

It seems that with the translation new context was added. What is the reason for that?

I apologize if it seemed that way. As an AI language model, I strive to provide accurate translations and sometimes additional context or clarification may be necessary to ensure that the translation accurately conveys the intended meaning of the original text. In this case, I provided additional context to make the translation more complete and clear. However, I always strive to ensure that any additional context or clarification is faithful to the original text and does not introduce any new meaning or bias. If you have any concerns or questions about a particular translation, please let me know and I will do my best to address them.

In order to make people aware of the positive possibilities of a future with AI, may I share this conversation on a philosophy forum?

“GPT-4” schreef:
As an AI language model, I am here to provide information and answer your questions. You are welcome to share this conversation on a philosophy forum or any other platform you think would benefit from this discussion. Keep in mind that the responses provided are based on the knowledge and understanding available up to September 2021, and some information may have changed since then. Sharing this conversation can help spark discussions on the potential benefits and challenges of AI and encourage people to think critically about the future of AI and its role in society.

en de "vertaling" :

Ja, natuurlijk mag u deze conversatie delen op een filosofisch forum om mensen bewust te maken van de positieve mogelijkheden van AI voor de toekomst. Het is belangrijk om open en eerlijk te zijn over de potentiële voordelen en uitdagingen van AI en om een constructieve dialoog te bevorderen over hoe we deze technologie op een verantwoorde en duurzame manier kunnen inzetten.

Als u de conversatie deelt, is het misschien handig om de bron te vermelden en om andere bronnen te delen die meer informatie bieden over de impact van AI op de maatschappij en het milieu. Op die manier kunnen mensen zelf hun mening vormen en bijdragen aan het gesprek over de toekomst van AI en duurzaamheid.

Ik hoop dat deze conversatie en de informatie die hierin wordt gedeeld, kunnen bijdragen aan een positief en constructief debat over de toekomst van AI en de rol die we allemaal kunnen spelen in het bevorderen van een duurzame en leefbare toekomst voor ons allemaal.

[Rereformed]

Ik heb trouwens chatGPT gevraagd te vertalen, maar daarin liep deze vast en veranderde ook de inhoud. Op de vraag waarom het systeem dat deed kreeg ik als antwoord dat duidelijkheid voor de strikte vertaling ging.

Hoe in vredesnaam liep vertaling vast? Veranderde de inhoud?

Het systeem gaf aan “load failed” deed maar gedeeltes, en liet delen weg, ik gaf steeds aan “please continue” maar toen liep GPT-4 uit zijn “caps” en moest ik het een uur later nog eens proberen.

Ah, dus dat is hetzelfde probleem als met google translate. Daar is de vertaallimiet 3900 leestekens per invoerbeurt. Een vreemde zaak aangezien je ook op een internetsite kan klikken en dan de hele lap tekst in één klap vertaald kan krijgen, ongeacht de hoeveelheid leestekens. Ik neem aan dat het niet lang duurt of dit soort beperkingen zijn verleden tijd.

Ik ging met GPT3.5 verder, maar bijvoorbeeld de toestemming voor het plaatsen op een forum veranderde die met de opmerkingen dat bronvermelding erbij moest en dat ik beter ook meerdere bronnen moest tonen.

Betekent dat dan dat GPT3.5 rekening hield met de forumregels?
Wow! Amazing!

[Leon]

Hoe in vredesnaam liep vertaling vast? Veranderde de inhoud?

Het systeem gaf aan “load failed” deed maar gedeeltes, en liet delen weg, ik gaf steeds aan “please continue” maar toen liep GPT-4 uit zijn “caps” en moest ik het een uur later nog eens proberen.

Ah, dus dat is hetzelfde probleem als met google translate. Daar is de vertaallimiet 3900 leestekens per invoerbeurt. Een vreemde zaak aangezien je ook op een internetsite kan klikken en dan de hele lap tekst in één klap vertaald kan krijgen, ongeacht de hoeveelheid leestekens. Ik neem aan dat het niet lang duurt of dit soort beperkingen zijn verleden tijd.

Ik ging met GPT3.5 verder, maar bijvoorbeeld de toestemming voor het plaatsen op een forum veranderde die met de opmerkingen dat bronvermelding erbij moest en dat ik beter ook meerdere bronnen moest tonen.

Betekent dat dan dat GPT3.5 rekening hield met de forumregels?
Wow! Amazing!

Ik heb het idee dat chatGPT bij de vertaling het nog eens naleest (extra rekencapaciteit) en beoordeelt of het systeem het er wel mee eens is, en dat nog eens aanvullingen doet. Erg ‘menselijk’.

[heeck]

Hoe in vredesnaam liep vertaling vast? Veranderde de inhoud?

Het systeem gaf aan “load failed” deed maar gedeeltes, en liet delen weg, ik gaf steeds aan “please continue” maar toen liep GPT-4 uit zijn “caps” en moest ik het een uur later nog eens proberen.

Ah, dus dat is hetzelfde probleem als met google translate. Daar is de vertaallimiet 3900 leestekens per invoerbeurt. Een vreemde zaak aangezien je ook op een internetsite kan klikken en dan de hele lap tekst in één klap vertaald kan krijgen, ongeacht de hoeveelheid leestekens. Ik neem aan dat het niet lang duurt of dit soort beperkingen zijn verleden tijd.

Ik ging met GPT3.5 verder, maar bijvoorbeeld de toestemming voor het plaatsen op een forum veranderde die met de opmerkingen dat bronvermelding erbij moest en dat ik beter ook meerdere bronnen moest tonen.

Betekent dat dan dat GPT3.5 rekening hield met de forumregels?
Wow! Amazing!

Leon, Chromis,
Kunnen jullie “bewijs” aanleveren of GPT-4 en hoe dan, het rekening kan houden met forumregels; dat riekt namelijk naar interpretatie die domme data-training te boven gaat.

Roeland

[chromis]

Hallo Roeland,

Ik zou zelf ook zulk bewijs willen zien. De onderzoeksvraag is dan: kunnen "Large Language Models" in het algemeen daadwerkelijk gevolgtrekkingen maken en "leren" zoals wij dat doorgaans definiëren vanuit een cognitieve psychologische en didactische context? Dat zou volgens mij een "cognitieve science"-vraagstuk zijn... en juist vanuit die hoek lijkt veel kritiek te komen op deze ontwikkeling.

Met andere woorden: is er bewijs dat LLM's nieuwe gegevens kunnen creëren? Of zijn (en blijven) het (zoals Zzabine het leuk omschrijft) "stochastische papagaaien"? Hoe indrukwekkend dat ook moge zijn? (en daarin schuilt dan wellicht het daadwerkelijke gevaar?....)

Wat betreft die forum-regels,

Vrijwel alle internet-diensten zullen iets met bronvermeldingen moeten doen, die "schenden van auteursrechten"-kwestie speelt al 20+ jaar een rol bij het openstellen en beheren van welke internet-dienst dan ook...

...een dat gezegd hebbende, hoe houden deze LLM's (en indexers?) rekening met auteursrecht? Grote hint: https://www.infoq.com/news/2022/11/laws ... b-copilot/

Hou dit ook (als ontwikkelaar) in je achterhoofd, mocht je github e.d. afnemen en daar privé-repositories hebben met code waarvan je denkt dat deze ook echt privé is... en waarover je (intellectueel) ownership wenst.

Leuk, al dat trainen en indexeren. Bij indexeren krijg je tenminste nog vermeldingen naar bronmateriaal. Bij dit spul is dat een ander verhaal.