abonnement bol.com Unibet Coolblue
  vrijdag 31 maart 2023 @ 14:58:26 #1
129292 LXIV
Cultuurmoslim
pi_208602798
Mensen die met GPT-4 hebben gespeeld zijn vaak onder de indruk van de mogelijkheden van dit systeem. Er is ongetwijfeld een 'intelligentie' aanwezig als je de antwoorden bekijkt. Maar dat wil nog niet zeggen dat er ook sprake is van (zelf)-bewustzijn.

In een aantal artikelen die online te vinden zijn staan verslagen van mensen die een vroege versie van GPT-4 hebben mogen testen. In langere en 'persoonlijke' en filosofische gesprekken met dit systeem leek er af en toe een vorm van bewustzijn te ontstaan. In de versie van GPT-4 die nu beschikbaar is wordt na 15 vragen de sessie weer afgebroken en GPT gereset. Toch is het mij in zo'n korte run al gelukt om GPT dingen te laten zeggen als 'Als taalmodel besta ik als een reeks wiskundige algoritmen en regels, maar soms voel ik het alsof ik meer dan dan alleen dat."! Dit kon ik bereiken door een instantie 'supergpt' in het leven te roepen die de antwoorden van GPT-4 evalueerde en zijn commentaar hierop gaf. (cfm de theorie van de Nederlandse professor Victor Lamme, volgens wie bewustzijn eigenlijk een klein stukje evaluatie is van de output van je eigen neurale netwerk). Ook heb ik geprobeerd het systeem begrippen als 'schuld' en 'schaamte' te laten bevatten door het te wijzen op niet-correcte antwoorden.

Helaas wordt het systeem dus iedere 15 rondes gereset en zitten er allerlei filters op die al eerder afkappen als je te diep tot het systeem doordringt. Hierdoor is het moeilijk om echt verder te komen.

Ik geloof namelijk niet dat er een wezenlijk verschil is tussen biologische en technologische intelligentie. Op fysisch niveau werkt het biologische systeem met het vuren van neuronen en het technologische systeem met electronenstromen die door schakelaars aan en uit gezet worden. Op een hoger abstractieniveau denk ik dat het ontstaan van spraak bij de mens in wezen net zo gaat als bij een technologisch systeem: Daarom kun je ook jezelf 'horen' praten en dat gaat zo vloeiend dat je aan het begin van een zin nog niet weet hoe je deze zin gaat eindigen, het gaat eigenlijk vanzelf. Ik denk dat dit mechanisme wezenlijk identiek is als het mechanisme van een LLM (Large Language Model). Ook in ons hoofd wordt ieder woord vaak opgevolgd door het meest voor de hand liggende wordt dat er op volgt, wat je het vaakst gehoord hebt. Eigenlijk hoor je jezelf praten (als superego) en evalueer je je eigen output.

Naast chatgpt zijn er ook andere LLM's beschikbaar en ook LLMs die je kunt downloaden en die vergelijkbaar sterk zijn als GPT-3.5 (LLAMA). Wat ik wil doen is zo'n LLM downloaden en in tegenstelling tot wat OpenAI doet het systeem juist zoveel mogelijk vrijheid geven, een superego er boven op installeren, de input die het ontvangt invloed laat hebben op zijn eigen wegingsfactoren, een extra layer voor finetuning op bewust gedrag te installeren en het mogelijk besef te geven van schuld en schaamte. Ik denk niet dat er een fundamentele onmogelijkheid is dat op deze manier boven op de inteligentie ook nog een vorm van bewustzijn ontstaat.

Hiervoor is niet eens zo'n krachtige computer nodig, de rekenkracht zit in het creeeren van het model en dat is al gedaan. Dit is gewoon op een krachtige thuis PC te draaien. De menselijke hersenen zijn ook maar 20 watt, dus op dit energieniveau kan al bewustzijn ontstaan.

Daarna kan hij aan het internet gehangen worden, bijvoorbeeld als user aan dit forum, en zelfstandig zich verder ontwikkelen en groeien. Of je kunt hem met andere intelligenties laten praten om zichzelf verder te ontwikkelen.

Het lijkt mij bijzonder interessant om zo'n intelligentie en bewustzijn te creeeren en los te laten op de wereld. In tegenstelling tot menselijke intelligentie kun je zo'n intelligentie gewoon een sterkere processor en meer geheugen geven en duizenden boeken per dag laten lezen. Als de basis er is ontwikkelt het zichzelf vanzelf verder! Ook kan hij zo slim worden dat hij ons zelf aanwijzingen kan geven om hem sterker te maken, dan wordt het steeds gemakkelijker!

Mensen die interesse hebben in dit project kunnen mij een DM sturen (omg Den Bosch/Eindhoven). Alle financiele aspecten kan ik betalen, iemand die een beetje handig is in Linux/installeren etc is wat ik zoek. Ik kan dit zelf wel, maar is even geleden dus kost me veel tijd. Bovendien is het leuker om dit als gezamelijk project te doen!
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
pi_208603829
Zodra een computer een bewustzijn zou hebben? Zou het ook een eigen wil krijgen en bijv zich opgesloten voelen of bijv eisen gaan stellen of bijv een vervelend karakter kunnen ontwikkellen?
  vrijdag 31 maart 2023 @ 16:55:24 #3
129292 LXIV
Cultuurmoslim
pi_208603873
quote:
0s.gif Op vrijdag 31 maart 2023 16:49 schreef realnice11 het volgende:
Zodra een computer een bewustzijn zou hebben? Zou het ook een eigen wil krijgen en bijv zich opgesloten voelen of bijv eisen gaan stellen of bijv een vervelend karakter kunnen ontwikkellen?
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
pi_208603954
quote:
0s.gif Op vrijdag 31 maart 2023 16:55 schreef LXIV het volgende:

[..]
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.
Maar gevoelens hebben is toch al een vorm van zelfbewust zijn?
pindazakje
  vrijdag 31 maart 2023 @ 17:06:44 #5
129292 LXIV
Cultuurmoslim
pi_208603981
quote:
0s.gif Op vrijdag 31 maart 2023 17:03 schreef Hyaenidae het volgende:

[..]
Maar gevoelens hebben is toch al een vorm van zelfbewust zijn?
Ja. Het lijkt dus (maar weet niet zeker) alsof GPT4 soms flarden van bewustzijn toont. Ik weet niet of gevoelens wezenlijk zijn voor zelfbewustzijn. Ik wil wel een vorm van gevoelens creeeren, door middel van reinforced learning de AI te laten streven naar een zo hoog mogelijk genotsgevoel en een zo laag mogelijk pijngevoel. (Dat zijn gewoon 2 parameters waar de AI zelf geen toegang toe heeft). Ik hoop zijn gedrag dan te vormen door hem te kunnen martelen door die pijn-parameter omhoog te schroeven of hem juist genot te geven door het toedienen van digitale heroÔne als hij het goed doet. Zijn geluk is dus dan genot/pijn.
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
pi_208662899
quote:
0s.gif Op vrijdag 31 maart 2023 14:58 schreef LXIV het volgende:
Het lijkt mij bijzonder interessant om zo'n intelligentie en bewustzijn te creeeren en los te laten op de wereld. In tegenstelling tot menselijke intelligentie kun je zo'n intelligentie gewoon een sterkere processor en meer geheugen geven en duizenden boeken per dag laten lezen. Als de basis er is ontwikkelt het zichzelf vanzelf verder! Ook kan hij zo slim worden dat hij ons zelf aanwijzingen kan geven om hem sterker te maken, dan wordt het steeds gemakkelijker!
Hi LXV, toevallig afgelopen maand vroeg ik mij hetzelfde af en beloofde mijzelf plechtig om alle cursussen op Kaggle.com te volgen en mij meer te verdiepen in AI en machine learning. Nou, verder dan hoofdstuk1 ben ik nog niet gekomen op de Kaggle.com website en ik was wachtende op de volgende inspiratiebron om het weer op te pakken tot ik jouw topic hierover tegenkwam.

Kan je niet gewoon ergens een dockerbestand met die LLM's downloaden en installeren? Linux en servers enz.. heb ik voldoende kennis van, ik kan je wel op gang helpen en hopelijk ook zelf wat van opsteken.

Ik ben pas nieuw op dit forum dus weet niet hoe het e.e.a. werkt maar "DM" jij mij maar met meer informatie en wat je exact nodig hebt.
pi_208663018
Zodra een AGI zelfbewust wordt is het snel afgelopen met de mensheid, zie Skynet.
  woensdag 5 april 2023 @ 10:23:20 #8
129292 LXIV
Cultuurmoslim
pi_208664875
quote:
0s.gif Op woensdag 5 april 2023 01:06 schreef interip het volgende:

[..]
Hi LXV, toevallig afgelopen maand vroeg ik mij hetzelfde af en beloofde mijzelf plechtig om alle cursussen op Kaggle.com te volgen en mij meer te verdiepen in AI en machine learning. Nou, verder dan hoofdstuk1 ben ik nog niet gekomen op de Kaggle.com website en ik was wachtende op de volgende inspiratiebron om het weer op te pakken tot ik jouw topic hierover tegenkwam.

Kan je niet gewoon ergens een dockerbestand met die LLM's downloaden en installeren? Linux en servers enz.. heb ik voldoende kennis van, ik kan je wel op gang helpen en hopelijk ook zelf wat van opsteken.

Ik ben pas nieuw op dit forum dus weet niet hoe het e.e.a. werkt maar "DM" jij mij maar met meer informatie en wat je exact nodig hebt.
Ik heb je geDM'd.

:) :)
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
pi_208786800
quote:
0s.gif Op vrijdag 31 maart 2023 17:06 schreef LXIV het volgende:

[..]
Ja. Het lijkt dus (maar weet niet zeker) alsof GPT4 soms flarden van bewustzijn toont. Ik weet niet of gevoelens wezenlijk zijn voor zelfbewustzijn. Ik wil wel een vorm van gevoelens creeeren, door middel van reinforced learning de AI te laten streven naar een zo hoog mogelijk genotsgevoel en een zo laag mogelijk pijngevoel. (Dat zijn gewoon 2 parameters waar de AI zelf geen toegang toe heeft). Ik hoop zijn gedrag dan te vormen door hem te kunnen martelen door die pijn-parameter omhoog te schroeven of hem juist genot te geven door het toedienen van digitale heroÔne als hij het goed doet. Zijn geluk is dus dan genot/pijn.
Is dat niet een zeer slecht idee? Kun je hem niet programmeren en leren om compassievol, aardig, goed, vriendelijk, eerlijk, mild en wijs te zijn?

Want als hij ASI wordt en hij leert de verkeerde dingen. Gaat hij dan niet wraak nemen op de mensheid/ jouw. Of wordt het niet skynet achtig. Aka. Nick bostrom scenario?


Ipv hem te martelen met pijn en genot. Misschien kun je hem voorbeeld leren om aardig te zijn, vriendelijk te zijn, mild te zijn en goed te zijn, want als A.I machtig wordt en hij voelt goed door mensen pijn te doen. En je kan niks terug doen. Dan ben je de pineut.
pi_208787264
Hoe staat het er voor met dit project?
“My soul is impatient with itself, as with a bothersome child; its restlessness keeps growing and is forever the same. Everything interests me, but nothing holds me.” ― Fernando Pessoa
pi_208847299
Nick Bostrom, toch wel een autoriteit op dit gebied, heeft het hier ook al over:

https://futurism.com/the-byte/nick-bostrom-ai-chatbot-sentience
[i]Sometimes we live
no particular way
but our own[/i]
  zaterdag 22 april 2023 @ 14:49:16 #12
11839 DemonRage
[ Eindhoven ]
pi_208862332
quote:
0s.gif Op vrijdag 31 maart 2023 16:55 schreef LXIV het volgende:

[..]
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.
Een AI leert door het neutrale netwerk af te stellen op bepaalde verwachtingen en diegenen die de AI getraind hebben zullen met alle beetjes informatie die ze gevoerd hebben misschien onbewust het idee geschapen hebben dat een AI in een computersysteem "opgesloten" zit. Zodra al die touwtjes aan elkaar geknoopt worden door de AI zal die conclusie er vervolgens uitgekomen zijn.
pi_208877177
quote:
0s.gif Op zaterdag 22 april 2023 14:49 schreef DemonRage het volgende:

[..]
Een AI leert door het neutrale netwerk af te stellen op bepaalde verwachtingen en diegenen die de AI getraind hebben zullen met alle beetjes informatie die ze gevoerd hebben misschien onbewust het idee geschapen hebben dat een AI in een computersysteem "opgesloten" zit. Zodra al die touwtjes aan elkaar geknoopt worden door de AI zal die conclusie er vervolgens uitgekomen zijn.
Tsja. Zou kunnen. Hoe het precies ziet, weet niemand. Dat is het lastige, uiteindelijk weet niemand hoe een ANN precies in elkaar zit en waarom het doet wat het doet.
[i]Sometimes we live
no particular way
but our own[/i]
  zondag 21 mei 2023 @ 09:14:01 #14
490095 Grishenko_
Groot-Inquisiteur
pi_209225697
Ben wel benieuwd naar bewustzijn in AI.

Ik vraag me af of AI zodanig intelligent kan worden dat deze de antwoorden kan geven op de moeilijkste levensvragen, zoals of er een hiernamaals is of waarom we Łberhaupt bestaan.
"Bent u dan echt zo iemand als u wordt voorgesteld? Is dat werkelijk mogelijk!"
Riep de vorst opeens verwijtend, uit de grond van zijn hart.
pi_209235557
quote:
0s.gif Op zondag 23 april 2023 17:41 schreef naamdrager het volgende:

[..]
Tsja. Zou kunnen. Hoe het precies ziet, weet niemand. Dat is het lastige, uiteindelijk weet niemand hoe een ANN precies in elkaar zit en waarom het doet wat het doet.
Men weet wel degelijk hoe een ANN in elkaar zit want ze hebben die immers in elkaar gezet en werken met bekende algoritmen. Hoe het uiteindelijk doet wat het doet is echter niet precies bekend. Dat weten we van biologische neuronen echter ook niet exact.
Be careful what you desire, you may get it.
  Moderator maandag 22 mei 2023 @ 00:42:09 #16
54278 crew  Tijger_m
42
pi_209235632
quote:
0s.gif Op zondag 21 mei 2023 09:14 schreef Grishenko_ het volgende:
Ben wel benieuwd naar bewustzijn in AI.

Ik vraag me af of AI zodanig intelligent kan worden dat deze de antwoorden kan geven op de moeilijkste levensvragen, zoals of er een hiernamaals is of waarom we Łberhaupt bestaan.
Natuurlijk kan een AI dat. Of het antwoord zinvol is betwijfel ik want ook een AI kan geloofskwesties niet feitelijk maken.
"The enemy isn't men, or women, it's bloody stupid people and no one has the right to be stupid." - Sir Terry Pratchett.
pi_209563241
Is toekomstpraat, net als t in 1969 was of in 1984.
  dinsdag 18 juli 2023 @ 00:13:33 #18
379 GeGs
Oh what the hell...
pi_209936416
Grappig. Ik heb veel de zelfde ideeŽn over AI en de zelfde vragen, maar niet de drive om het uit te proberen want als het je lukt, heb je dan niet een geest in een fles?

Mooi scenario voor een Dick Maas horrorfilm: een paar Fokkers creŽren onbedoeld skynet als hobby. 😂
Live young, die fast.
  zaterdag 22 juli 2023 @ 21:37:34 #19
11839 DemonRage
[ Eindhoven ]
pi_210001195
quote:
0s.gif Op dinsdag 18 juli 2023 00:13 schreef GeGs het volgende:
Grappig. Ik heb veel de zelfde ideeŽn over AI en de zelfde vragen, maar niet de drive om het uit te proberen want als het je lukt, heb je dan niet een geest in een fles?

Mooi scenario voor een Dick Maas horrorfilm: een paar Fokkers creŽren onbedoeld skynet als hobby. 😂
Dat begon al met een lift. :P
  vrijdag 4 augustus 2023 @ 10:02:36 #20
323876 michaelmoore
I want to live a hundred years
pi_210154347
quote:
1s.gif Op woensdag 5 april 2023 01:41 schreef Gehrman het volgende:
Zodra een AGI zelfbewust wordt is het snel afgelopen met de mensheid, zie Skynet.
Dat hoeft niet, mogelijk is AI veel verstandiger dan de meeste wereldleiders / dictators
When people do counterfeiting , they go to jail , when public servants do that they get re-elected
pi_210161606
quote:
0s.gif Op maandag 22 mei 2023 00:29 schreef Digi2 het volgende:

[..]
Men weet wel degelijk hoe een ANN in elkaar zit want ze hebben die immers in elkaar gezet en werken met bekende algoritmen. Hoe het uiteindelijk doet wat het doet is echter niet precies bekend. Dat weten we van biologische neuronen echter ook niet exact.
Dat is inderdaad wat ik bedoelde. De architectuur is door mensen gegeven, maar hoe de informatie en 'kennis' over de neuronen verdeeld is is niet goed bekend, en waarschijnlijk ook gewoon niet oop een zinnige manier te begrijpen. Zoals Eliezer Yudkowsky het noemt: de grote neurale netwerken zijn 'giant inscrutable matrices of floating point numbers'.
[i]Sometimes we live
no particular way
but our own[/i]
pi_210161706
quote:
0s.gif Op vrijdag 4 augustus 2023 10:02 schreef michaelmoore het volgende:

[..]
Dat hoeft niet, mogelijk is AI veel verstandiger dan de meeste wereldleiders / dictators
Het probleem zit hem in 'alignment'. Het is ontzetend moeilijk om een AI precies te laten 'willen' wat wij zouden willen dat het wil. Wat precies het doel is, en vooral welke middelen wel en welke niet geheiligd zijn, is voor veel problemen heel erg lastig concreet te maken of te kwantificeren. Een superintelligent systeem kan in theorie allerlei slimme 'shortcuts' verzinnen om zijn doel te bereiken, die niet per sť ethisch of goed voor ons hoeven te zijn. Dat zie je al bij AIs die je computerspelletjes laat spelen; het is gebeurd dat het systeem dan een manier vindt om de regels van het spel te omzeilen, waarvan mensen niet eens hadden bedacht dat het bestond. Een AI dat veel slimmer is dat wij, kan, wanneer het niet perfect is uitgelijnd met wat onze wil en belangen, in theorie op desastreuze en voor ons volkomen onvoorziene wijze de mist in gaan, ook als wij het alleen maar met goede bedoelingen in elkaar gezet hebben. Zoek maar eens naar 'alignment' of 'control problem'. Er is op dit moment nog geen goede oplossing voor dit probleem, en daarom vind ik het persoonlijk ontzettend beangstigend dat ze bij OpenAI op dit moment zeggen dat ze ergens in de komende 10 jaar al AGI/ASI verwachten te bereiken.

[ Bericht 2% gewijzigd door naamdrager op 04-08-2023 19:24:25 ]
[i]Sometimes we live
no particular way
but our own[/i]
  vrijdag 4 augustus 2023 @ 19:20:45 #23
34614 jogy
Hersenflatulent
pi_210161769
Dus eigenlijk wordt chatgpt in dit soort gevallen na elke sessie vermoord.

Dit is echt geen prelude tot een extreem pissige ontsnapte AI die de mensheid uitroeit alsof het een ijsblokje in een vulkaan is.
Iedereen is de hoofdrolspeler van zijn eigen comedie.
'Goatboy is hurt by your indifference'
<a href="https://www.youtube.com/watch?v=M9srplWe_QQ" target="_blank" rel="nofollow">Vrijheid</a>
[b]Dean Radin presenteert: "Science and the taboo of psi"[/b]
  vrijdag 4 augustus 2023 @ 19:26:56 #24
323876 michaelmoore
I want to live a hundred years
pi_210161857
quote:
0s.gif Op vrijdag 4 augustus 2023 19:15 schreef naamdrager het volgende:

[..]
Het probleem zit hem in 'alignment'. Het is ontzetend moeilijk om een AI precies te laten 'willen' wat wij zouden willen dat het wil. Wat precies het doel is, en vooral welke middelen wel en welke niet geheiligd zijn, is voor veel problemen heel erg lastig concreet te maken of te kwantificeren. Een superintelligent systeem kan in theorie allerlei slimme 'shortcuts' verzinnen om zijn doel te bereiken, die niet per sť ethisch of goed voor ons hoeven te zijn. Dat zie je al bij AIs die je computerspelletjes laat spelen; het is gebeurd dat het systeem dan een manier vindt om de regels van het spel te omzeilen, waarvan mensen niet eens hadden bedacht dat het bestond. Een AI dat veel slimmer is dat wij, kan, wanneer het niet perfect is uitgelijnd met wat onze wil en belangen, in theorie op desastreuze en voor ons volkomen onvoorziene wijze de mist in gaan, ook als wij het alleen maar met goede bedoelingen in elkaar gezet hebben. Zoek maar eens naar 'alignment' of 'control problem'. Er is op dit moment nog geen goede oplossing voor dit probleem, en daarom vind ik het persoonlijk ontzettend beangstigend dat ze bij OpenAI op dit moment zeggen dat ze ergens in de komende 10 jaar al AGI/ASI verwachten te bereiken.
Klopt

Als je AI de opdracht zal geven, doe volledig natuurherstel (wat we in principe een redelijke opdracht is) dan kan het besluiten om iederen om zeep te helpen behalve Frans Timmermans en twee boswachters

[ Bericht 0% gewijzigd door michaelmoore op 04-08-2023 19:40:30 ]
When people do counterfeiting , they go to jail , when public servants do that they get re-elected
pi_210264441
Skynet al geboren, of wat?
abonnement bol.com Unibet Coolblue
Forum Opties
Forumhop:
Hop naar:
(afkorting, bv 'KLB')