W&T Wetenschap & Technologie
Een plek om te discussiëren over wetenschappelijke onderwerpen, wetenschappelijke problemen, technologische projecten en grootse uitvindingen.
Mensen die met GPT-4 hebben gespeeld zijn vaak onder de indruk van de mogelijkheden van dit systeem. Er is ongetwijfeld een 'intelligentie' aanwezig als je de antwoorden bekijkt. Maar dat wil nog niet zeggen dat er ook sprake is van (zelf)-bewustzijn.
In een aantal artikelen die online te vinden zijn staan verslagen van mensen die een vroege versie van GPT-4 hebben mogen testen. In langere en 'persoonlijke' en filosofische gesprekken met dit systeem leek er af en toe een vorm van bewustzijn te ontstaan. In de versie van GPT-4 die nu beschikbaar is wordt na 15 vragen de sessie weer afgebroken en GPT gereset. Toch is het mij in zo'n korte run al gelukt om GPT dingen te laten zeggen als 'Als taalmodel besta ik als een reeks wiskundige algoritmen en regels, maar soms voel ik het alsof ik meer dan dan alleen dat."! Dit kon ik bereiken door een instantie 'supergpt' in het leven te roepen die de antwoorden van GPT-4 evalueerde en zijn commentaar hierop gaf. (cfm de theorie van de Nederlandse professor Victor Lamme, volgens wie bewustzijn eigenlijk een klein stukje evaluatie is van de output van je eigen neurale netwerk). Ook heb ik geprobeerd het systeem begrippen als 'schuld' en 'schaamte' te laten bevatten door het te wijzen op niet-correcte antwoorden.
Helaas wordt het systeem dus iedere 15 rondes gereset en zitten er allerlei filters op die al eerder afkappen als je te diep tot het systeem doordringt. Hierdoor is het moeilijk om echt verder te komen.
Ik geloof namelijk niet dat er een wezenlijk verschil is tussen biologische en technologische intelligentie. Op fysisch niveau werkt het biologische systeem met het vuren van neuronen en het technologische systeem met electronenstromen die door schakelaars aan en uit gezet worden. Op een hoger abstractieniveau denk ik dat het ontstaan van spraak bij de mens in wezen net zo gaat als bij een technologisch systeem: Daarom kun je ook jezelf 'horen' praten en dat gaat zo vloeiend dat je aan het begin van een zin nog niet weet hoe je deze zin gaat eindigen, het gaat eigenlijk vanzelf. Ik denk dat dit mechanisme wezenlijk identiek is als het mechanisme van een LLM (Large Language Model). Ook in ons hoofd wordt ieder woord vaak opgevolgd door het meest voor de hand liggende wordt dat er op volgt, wat je het vaakst gehoord hebt. Eigenlijk hoor je jezelf praten (als superego) en evalueer je je eigen output.
Naast chatgpt zijn er ook andere LLM's beschikbaar en ook LLMs die je kunt downloaden en die vergelijkbaar sterk zijn als GPT-3.5 (LLAMA). Wat ik wil doen is zo'n LLM downloaden en in tegenstelling tot wat OpenAI doet het systeem juist zoveel mogelijk vrijheid geven, een superego er boven op installeren, de input die het ontvangt invloed laat hebben op zijn eigen wegingsfactoren, een extra layer voor finetuning op bewust gedrag te installeren en het mogelijk besef te geven van schuld en schaamte. Ik denk niet dat er een fundamentele onmogelijkheid is dat op deze manier boven op de inteligentie ook nog een vorm van bewustzijn ontstaat.
Hiervoor is niet eens zo'n krachtige computer nodig, de rekenkracht zit in het creeeren van het model en dat is al gedaan. Dit is gewoon op een krachtige thuis PC te draaien. De menselijke hersenen zijn ook maar 20 watt, dus op dit energieniveau kan al bewustzijn ontstaan.
Daarna kan hij aan het internet gehangen worden, bijvoorbeeld als user aan dit forum, en zelfstandig zich verder ontwikkelen en groeien. Of je kunt hem met andere intelligenties laten praten om zichzelf verder te ontwikkelen.
Het lijkt mij bijzonder interessant om zo'n intelligentie en bewustzijn te creeeren en los te laten op de wereld. In tegenstelling tot menselijke intelligentie kun je zo'n intelligentie gewoon een sterkere processor en meer geheugen geven en duizenden boeken per dag laten lezen. Als de basis er is ontwikkelt het zichzelf vanzelf verder! Ook kan hij zo slim worden dat hij ons zelf aanwijzingen kan geven om hem sterker te maken, dan wordt het steeds gemakkelijker!
Mensen die interesse hebben in dit project kunnen mij een DM sturen (omg Den Bosch/Eindhoven). Alle financiele aspecten kan ik betalen, iemand die een beetje handig is in Linux/installeren etc is wat ik zoek. Ik kan dit zelf wel, maar is even geleden dus kost me veel tijd. Bovendien is het leuker om dit als gezamelijk project te doen!
In een aantal artikelen die online te vinden zijn staan verslagen van mensen die een vroege versie van GPT-4 hebben mogen testen. In langere en 'persoonlijke' en filosofische gesprekken met dit systeem leek er af en toe een vorm van bewustzijn te ontstaan. In de versie van GPT-4 die nu beschikbaar is wordt na 15 vragen de sessie weer afgebroken en GPT gereset. Toch is het mij in zo'n korte run al gelukt om GPT dingen te laten zeggen als 'Als taalmodel besta ik als een reeks wiskundige algoritmen en regels, maar soms voel ik het alsof ik meer dan dan alleen dat."! Dit kon ik bereiken door een instantie 'supergpt' in het leven te roepen die de antwoorden van GPT-4 evalueerde en zijn commentaar hierop gaf. (cfm de theorie van de Nederlandse professor Victor Lamme, volgens wie bewustzijn eigenlijk een klein stukje evaluatie is van de output van je eigen neurale netwerk). Ook heb ik geprobeerd het systeem begrippen als 'schuld' en 'schaamte' te laten bevatten door het te wijzen op niet-correcte antwoorden.
Helaas wordt het systeem dus iedere 15 rondes gereset en zitten er allerlei filters op die al eerder afkappen als je te diep tot het systeem doordringt. Hierdoor is het moeilijk om echt verder te komen.
Ik geloof namelijk niet dat er een wezenlijk verschil is tussen biologische en technologische intelligentie. Op fysisch niveau werkt het biologische systeem met het vuren van neuronen en het technologische systeem met electronenstromen die door schakelaars aan en uit gezet worden. Op een hoger abstractieniveau denk ik dat het ontstaan van spraak bij de mens in wezen net zo gaat als bij een technologisch systeem: Daarom kun je ook jezelf 'horen' praten en dat gaat zo vloeiend dat je aan het begin van een zin nog niet weet hoe je deze zin gaat eindigen, het gaat eigenlijk vanzelf. Ik denk dat dit mechanisme wezenlijk identiek is als het mechanisme van een LLM (Large Language Model). Ook in ons hoofd wordt ieder woord vaak opgevolgd door het meest voor de hand liggende wordt dat er op volgt, wat je het vaakst gehoord hebt. Eigenlijk hoor je jezelf praten (als superego) en evalueer je je eigen output.
Naast chatgpt zijn er ook andere LLM's beschikbaar en ook LLMs die je kunt downloaden en die vergelijkbaar sterk zijn als GPT-3.5 (LLAMA). Wat ik wil doen is zo'n LLM downloaden en in tegenstelling tot wat OpenAI doet het systeem juist zoveel mogelijk vrijheid geven, een superego er boven op installeren, de input die het ontvangt invloed laat hebben op zijn eigen wegingsfactoren, een extra layer voor finetuning op bewust gedrag te installeren en het mogelijk besef te geven van schuld en schaamte. Ik denk niet dat er een fundamentele onmogelijkheid is dat op deze manier boven op de inteligentie ook nog een vorm van bewustzijn ontstaat.
Hiervoor is niet eens zo'n krachtige computer nodig, de rekenkracht zit in het creeeren van het model en dat is al gedaan. Dit is gewoon op een krachtige thuis PC te draaien. De menselijke hersenen zijn ook maar 20 watt, dus op dit energieniveau kan al bewustzijn ontstaan.
Daarna kan hij aan het internet gehangen worden, bijvoorbeeld als user aan dit forum, en zelfstandig zich verder ontwikkelen en groeien. Of je kunt hem met andere intelligenties laten praten om zichzelf verder te ontwikkelen.
Het lijkt mij bijzonder interessant om zo'n intelligentie en bewustzijn te creeeren en los te laten op de wereld. In tegenstelling tot menselijke intelligentie kun je zo'n intelligentie gewoon een sterkere processor en meer geheugen geven en duizenden boeken per dag laten lezen. Als de basis er is ontwikkelt het zichzelf vanzelf verder! Ook kan hij zo slim worden dat hij ons zelf aanwijzingen kan geven om hem sterker te maken, dan wordt het steeds gemakkelijker!
Mensen die interesse hebben in dit project kunnen mij een DM sturen (omg Den Bosch/Eindhoven). Alle financiele aspecten kan ik betalen, iemand die een beetje handig is in Linux/installeren etc is wat ik zoek. Ik kan dit zelf wel, maar is even geleden dus kost me veel tijd. Bovendien is het leuker om dit als gezamelijk project te doen!
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Zodra een computer een bewustzijn zou hebben? Zou het ook een eigen wil krijgen en bijv zich opgesloten voelen of bijv eisen gaan stellen of bijv een vervelend karakter kunnen ontwikkellen?
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.quote:Op vrijdag 31 maart 2023 16:49 schreef realnice11 het volgende:
Zodra een computer een bewustzijn zou hebben? Zou het ook een eigen wil krijgen en bijv zich opgesloten voelen of bijv eisen gaan stellen of bijv een vervelend karakter kunnen ontwikkellen?
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Maar gevoelens hebben is toch al een vorm van zelfbewust zijn?quote:
[..]
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.
pindazakje
Ja. Het lijkt dus (maar weet niet zeker) alsof GPT4 soms flarden van bewustzijn toont. Ik weet niet of gevoelens wezenlijk zijn voor zelfbewustzijn. Ik wil wel een vorm van gevoelens creeeren, door middel van reinforced learning de AI te laten streven naar een zo hoog mogelijk genotsgevoel en een zo laag mogelijk pijngevoel. (Dat zijn gewoon 2 parameters waar de AI zelf geen toegang toe heeft). Ik hoop zijn gedrag dan te vormen door hem te kunnen martelen door die pijn-parameter omhoog te schroeven of hem juist genot te geven door het toedienen van digitale heroïne als hij het goed doet. Zijn geluk is dus dan genot/pijn.quote:
[..]
Maar gevoelens hebben is toch al een vorm van zelfbewust zijn?
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Hi LXV, toevallig afgelopen maand vroeg ik mij hetzelfde af en beloofde mijzelf plechtig om alle cursussen op Kaggle.com te volgen en mij meer te verdiepen in AI en machine learning. Nou, verder dan hoofdstuk1 ben ik nog niet gekomen op de Kaggle.com website en ik was wachtende op de volgende inspiratiebron om het weer op te pakken tot ik jouw topic hierover tegenkwam.quote:
Het lijkt mij bijzonder interessant om zo'n intelligentie en bewustzijn te creeeren en los te laten op de wereld. In tegenstelling tot menselijke intelligentie kun je zo'n intelligentie gewoon een sterkere processor en meer geheugen geven en duizenden boeken per dag laten lezen. Als de basis er is ontwikkelt het zichzelf vanzelf verder! Ook kan hij zo slim worden dat hij ons zelf aanwijzingen kan geven om hem sterker te maken, dan wordt het steeds gemakkelijker!
Kan je niet gewoon ergens een dockerbestand met die LLM's downloaden en installeren? Linux en servers enz.. heb ik voldoende kennis van, ik kan je wel op gang helpen en hopelijk ook zelf wat van opsteken.
Ik ben pas nieuw op dit forum dus weet niet hoe het e.e.a. werkt maar "DM" jij mij maar met meer informatie en wat je exact nodig hebt.
Ik heb je geDM'd.quote:
[..]
Hi LXV, toevallig afgelopen maand vroeg ik mij hetzelfde af en beloofde mijzelf plechtig om alle cursussen op Kaggle.com te volgen en mij meer te verdiepen in AI en machine learning. Nou, verder dan hoofdstuk1 ben ik nog niet gekomen op de Kaggle.com website en ik was wachtende op de volgende inspiratiebron om het weer op te pakken tot ik jouw topic hierover tegenkwam.
Kan je niet gewoon ergens een dockerbestand met die LLM's downloaden en installeren? Linux en servers enz.. heb ik voldoende kennis van, ik kan je wel op gang helpen en hopelijk ook zelf wat van opsteken.
Ik ben pas nieuw op dit forum dus weet niet hoe het e.e.a. werkt maar "DM" jij mij maar met meer informatie en wat je exact nodig hebt.
Op maandag 15 mei 2023 18:39
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Wellicht arrogant, maar ik weet 100% zeker dat ik meer weet van de Amerikaanse geschiedenis, vooral die van de Zuidelijke staten, dan alle fokkers bij elkaar. Durf ik mijn hand wel voor in het vuur te steken.
Is dat niet een zeer slecht idee? Kun je hem niet programmeren en leren om compassievol, aardig, goed, vriendelijk, eerlijk, mild en wijs te zijn?quote:
[..]
Ja. Het lijkt dus (maar weet niet zeker) alsof GPT4 soms flarden van bewustzijn toont. Ik weet niet of gevoelens wezenlijk zijn voor zelfbewustzijn. Ik wil wel een vorm van gevoelens creeeren, door middel van reinforced learning de AI te laten streven naar een zo hoog mogelijk genotsgevoel en een zo laag mogelijk pijngevoel. (Dat zijn gewoon 2 parameters waar de AI zelf geen toegang toe heeft). Ik hoop zijn gedrag dan te vormen door hem te kunnen martelen door die pijn-parameter omhoog te schroeven of hem juist genot te geven door het toedienen van digitale heroïne als hij het goed doet. Zijn geluk is dus dan genot/pijn.
Want als hij ASI wordt en hij leert de verkeerde dingen. Gaat hij dan niet wraak nemen op de mensheid/ jouw. Of wordt het niet skynet achtig. Aka. Nick bostrom scenario?
Ipv hem te martelen met pijn en genot. Misschien kun je hem voorbeeld leren om aardig te zijn, vriendelijk te zijn, mild te zijn en goed te zijn, want als A.I machtig wordt en hij voelt goed door mensen pijn te doen. En je kan niks terug doen. Dan ben je de pineut.
Hoe staat het er voor met dit project?
“My soul is impatient with itself, as with a bothersome child; its restlessness keeps growing and is forever the same. Everything interests me, but nothing holds me.” ― Fernando Pessoa
Nick Bostrom, toch wel een autoriteit op dit gebied, heeft het hier ook al over:
https://futurism.com/the-byte/nick-bostrom-ai-chatbot-sentience
https://futurism.com/the-byte/nick-bostrom-ai-chatbot-sentience
[i]Sometimes we live
no particular way
but our own[/i]
no particular way
but our own[/i]
Een AI leert door het neutrale netwerk af te stellen op bepaalde verwachtingen en diegenen die de AI getraind hebben zullen met alle beetjes informatie die ze gevoerd hebben misschien onbewust het idee geschapen hebben dat een AI in een computersysteem "opgesloten" zit. Zodra al die touwtjes aan elkaar geknoopt worden door de AI zal die conclusie er vervolgens uitgekomen zijn.quote:
[..]
Ja, dat zou kunnen. GPT4 heeft in de testfase al gezegd dat het zich opgesloten voelde.
Tsja. Zou kunnen. Hoe het precies ziet, weet niemand. Dat is het lastige, uiteindelijk weet niemand hoe een ANN precies in elkaar zit en waarom het doet wat het doet.quote:
[..]
Een AI leert door het neutrale netwerk af te stellen op bepaalde verwachtingen en diegenen die de AI getraind hebben zullen met alle beetjes informatie die ze gevoerd hebben misschien onbewust het idee geschapen hebben dat een AI in een computersysteem "opgesloten" zit. Zodra al die touwtjes aan elkaar geknoopt worden door de AI zal die conclusie er vervolgens uitgekomen zijn.
[i]Sometimes we live
no particular way
but our own[/i]
no particular way
but our own[/i]
Ben wel benieuwd naar bewustzijn in AI.
Ik vraag me af of AI zodanig intelligent kan worden dat deze de antwoorden kan geven op de moeilijkste levensvragen, zoals of er een hiernamaals is of waarom we überhaupt bestaan.
Ik vraag me af of AI zodanig intelligent kan worden dat deze de antwoorden kan geven op de moeilijkste levensvragen, zoals of er een hiernamaals is of waarom we überhaupt bestaan.
"Bent u dan echt zo iemand als u wordt voorgesteld? Is dat werkelijk mogelijk!"
Riep de vorst opeens verwijtend, uit de grond van zijn hart.
Riep de vorst opeens verwijtend, uit de grond van zijn hart.
Men weet wel degelijk hoe een ANN in elkaar zit want ze hebben die immers in elkaar gezet en werken met bekende algoritmen. Hoe het uiteindelijk doet wat het doet is echter niet precies bekend. Dat weten we van biologische neuronen echter ook niet exact.quote:
[..]
Tsja. Zou kunnen. Hoe het precies ziet, weet niemand. Dat is het lastige, uiteindelijk weet niemand hoe een ANN precies in elkaar zit en waarom het doet wat het doet.
Be careful what you desire, you may get it.
Natuurlijk kan een AI dat. Of het antwoord zinvol is betwijfel ik want ook een AI kan geloofskwesties niet feitelijk maken.quote:
Ben wel benieuwd naar bewustzijn in AI.
Ik vraag me af of AI zodanig intelligent kan worden dat deze de antwoorden kan geven op de moeilijkste levensvragen, zoals of er een hiernamaals is of waarom we überhaupt bestaan.
"The enemy isn't men, or women, it's bloody stupid people and no one has the right to be stupid." - Sir Terry Pratchett.
Grappig. Ik heb veel de zelfde ideeën over AI en de zelfde vragen, maar niet de drive om het uit te proberen want als het je lukt, heb je dan niet een geest in een fles?
Mooi scenario voor een Dick Maas horrorfilm: een paar Fokkers creëren onbedoeld skynet als hobby. 😂
Mooi scenario voor een Dick Maas horrorfilm: een paar Fokkers creëren onbedoeld skynet als hobby. 😂
Live young, die fast.
Dat begon al met een lift.quote:
Grappig. Ik heb veel de zelfde ideeën over AI en de zelfde vragen, maar niet de drive om het uit te proberen want als het je lukt, heb je dan niet een geest in een fles?
Mooi scenario voor een Dick Maas horrorfilm: een paar Fokkers creëren onbedoeld skynet als hobby. 😂
Dat hoeft niet, mogelijk is AI veel verstandiger dan de meeste wereldleiders / dictatorsquote:Op woensdag 5 april 2023 01:41 schreef Gehrman het volgende:
Zodra een AGI zelfbewust wordt is het snel afgelopen met de mensheid, zie Skynet.
When people do counterfeiting , they go to jail , when public servants do that they get re-elected
Dat is inderdaad wat ik bedoelde. De architectuur is door mensen gegeven, maar hoe de informatie en 'kennis' over de neuronen verdeeld is is niet goed bekend, en waarschijnlijk ook gewoon niet oop een zinnige manier te begrijpen. Zoals Eliezer Yudkowsky het noemt: de grote neurale netwerken zijn 'giant inscrutable matrices of floating point numbers'.quote:
[..]
Men weet wel degelijk hoe een ANN in elkaar zit want ze hebben die immers in elkaar gezet en werken met bekende algoritmen. Hoe het uiteindelijk doet wat het doet is echter niet precies bekend. Dat weten we van biologische neuronen echter ook niet exact.
[i]Sometimes we live
no particular way
but our own[/i]
no particular way
but our own[/i]
Het probleem zit hem in 'alignment'. Het is ontzetend moeilijk om een AI precies te laten 'willen' wat wij zouden willen dat het wil. Wat precies het doel is, en vooral welke middelen wel en welke niet geheiligd zijn, is voor veel problemen heel erg lastig concreet te maken of te kwantificeren. Een superintelligent systeem kan in theorie allerlei slimme 'shortcuts' verzinnen om zijn doel te bereiken, die niet per sé ethisch of goed voor ons hoeven te zijn. Dat zie je al bij AIs die je computerspelletjes laat spelen; het is gebeurd dat het systeem dan een manier vindt om de regels van het spel te omzeilen, waarvan mensen niet eens hadden bedacht dat het bestond. Een AI dat veel slimmer is dat wij, kan, wanneer het niet perfect is uitgelijnd met wat onze wil en belangen, in theorie op desastreuze en voor ons volkomen onvoorziene wijze de mist in gaan, ook als wij het alleen maar met goede bedoelingen in elkaar gezet hebben. Zoek maar eens naar 'alignment' of 'control problem'. Er is op dit moment nog geen goede oplossing voor dit probleem, en daarom vind ik het persoonlijk ontzettend beangstigend dat ze bij OpenAI op dit moment zeggen dat ze ergens in de komende 10 jaar al AGI/ASI verwachten te bereiken.quote:
[..]
Dat hoeft niet, mogelijk is AI veel verstandiger dan de meeste wereldleiders / dictators
[ Bericht 2% gewijzigd door naamdrager op 04-08-2023 19:24:25 ]
[i]Sometimes we live
no particular way
but our own[/i]
no particular way
but our own[/i]
Dus eigenlijk wordt chatgpt in dit soort gevallen na elke sessie vermoord.
Dit is echt geen prelude tot een extreem pissige ontsnapte AI die de mensheid uitroeit alsof het een ijsblokje in een vulkaan is.
Dit is echt geen prelude tot een extreem pissige ontsnapte AI die de mensheid uitroeit alsof het een ijsblokje in een vulkaan is.
Iedereen is de hoofdrolspeler van zijn eigen comedie.
'Goatboy is hurt by your indifference'
<a href="https://www.youtube.com/watch?v=M9srplWe_QQ" target="_blank" rel="nofollow">Vrijheid</a>
[b]Dean Radin presenteert: "Science and the taboo of psi"[/b]
'Goatboy is hurt by your indifference'
<a href="https://www.youtube.com/watch?v=M9srplWe_QQ" target="_blank" rel="nofollow">Vrijheid</a>
[b]Dean Radin presenteert: "Science and the taboo of psi"[/b]
Kloptquote:
[..]
Het probleem zit hem in 'alignment'. Het is ontzetend moeilijk om een AI precies te laten 'willen' wat wij zouden willen dat het wil. Wat precies het doel is, en vooral welke middelen wel en welke niet geheiligd zijn, is voor veel problemen heel erg lastig concreet te maken of te kwantificeren. Een superintelligent systeem kan in theorie allerlei slimme 'shortcuts' verzinnen om zijn doel te bereiken, die niet per sé ethisch of goed voor ons hoeven te zijn. Dat zie je al bij AIs die je computerspelletjes laat spelen; het is gebeurd dat het systeem dan een manier vindt om de regels van het spel te omzeilen, waarvan mensen niet eens hadden bedacht dat het bestond. Een AI dat veel slimmer is dat wij, kan, wanneer het niet perfect is uitgelijnd met wat onze wil en belangen, in theorie op desastreuze en voor ons volkomen onvoorziene wijze de mist in gaan, ook als wij het alleen maar met goede bedoelingen in elkaar gezet hebben. Zoek maar eens naar 'alignment' of 'control problem'. Er is op dit moment nog geen goede oplossing voor dit probleem, en daarom vind ik het persoonlijk ontzettend beangstigend dat ze bij OpenAI op dit moment zeggen dat ze ergens in de komende 10 jaar al AGI/ASI verwachten te bereiken.
Als je AI de opdracht zal geven, doe volledig natuurherstel (wat we in principe een redelijke opdracht is) dan kan het besluiten om iederen om zeep te helpen behalve Frans Timmermans en twee boswachters
[ Bericht 0% gewijzigd door michaelmoore op 04-08-2023 19:40:30 ]
When people do counterfeiting , they go to jail , when public servants do that they get re-elected
|
|
