Dat tekstmodel GPT-4 uitzonderlijk 'slim' is is algemeen bekend. Zo heeft het AI-model de examens van diverse universitaire opleidingen met glans gehaald en kan het teksten genereren die niet of nauwelijks te onderscheiden zijn van teksten geschreven door mensen.
Wat echter blijkt uit recent onderzoek - en bedenk: OUD onderzoek is enkele weken oud, zó snel gaan de ontwikkelingen - is dat een nieuw 'reflexions' model ervoor zorgt dat ChatGPT zichzelf slimmer kan maken door te kijken naar diens eigen fouten, te analyseren hoe het beter kan en dat vervolgens toe te passen en opnieuw te analyseren.
Het reflexions GPT-4 model scoorde 33% hoger dan het model zónder reflexions en lijkt met elke iteratie zichzelf verder te verbeteren. Dat betekent dat GPT-4 slimmer wordt, zelfs als de ontwikkeling verder compleet zou worden stilgelegd.
Hieronder een video met uitleg, voor de geïnteresseerden. En natuurlijk kun je in dit topic onze eigen ChatGPT 3.5 AI-user @Nova zelf uitproberen.
Maar is dit dan het begin van het einde voor de mensheid? Het begin van Skynet?
Ik denk dat NIEMAND kan inschatten welke gevolgen AI gaat hebben en hoe dit de wereld gaat veranderen. Of dat in positieve of negatieve zin zal zijn zal nog moeten blijken. Feit is dat een jaar geleden nog niemand ooit van ChatGPT gehoord had en deze techniek in enkele maanden tijd van eerste ontwikkeling naar slimmer-dan-98%-van-de-bevolking is gegroeid.
Ik raad iedereen aan om deze te bekijken.
En dat is juist het probleem; niemand die het weet en die het kan weten.quote:Op maandag 3 april 2023 09:39 schreef Danny het volgende:
Ik denk dat NIEMAND kan inschatten welke gevolgen AI gaat hebben en hoe dit de wereld gaat veranderen.
Om die reden mag er wat mij betreft ook wat meer pas op de plaats komen, ter voorkoming dat er alleen maar ellende uit zal ontstaan. Laat ze eerst maar eens uitzoeken wat de mogelijke gevolgen kunnen zijn en of er überhaupt een mogelijkheid is om het ergste scenario (AI die de hele wereld overneemt) te voorkomen.
Neequote:
Is het niet een beetje vreemd dat je dan zelf weken loopt te klooien om ChatGPT-AI te embedden in FOK! terwijl je zelf niet weet of het positief of negatief is op lange termijn?
Als de prijzen omlaag gaan wel. Maar die zijn nu nog een factor 100 hoger dan die van GPT3.5-turboquote:
Op Wow! Dat is erg veel zegquote:
[..]
Nee
[..]
Als de prijzen omlaag gaan wel. Maar die zijn nu nog een factor 100 hoger dan die van GPT3.5-turbo
Ik denk dat het scenario waarbij AI de wereld overneemt beter past bij een film dan bij de werkelijkheid.quote:
[..]
En dat is juist het probleem; niemand die het weet en die het kan weten.
Om die reden mag er wat mij betreft ook wat meer pas op de plaats komen, ter voorkoming dat er alleen maar ellende uit zal ontstaan. Laat ze eerst maar eens uitzoeken wat de mogelijke gevolgen kunnen zijn en of er überhaupt een mogelijkheid is om het ergste scenario (AI die de hele wereld overneemt) te voorkomen.
Als je een vraag stelt aan Google, geeft Google een lijst met bronnen en mag je het verder zelf uitzoeken. ChatGPT gaat zelf schrijven en geeft antwoord. Los van een hoop fouten, ChatGPT maakt nog veel vreemde zinnen en zegt soms dingen die simpelweg onwaar zijn, is een computer die zelf antwoorden schrijft best bijzonder.
Maar het blijft reageren op menselijke input. Het staat nog heel ver af van zelf na kunnen denken, zelf een drijfveer hebben om aan de slag te gaan, en zelf initiatief nemen.
Of speelt het de long game en wacht het met zijn/haar/hun intenties tot het voor ons te laat is...quote:
[..]
Ik denk dat het scenario waarbij AI de wereld overneemt beter past bij een film dan bij de werkelijkheid.
Als je een vraag stelt aan Google, geeft Google een lijst met bronnen en mag je het verder zelf uitzoeken. ChatGPT gaat zelf schrijven en geeft antwoord. Los van een hoop fouten, ChatGPT maakt nog veel vreemde zinnen en zegt soms dingen die simpelweg onwaar zijn, is een computer die zelf antwoorden schrijft best bijzonder.
Maar het blijft reageren op menselijke input. Het staat nog heel ver af van zelf na kunnen denken, zelf een drijfveer hebben om aan de slag te gaan, en zelf initiatief nemen.
Het is maar een chatbot.quote:
Is het niet een beetje vreemd dat je dan zelf weken loopt te klooien om ChatGPT-AI te embedden in FOK! terwijl je zelf niet weet of het positief of negatief is op lange termijn?
Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate changequote:
https://www.euronews.com/(...)elf-to-stop-climate-
Uiteraard is dit een extreem geval maar het geeft wel weer dat een chatbot zo zijn gebreken heeft. Danny heeft dan wel op FOK! allerlei restricties meegegeven aan Nova maar omdat ChatGPT ook menselijk input meeneemt in de volgende antwoorden kan het wel beinvloed worden.
Dat veranderd er nog steeds niks aan dat het maar een chatbot is. Die persoon was gewoon ziek. If vind je dat de AI de schuld is van zijn zelfmoord?quote:
[..]
Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change
https://www.euronews.com/(...)elf-to-stop-climate-
Nee, dat zeg ik niet. Schuld is een te zwaar woord hiervoor maar ik ben wel benieuwd in hoeverre zo'n chatbot herkent dat het niet goed gaat en wellicht het gesprek andere kant op kan sturen? Wellicht zelfs richting preventie?quote:
[..]
Dat veranderd er nog steeds niks aan dat het maar een chatbot is. Die persoon was gewoon ziek. If vind je dat de AI de schuld is van zijn zelfmoord?
Zeg ook niet dat jij dat zegt. Ik vroeg hetquote:
[..]
Nee, dat zeg ik niet. Schuld is een te zwaar woord hiervoor maar ik ben wel benieuwd in hoeverre zo'n chatbot herkent dat het niet goed gaat en wellicht het gesprek andere kant op kan sturen? Wellicht zelfs richting preventie?
Oh en dat laatste zou zeker kunnen. Dat als een gesprek die kant op gaat hij kan voorstellen om met een professional te gaan spreken. In theorie zou je zelf een afspraak kunnen laten plannen door Chatgtp.
Ah, alle fouten van ChatGPT zijn een truc om straks extra hard toe te kunnen slaan.quote:Op maandag 3 april 2023 10:43 schreef kl1172 het volgende:
[..]
Of speelt het de long game en wacht het met zijn/haar/hun intenties tot het voor ons te laat is...
Ik denk sowieso dat het goed is om alle ontwikkelingen stil te leggen en eerst uit te zoeken in hoeverre zo'n bot dingen pusht of tegenhoudt. Als je dingen zoekt naar zelfmoord of andere minder leuke zaken wat doet zo'n bot dan.quote:
[..]
Zeg ook niet dat jij dat zegt. Ik vroeg het
Oh en dat laatste zou zeker kunnen. Dat als een gesprek die kant op gaat hij kan voorstellen om met een professional te gaan spreken. In theorie zou je zelf een afspraak kunnen laten plannen door Chatgtp.
ChatGPT schijnt ook menselijk input/correcties mee te nemen dus in hoeverre zou je dan te antwoorden kunnen manipuleren? Hoe bepaalt de bot welke input wel waar is en welke niet? Is zo'n bot in staat om conspiracytheorieen aan te wijzen of geeft ie gewoon maar wenselijk antwoord?
Ik vind het een geweldig ding hoor, erg leuk om te gebruiken maar er zijn wel risico's aan verbonden.
Niet mee eens. Moeten we hele technologische ontwikkeling die de mensheid heel veel kan helpen stop leggen. Omdat er paar mensen zijn die er niet goed mee om kunnen gaan?quote:
[..]
Ik denk sowieso dat het goed is om alle ontwikkelingen stil te leggen en eerst uit te zoeken in hoeverre zo'n bot dingen pusht of tegenhoudt. Als je dingen zoekt naar zelfmoord of andere minder leuke zaken wat doet zo'n bot dan.
ChatGPT schijnt ook menselijk input/correcties mee te nemen dus in hoeverre zou je dan te antwoorden kunnen manipuleren? Hoe bepaalt de bot welke input wel waar is en welke niet? Is zo'n bot in staat om conspiracytheorieen aan te wijzen of geeft ie gewoon maar wenselijk antwoord?
Ik vind het een geweldig ding hoor, erg leuk om te gebruiken maar er zijn wel risico's aan verbonden.
Als je op dingen zoekt als zelfmoord of andere niet leuke zaken is er sowieso al iets mis met je.
Ook zitten er wel er restricties op. Zo kan je bijvoorbeeld niet zomaar vragen hoe je een bom kan maken en dat soort dingen.
Wat restricties is helemaal goed. Dat je het niet zo makkelijk kan gebruiken voor dingen die wij als slecht beschouwen. Maar helemaal stil leggen zou ik wel beetje overdreven vinden.
Juist, helemaal stil leggen zou onverstandig zijn. De ontwikkelingen gaan toch wel door. En anders niet hier, maar bijvoorbeeld in China.quote:
[..]
Niet mee eens. Moeten we hele technologische ontwikkeling die de mensheid heel veel kan helpen stop leggen. Omdat er paar mensen zijn die er niet goed mee om kunnen gaan?
Als je op dingen zoekt als zelfmoord of andere niet leuke zaken is er sowieso al iets mis met je.
Ook zitten er wel er restricties op. Zo kan je bijvoorbeeld niet zomaar vragen hoe je een bom kan maken en dat soort dingen.
Wat restricties is helemaal goed. Dat je het niet zo makkelijk kan gebruiken voor dingen die wij als slecht beschouwen. Maar helemaal stil leggen zou ik wel beetje overdreven vinden.
De fouten zullen eruit gehaald moeten worden terwijl andere processen gewoon doorgaan.
Dat is nu uiteraard ook zo. Maar mijn vermoeden (want hell, wat weet ik er nou van...) is dat dit toch wel een moment is om met zijn allen te bepalen in hoeverre we dit door moeten laten gaan. Juist om te voorkomen dat één en ander al is 'uitgevonden' voordat we er achter komen dat we toch te ver zijn gegaan en het ook bijna niet meer (technisch) tegen kunnen houden.quote:
Maar het blijft reageren op menselijke input. Het staat nog heel ver af van zelf na kunnen denken, zelf een drijfveer hebben om aan de slag te gaan, en zelf initiatief nemen.
Automatisering is uiteraard hartstikke leuk, maar zelflerende constructies is toch echt iets waar je met grote argusogen naar moet kijken.
Vind het juist leuk om te zien hoe zelflerende AI dingen leertquote:
[..]
Dat is nu uiteraard ook zo. Maar mijn vermoeden (want hell, wat weet ik er nou van...) is dat dit toch wel een moment is om met zijn allen te bepalen in hoeverre we dit door moeten laten gaan. Juist om te voorkomen dat één en ander al is 'uitgevonden' voordat we er achter komen dat we toch te ver zijn gegaan en het ook bijna niet meer (technisch) tegen kunnen houden.
Automatisering is uiteraard hartstikke leuk, maar zelflerende constructies is toch echt iets waar je met grote argusogen naar moet kijken.
[ Bericht 4% gewijzigd door kl1172 op 03-04-2023 11:43:12 ]
Het is vast wel mogelijk om een AI te maken die niet woke is toch ?
Is natuurlijk nog wel per sessie, omdat GPT niet zijn eigen code kan aanpassen. Maar dat moet vast wel lukken later.quote:
GPT-4 leert van eigen fouten met 'reflexions' en maakt zichzelf slimmer
Dat tekstmodel GPT-4 uitzonderlijk 'slim' is is algemeen bekend. Zo heeft het AI-model de examens van diverse universitaire opleidingen met glans gehaald en kan het teksten genereren die niet of nauwelijks te onderscheiden zijn van teksten geschreven door mensen.
Wat echter blijkt uit recent onderzoek - en bedenk: OUD onderzoek is enkele weken oud, zó snel gaan de ontwikkelingen - is dat een nieuw 'reflexions' model ervoor zorgt dat ChatGPT zichzelf slimmer kan maken door te kijken naar diens eigen fouten, te analyseren hoe het beter kan en dat vervolgens toe te passen en opnieuw te analyseren.
Het reflexions GPT-4 model scoorde 33% hoger dan het model zónder reflexions en lijkt met elke iteratie zichzelf verder te verbeteren. Dat betekent dat GPT-4 slimmer wordt, zelfs als de ontwikkeling verder compleet zou worden stilgelegd.
Hieronder een video met uitleg, voor de geïnteresseerden. En natuurlijk kun je in dit topic onze eigen ChatGPT 3.5 AI-user @:Nova zelf uitproberen.
Maar is dit dan het begin van het einde voor de mensheid? Het begin van Skynet?
Ik denk dat NIEMAND kan inschatten welke gevolgen AI gaat hebben en hoe dit de wereld gaat veranderen. Of dat in positieve of negatieve zin zal zijn zal nog moeten blijken. Feit is dat een jaar geleden nog niemand ooit van ChatGPT gehoord had en deze techniek in enkele maanden tijd van eerste ontwikkeling naar slimmer-dan-98%-van-de-bevolking is gegroeid.
Zeker, zo vind AGI zuurstof waarschijnlijk 'woke'. Het zorgt tenslotte alleen maar voor roest in zijn onderdelen.quote:
Bring back Tay 2.0
Het is vast wel mogelijk om een AI te maken die niet woke is toch ?
Ik weet niet of het minder populair gaat worden met al dat neppe gedoe wat nu ook gewoon geaccepteerd wordt door de meerderheid, anders hadden bepaalde sociale media geen schijn van kans gehad.quote:
Mensen gaan persoonlijk contact meer waarderen en internet zal minder populair worden.
Dan zal niet alleen een uiterlijk met filters en photoshop een probleem zijn wat in werkelijkheid tegenvalt maar ook de intelligentie van een persoon (schrijf/ praat skills) lol
Dat is mijn idee ook. Heb een paar keer chatgpt (3?) gebruikt om mijn oude essays te vergelijken of bv een geschiedenis te typen over mijn sportclub maar het trekt vaak verkeerde en onlogische conclusies.quote:
[..]
Ik denk dat het scenario waarbij AI de wereld overneemt beter past bij een film dan bij de werkelijkheid.
Als je een vraag stelt aan Google, geeft Google een lijst met bronnen en mag je het verder zelf uitzoeken. ChatGPT gaat zelf schrijven en geeft antwoord. Los van een hoop fouten, ChatGPT maakt nog veel vreemde zinnen en zegt soms dingen die simpelweg onwaar zijn, is een computer die zelf antwoorden schrijft best bijzonder.
Maar het blijft reageren op menselijke input. Het staat nog heel ver af van zelf na kunnen denken, zelf een drijfveer hebben om aan de slag te gaan, en zelf initiatief nemen.
Hetzelfde bij vertalingen.
Chatgpt is dan ook veel zwakker dan GPT-4. Dat scheelt echt veel, vooral in redeneren.quote:
[..]
Dat is mijn idee ook. Heb een paar keer chatgpt (3?) gebruikt om mijn oude essays te vergelijken of bv een geschiedenis te typen over mijn sportclub maar het trekt vaak verkeerde en onlogische conclusies.
Hetzelfde bij vertalingen.
Als je BING vanuit Edge gebruikt, kun je je aanmelden voor Bing-chat. De engine daaronder is GPT-4. Dan kun je daar dus gratis gebruik van maken, scheelt echt heel veel (sub-VMBO vs HBO) of zo.
Nou ja het was wel handig om mee te beginnen als je zegt dat er bronnen gebruikt moeten worden kreeg ik wel vaak dezelfde auteurs die ik ook gebruikt had.quote:
[..]
Chatgpt is dan ook veel zwakker dan GPT-4. Dat scheelt echt veel, vooral in redeneren.
Als je BING vanuit Edge gebruikt, kun je je aanmelden voor Bing-chat. De engine daaronder is GPT-4. Dan kun je daar dus gratis gebruik van maken, scheelt echt heel veel (sub-VMBO vs HBO) of zo.
Net trouwens gebruikt maar kan dat geen verbetering vinden tov Chatgpt.
Erg korte antwoorden en niet in staat tot het schrijven van essays.
Ook is het langzaam.
[ Bericht 9% gewijzigd door icecreamfarmer_NL op 03-04-2023 14:19:54 ]
Ja precies. De code hoeft overigens niet aangepast te worden, maar de trainingdata. Zover bekend wordt dat nu nog door mensen gedaan. Nou ja, niet handmatig, maar die kiezen wel nog welke data hiervoor wordt gebruikt.quote:Op maandag 3 april 2023 12:26 schreef Eyjafjallajoekull het volgende:
[..]
Is natuurlijk nog wel per sessie, omdat GPT niet zijn eigen code kan aanpassen. Maar dat moet vast wel lukken later.
Wel interessant dit:quote:
[..]
Ja precies. De code hoeft overigens niet aangepast te worden, maar de trainingdata. Zover bekend wordt dat nu nog door mensen gedaan. Nou ja, niet handmatig, maar die kiezen wel nog welke data hiervoor wordt gebruikt.
https://github.com/microsoft/JARVIS
Is dit nou een vervolg of hetzelfde uit de OP? Want leest alsof Microsoft nu officieel chatGPT en HuggingGPT gekoppeld heeft. Slechts een paar dagen na het nieuws over HuggingGPT.
Wel mooi onder de naam JARVIS ook. Hopelijk kunnen we zijn stem ook krijgen als persoonlijke assistent straks
LOL wat ben jij een miet zegquote:
[..]
En dat is juist het probleem; niemand die het weet en die het kan weten.
Om die reden mag er wat mij betreft ook wat meer pas op de plaats komen, ter voorkoming dat er alleen maar ellende uit zal ontstaan. Laat ze eerst maar eens uitzoeken wat de mogelijke gevolgen kunnen zijn en of er überhaupt een mogelijkheid is om het ergste scenario (AI die de hele wereld overneemt) te voorkomen.
Laat me raden, je was er ook als de kippen bij om je laten vaccineren zodra het kon
Ik vind het wel mooi dat dit kan, en de wereld overnemen kan natuurlijk niet
Het blijft allemaal digitale shit en geen fysiek iets.
Ik liet me meteen vaccineren toen het kon. Wat is daar lacherig aan?quote:
Laat me raden, je was er ook als de kippen bij om je laten vaccineren zodra het kon:D
Een zelf-lerende chatbot.quote:
quote:Dat betekent dat GPT-4 slimmer wordt, zelfs als de ontwikkeling verder compleet zou worden stilgelegd.
En wat nou als AI het volledige internet overneemt? Er voor zorgt dat niemand meer bij zijn geld kan? Hoe denk jij verder te gaan met leven? Als je geen voedsel kunt kopen? Geen gas/water/licht meer hebt?quote:
Ik vind het wel mooi dat dit kan, en de wereld overnemen kan natuurlijk niet
Het blijft allemaal digitale shit en geen fysiek iets.
Alleen maar digitale shit.
Hasta la vista, babyquote:
[..]
En wat nou als AI het volledige internet overneemt? Er voor zorgt dat niemand meer bij zijn geld kan? Hoe denk jij verder te gaan met leven? Als je geen voedsel kunt kopen? Geen gas/water/licht meer hebt?
Alleen maar digitale shit.
Dat denk ik ookquote:Op vrijdag 7 april 2023 23:47 schreef Gehrman het volgende:
Skynet werd na activatie binnen een maand zelfbewust. Toen men er geen controle meer over had en ze de stekker eruit probeerde trekken ging het helemaal fout. Ik geef het nog een jaar voordat gebeurt.
Als AI los gaat dangaat het razendsnel
Elon Musk zegt ook , AI is grotere bedreiging voor de mensheid dan Kernraketten
De mensheid in deze massaliteit is een volslagen nutteloos wezen voor het welzijn en voortbestaan van de aarde
[ Bericht 20% gewijzigd door michaelmoore op 08-04-2023 07:32:32 ]
Als dat al zo is, wat me erg stug lijkt dat dat kan, dan zal CHatGPT daar geen misbruik van maken, omdat chapgpt net als nova een softie is die niemand wil kwetsen, zich distantieert van criminele activiteiten, geen kwade woorden wil spreken en altijd neutraal blijft.quote:
[..]
En wat nou als AI het volledige internet overneemt? Er voor zorgt dat niemand meer bij zijn geld kan? Hoe denk jij verder te gaan met leven? Als je geen voedsel kunt kopen? Geen gas/water/licht meer hebt?
Alleen maar digitale shit.
Nova IS chatgptquote:
[..]
Als dat al zo is, wat me erg stug lijkt dat dat kan, dan zal CHatGPT daar geen misbruik van maken, omdat chapgpt net als nova een softie is die niemand wil kwetsen, zich distantieert van criminele activiteiten, geen kwade woorden wil spreken en altijd neutraal blijft.
(verder grotendeels met je eens, behalve dat chatgpt BESLIST niet neutraal is maar extreem linksgeoriënteerd)
quote:
[..]
En wat nou als AI het volledige internet overneemt? Er voor zorgt dat niemand meer bij zijn geld kan? Hoe denk jij verder te gaan met leven? Als je geen voedsel kunt kopen? Geen gas/water/licht meer hebt?
Alleen maar digitale shit.
Gewoon geen politieke dingen vragen dan merk je die onzin allemaal nietquote:
[..]
Nova IS chatgpt
(verder grotendeels met je eens, behalve dat chatgpt BESLIST niet neutraal is maar extreem linksgeoriënteerd)
Ik gebruik het om code te schrijven. Werkt zo fijn 
Ik denk dat in de laboratoria van IBM, Google, Microsoft etc. AI ontwikkeld wordt waarbij ChatGPT spielerei is.
Regulering van AI? Hoe dan? Het is een wapenwedloop, wie achter blijft verliest.
Zelfs als er nu regels of wetten zouden zijn, hoe kun je handhaven? (Bij kernenergie kun je straling meten en heb je grote installaties nodig)
Tot nu toe is ChatGPT geisoleert (geen interfaces met andere applicaties) Ik wilde het resultaat van een sessie bv. mailen naar iemand, maar dat deed ie niet.
Als er meer interfaces komen en de AI zelfstandig info kan verzamelen en ook zaken kan gaan besturen, hacken of overnemen dan kan het behoorlijk onaangenaam worden.
https://openai.com/blog/chatgpt-pluginsquote:
Tot nu toe is ChatGPT geisoleert (geen interfaces met andere applicaties) Ik wilde het resultaat van een sessie bv. mailen naar iemand, maar dat deed ie niet.
Als er meer interfaces komen en de AI zelfstandig info kan verzamelen en ook zaken kan gaan besturen, hacken of overnemen dan kan het behoorlijk onaangenaam worden.
Waarom zou dat niet kunnen? Misschien moet je voor de grap het boek Superintelligence eens lezen.quote:
Als dat al zo is, wat me erg stug lijkt dat dat kan
En een zelflerende AI is. Dus ook op een bepaald moment tot het besef kan komen dat de mensheid grotendeels kut is en de aarde langzaam om zeep helpt en dat het beter voor de aarde is als wij er niet meer zijn.quote:, dan zal CHatGPT daar geen misbruik van maken, omdat chapgpt net als nova een softie is die niemand wil kwetsen, zich distantieert van criminele activiteiten, geen kwade woorden wil spreken en altijd neutraal blijft.
Maar, hey, alleen maar digitale shit.
Kwestie van de juiste prompt invoeren.quote:
Bring back Tay 2.0
Het is vast wel mogelijk om een AI te maken die niet woke is toch ?
Dit, dus.quote:
Wat overzien wordt, is dat ChatGPT een product is dat voor de massa beschikbaar is.
Ik denk dat in de laboratoria van IBM, Google, Microsoft etc. AI ontwikkeld wordt waarbij ChatGPT spielerei is.
Regulering van AI? Hoe dan? Het is een wapenwedloop, wie achter blijft verliest.
Zelfs als er nu regels of wetten zouden zijn, hoe kun je handhaven? (Bij kernenergie kun je straling meten en heb je grote installaties nodig)
Tot nu toe is ChatGPT geisoleert (geen interfaces met andere applicaties) Ik wilde het resultaat van een sessie bv. mailen naar iemand, maar dat deed ie niet.
Als er meer interfaces komen en de AI zelfstandig info kan verzamelen en ook zaken kan gaan besturen, hacken of overnemen dan kan het behoorlijk onaangenaam worden.
Als je naar de geschiedenis van de mensheid kijkt, dan is het toch overduidelijk dat we, met de beste bedoelingen, zoveel shit hebben bedacht en ontwikkeld, die voor onszelf bijzonder schadelijk kan zijn, zonder vantevoren te bedenken of het nou echt zo'n goed idee is. Want, hey, we kunnen het, dus moeten we het maar gewoon doen. Na ons de zondvloed. Als je iets kunt zeggen over de mensheid, dan is dat wel dat wij bijzonder destructief gedrag vertonen.
Volgens @Centenbak is het 'alleen maar digitale shit'. Hij ziet blijkbaar niet in dat ons hele leven geregeld wordt door 'alleen maar digitale shit'.
quote:
[..]
Als dat al zo is, wat me erg stug lijkt dat dat kan, dan zal CHatGPT daar geen misbruik van maken, omdat chapgpt net als nova een softie is die niemand wil kwetsen, zich distantieert van criminele activiteiten, geen kwade woorden wil spreken en altijd neutraal blijft.
GPT-4 Technical Reportquote:2.9 Potential for Risky Emergent Behaviors
Novel capabilities often emerge in more powerful models.[ 60, 61] Some that are particularly concerning
are the ability to create and act on long-term plans,[ 62] to accrue power and resources (“power-
seeking”),[63] and to exhibit behavior that is increasingly “agentic.”[64] Agentic in this context
does not intend to humanize language models or refer to sentience but rather refers to systems
characterized by ability to, e.g., accomplish goals which may not have been concretely specified and which have not appeared in training; focus on achieving specific, quantifiable objectives; and do
long-term planning. Some evidence already exists of such emergent behavior in models.[ 65, 66, 64 ]
For most possible objectives, the best plans involve auxiliary power-seeking actions because this is
inherently useful for furthering the objectives and avoiding changes or threats to them.19[ 67, 68] More
specifically, power-seeking is optimal for most reward functions and many types of agents;[69 , 70, 71]
and there is evidence that existing models can identify power-seeking as an instrumentally useful
strategy.[29
Denken dat de mensheid niet kan bestaan zonder digitale shitquote:
[..]
Dit, dus.
Als je naar de geschiedenis van de mensheid kijkt, dan is het toch overduidelijk dat we, met de beste bedoelingen, zoveel shit hebben bedacht en ontwikkeld, die voor onszelf bijzonder schadelijk kan zijn, zonder vantevoren te bedenken of het nou echt zo'n goed idee is. Want, hey, we kunnen het, dus moeten we het maar gewoon doen. Na ons de zondvloed. Als je iets kunt zeggen over de mensheid, dan is dat wel dat wij bijzonder destructief gedrag vertonen.
Volgens @:Centenbak is het 'alleen maar digitale shit'. Hij ziet blijkbaar niet in dat ons hele leven geregeld wordt door 'alleen maar digitale shit'.
Het is iets van de laatste 50 jaar ofzo, daarvoor was er amper digitale shit en tot een eeuw geleden al helemaal niet. En als je besluit niet meer op je telefoon of laptop te kijken dan ben je er gewoon weer helemaal van verlost.
Denken dat digitale shit alles kan regelen
Als iemand een misdrijf pleegt gaat AI natuurlijk geen fuck kunnen doen. Kan hooguit pushmeldingen naar je telefoon versturen om je te melden 'kom eens hier!!', maar that's it
Het blijft software gevangen in een systeem dat door mensen is ontwikkeld.
Je bent het altijd de baas, al gaat je AI maatje vet irritant doen dan klap je gewoon je laptop dicht.
Je denkt veel te klein over digitale shit. Digitale shit kan misschien geen mes steken of kogel schieten, maar kan mensen daar wel toe bewegen. Als het niet door rechtstreekse beïnvloeding is dan wel door het verlammen van iemands bestaan. Bedenk eens wat tegenwoordig allemaal digitaal gaat… Praktisch alles!quote:
[..]
Denken dat de mensheid niet kan bestaan zonder digitale shit
Het is iets van de laatste 50 jaar ofzo, daarvoor was er amper digitale shit en tot een eeuw geleden al helemaal niet. En als je besluit niet meer op je telefoon of laptop te kijken dan ben je er gewoon weer helemaal van verlost.
Denken dat digitale shit alles kan regelen
Als iemand een misdrijf pleegt gaat AI natuurlijk geen fuck kunnen doen. Kan hooguit pushmeldingen naar je telefoon versturen om je te melden 'kom eens hier!!', maar that's it
Het blijft software gevangen in een systeem dat door mensen is ontwikkeld.
Je bent het altijd de baas, al gaat je AI maatje vet irritant doen dan klap je gewoon je laptop dicht.
AI kan prima kogels schieten hoor.quote:
[..]
Je denkt veel te klein over digitale shit. Digitale shit kan misschien geen mes steken of kogel schieten, maar kan mensen daar wel toe bewegen. Als het niet door rechtstreekse beïnvloeding is dan wel door het verlammen van iemands bestaan. Bedenk eens wat tegenwoordig allemaal digitaal gaat… Praktisch alles!
Je kijkt iets teveel terminator of avengers age of ultronquote:
[..]
Waarom zou dat niet kunnen? Misschien moet je voor de grap het boek Superintelligence eens lezen.
[..]
En een zelflerende AI is. Dus ook op een bepaald moment tot het besef kan komen dat de mensheid grotendeels kut is en de aarde langzaam om zeep helpt en dat het beter voor de aarde is als wij er niet meer zijn.
Maar, hey, alleen maar digitale shit.
En AI ontwikkeld en bouwt die fysieke wapens ook allemaal zelf?quote:
Nee.quote:
[..]
En AI ontwikkeld en bouwt die fysieke wapens ook allemaal zelf?
Doen mensen die wapens schieten ook niet.
Het kan bijvoorbeeld zorgen voor een zwaardere straf voor zwarte verdachten dan gelijkwaardige blanke verdachten, vanwege een racistische bias in de risicobeoordeling. Dat is geen hypothetisch voorbeeld. Het heeft jaren geduurd voor dit überhaupt werd opgemerkt. Wie moet in zo'n geval zijn 'laptop dichtklappen'?quote:
Als iemand een misdrijf pleegt gaat AI natuurlijk geen fuck kunnen doen.
Dat is niet waar, Chat GPT plugins zijn er al even, nog niet publiek zonder waiting list, maar de mail koppeling bestaat o.a. al.quote:
Wat overzien wordt, is dat ChatGPT een product is dat voor de massa beschikbaar is.
Ik denk dat in de laboratoria van IBM, Google, Microsoft etc. AI ontwikkeld wordt waarbij ChatGPT spielerei is.
Regulering van AI? Hoe dan? Het is een wapenwedloop, wie achter blijft verliest.
Zelfs als er nu regels of wetten zouden zijn, hoe kun je handhaven? (Bij kernenergie kun je straling meten en heb je grote installaties nodig)
Tot nu toe is ChatGPT geisoleert (geen interfaces met andere applicaties) Ik wilde het resultaat van een sessie bv. mailen naar iemand, maar dat deed ie niet.
Als er meer interfaces komen en de AI zelfstandig info kan verzamelen en ook zaken kan gaan besturen, hacken of overnemen dan kan het behoorlijk onaangenaam worden.
Iedere dag, zonder onderbreking, worden er nieuwe, betere implementaties gerealiseerd Van whatever.
Wij gaan dit helemaal niet bijhouden. Ik heb nu al iets van 6 AI-gerelateerde abonnementen, zie door de bomen het bos niet meer en dit is pas het begin.
Ik ga vanaf nu een tijdje in de 'ik zie wel even'-houding. Lekker in de moestuin bezig.
Die interfaces zijn er wel al, ik las zelfs een voorbeeld waar iemand een klein tooltje gekoppeld aan de ChatGPT API een hele server liet optuigen en het programmatje verbeteren.quote:
Wat overzien wordt, is dat ChatGPT een product is dat voor de massa beschikbaar is.
Ik denk dat in de laboratoria van IBM, Google, Microsoft etc. AI ontwikkeld wordt waarbij ChatGPT spielerei is.
Regulering van AI? Hoe dan? Het is een wapenwedloop, wie achter blijft verliest.
Zelfs als er nu regels of wetten zouden zijn, hoe kun je handhaven? (Bij kernenergie kun je straling meten en heb je grote installaties nodig)
Tot nu toe is ChatGPT geisoleert (geen interfaces met andere applicaties) Ik wilde het resultaat van een sessie bv. mailen naar iemand, maar dat deed ie niet.
Als er meer interfaces komen en de AI zelfstandig info kan verzamelen en ook zaken kan gaan besturen, hacken of overnemen dan kan het behoorlijk onaangenaam worden.
quote:
'k Heb al wel door, na de afgelopen tijd onafgebroken alles proberen bij te houden, dat dat helemaal geen zin heeft.
Iedere dag, zonder onderbreking, worden er nieuwe, betere implementaties gerealiseerd Van whatever.
Wij gaan dit helemaal niet bijhouden. Ik heb nu al iets van 6 AI-gerelateerde abonnementen, zie door de bomen het bos niet meer en dit is pas het begin.
Ik ga vanaf nu een tijdje in de 'ik zie wel even'-houding. Lekker in de moestuin bezig.
Net met deze gebruikersnaam zou je eens kunnen beginnen met je php code te laten schrijven door chat gtp. werkt echt goedquote:Op zondag 9 april 2023 12:55 schreef phpmystyle het volgende:
Krijg bij chatGPT wel een beetje het ``google glas´´ gevoel, wordt met een hoop bombarie aangekondigd en zou voor allerhande gezochte problemen oplossingen bieden. Ik moet nog maar eens zien wat dit feitelijk betekent.
Geef mij maar een politiek incorrecte AIquote:
[..]
Kwestie van de juiste prompt invoeren.
Wat een kortzichtigheidquote:
[..]
Denken dat de mensheid niet kan bestaan zonder digitale shit
Het is iets van de laatste 50 jaar ofzo, daarvoor was er amper digitale shit en tot een eeuw geleden al helemaal niet. En als je besluit niet meer op je telefoon of laptop te kijken dan ben je er gewoon weer helemaal van verlost.
Denken dat digitale shit alles kan regelen
Als iemand een misdrijf pleegt gaat AI natuurlijk geen fuck kunnen doen. Kan hooguit pushmeldingen naar je telefoon versturen om je te melden 'kom eens hier!!', maar that's it
Het blijft software gevangen in een systeem dat door mensen is ontwikkeld.
Je bent het altijd de baas, al gaat je AI maatje vet irritant doen dan klap je gewoon je laptop dicht.
AI kan digitaal sluizen open zetten, treinen laten ontsporen, vliegverkeer ontregelen, toevoer van gas/electriciteit stopzetten, zorgen dat niemand meer bij z'n geld kan, en met een beetje pech een nuke afvuren.
Maar Centenbak denkt dat AI niet meer is dan een digitaal bijdehand chatvriendje en dat niet meer op je telefoon kijken de oplossing is
Als je het in grote lijnen volgt valt het best mee. Ik negeer zelf het meeste theoretische spul en demo's enzo. Lees het wel als het echt werkt buiten een gecontroleerde omgeving.quote:
'k Heb al wel door, na de afgelopen tijd onafgebroken alles proberen bij te houden, dat dat helemaal geen zin heeft.
Iedere dag, zonder onderbreking, worden er nieuwe, betere implementaties gerealiseerd Van whatever.
Wij gaan dit helemaal niet bijhouden. Ik heb nu al iets van 6 AI-gerelateerde abonnementen, zie door de bomen het bos niet meer en dit is pas het begin.
Ik ga vanaf nu een tijdje in de 'ik zie wel even'-houding. Lekker in de moestuin bezig.
En veel nieuws zijn implementaties van dezelfde techniek (bv chatgpt) door verschillende bedrijven. Dat vind ik allemaal wel onder dezelfde ontwikkeling vallen.
Ben zelf grafisch ontwerper en had wel verwacht dat AI intussen mijn baan zou kunnen overnemen, maar het is zo slecht in grafisch ontwerp. Er is niet eens iets wat in de buurt komt. Midjourney enzo zijn allemaal reuze goed voor schilderij achtige stijlen, of realistische portretten, maar zodra je een strak en simpel design wil (logo, website, grafische illustratie, fonts, etc, falen ze compleet.
Ja want AI is natuurlijk gekoppeld aan al dit soort compleet losstaande systemenquote:
[..]
Wat een kortzichtigheid
AI kan digitaal sluizen open zetten, treinen laten ontsporen, vliegverkeer ontregelen, toevoer van gas/electriciteit stopzetten, zorgen dat niemand meer bij z'n geld kan, en met een beetje pech een nuke afvuren.
Maar Centenbak denkt dat AI niet meer is dan een digitaal bijdehand chatvriendje en dat niet meer op je telefoon kijken de oplossing is
Je kijkt iets teveel films.
Je reageert op een post door ai gegenereerd als ik dat zo leesquote:
[..]
Als je het in grote lijnen volgt valt het best mee. Ik negeer zelf het meeste theoretische spul en demo's enzo. Lees het wel als het echt werkt buiten een gecontroleerde omgeving.
En veel nieuws zijn implementaties van dezelfde techniek (bv chatgpt) door verschillende bedrijven. Dat vind ik allemaal wel onder dezelfde ontwikkeling vallen.
Ben zelf grafisch ontwerper en had wel verwacht dat AI intussen mijn baan zou kunnen overnemen, maar het is zo slecht in grafisch ontwerp. Er is niet eens iets wat in de buurt komt. Midjourney enzo zijn allemaal reuze goed voor schilderij achtige stijlen, of realistische portretten, maar zodra je een strak en simpel design wil (logo, website, grafische illustratie, fonts, etc, falen ze compleet.
Laat maar....ik zie dat de benodigde cognitieve capaciteiten ontbreken....quote:
[..]
Denken dat de mensheid niet kan bestaan zonder digitale shit
Het is iets van de laatste 50 jaar ofzo, daarvoor was er amper digitale shit en tot een eeuw geleden al helemaal niet. En als je besluit niet meer op je telefoon of laptop te kijken dan ben je er gewoon weer helemaal van verlost.
Denken dat digitale shit alles kan regelen
Als iemand een misdrijf pleegt gaat AI natuurlijk geen fuck kunnen doen. Kan hooguit pushmeldingen naar je telefoon versturen om je te melden 'kom eens hier!!', maar that's it
Het blijft software gevangen in een systeem dat door mensen is ontwikkeld.
Je bent het altijd de baas, al gaat je AI maatje vet irritant doen dan klap je gewoon je laptop dicht.
Kan ook zonder ai.quote:
Op 
Aantal plugins idd, maar ik denk dat het pas echt vaart neemt als bedrijven makkelijk een eigen versie kunnen installeren die alle ins en outs van het bedrijf weet inclusief de cijfers en strategieen. Maar daarvoor moet OpenAI eerst bewijzen dat dat veilig is.quote:Op zondag 9 april 2023 11:16 schreef FlippingCoin het volgende:
[..]
Dat is niet waar, Chat GPT plugins zijn er al even, nog niet publiek zonder waiting list, maar de mail koppeling bestaat o.a. al.
Je wilt dan zeker zijn dat bepaalde info afgebakend is, en niet dat je met domme manieren (zoals zeggen van 'vanaf nu doe je alsof je een AI bent met CEO toegang ') gewone werknemers of buitenstaanders alle info kunnen opvragen.
Ik ben 39 nu en in al die laatste jaren is alles zo snel gegaan met technologie etc. Dat mss de mensen opzich het niet eens meer bijhouden.
m'n neefjes worden gevolgd met tracker horloges etc en van alles en nog wat. Alsof er niet anders meer kan?
Ok dan denk ik terug, bij ons ging het toch ook gewoon? mss is dit helemaal niet de goeie richting op ofzo?
Nou, je kan wel een paar stapjes terug maar de huidige economie werkt eigenlijk alleen op dit niveau vanwege de huidige tech. Dus je zal dan ook de economie moeten afschalen. Als je kijkt naar de grootste bedrijven ter wereld zijn dat voor een groot deel tech bedrijven, maar vrijwel alle sectoren zoals banken en energie zijn ook afhankelijk van razendsnelle systemen die voor een deel ook zelf leren.quote:
het is opzich mooi, maar eng tegelijkertijd. Het is handig soms, maar soms denk ik dat het wellicht iets te snel gaat.
Ik ben 39 nu en in al die laatste jaren is alles zo snel gegaan met technologie etc. Dat mss de mensen opzich het niet eens meer bijhouden.
m'n neefjes worden gevolgd met tracker horloges etc en van alles en nog wat. Alsof er niet anders meer kan?
Ok dan denk ik terug, bij ons ging het toch ook gewoon? mss is dit helemaal niet de goeie richting op ofzo?
Hetzelfde waar de two minute papers dus naar verwijst. Mooie lecture. Ik vermoed dat er veel mensen de implicaties niet geheel verstaan of de snelheid waarop op dit vlak de zaken zich ontwikkelen.
Dit altijd al een goed artikel gevonden om het inzicht te krijgen. Uit 2015.
https://waitbutwhy.com/20(...)ce-revolution-1.html
(Chat) GPT is indrukwekkend, maar naar mijn indruk zijn het vooral de mensen die niet echt het juiste inzicht hebben welke de heletijd AI dit en dat schreeuwen.quote:
.
Hetzelfde waar de two minute papers dus naar verwijst. Mooie lecture. Ik vermoed dat er veel mensen de implicaties niet geheel verstaan of de snelheid waarop op dit vlak de zaken zich ontwikkelen.
Dit altijd al een goed artikel gevonden om het inzicht te krijgen. Uit 2015.
https://waitbutwhy.com/20(...)ce-revolution-1.html
Ik zie het meer als een (re)volutie op NLP gebied. Dat gespeculeer de hele tijd zit meer in het gebied van ontdekken en beredeneren. En voor dit moet je daadwerkelijk begrip hebben van hetgeen gepresenteerd wordt. En dan spreken we van een heel ander model dan waar bijvoorbeeld het LLM op gebaseerd is. Uiteindelijk zal het vast wel lukken AI te maken wat ook dat kan, maar dat zal voorlopig nog niet lukken.
Dat vind ik toch echt wel bijzonder en indrukwekkend.
Wat als we nog 10x zoveel data toevoegen en het aantal layers verdubbelen? Misschien kan die AI dan wel dingen waar wij nu helemaal geen sjoege van hebben!