bronquote:Miljoenen Reddit-gebruikers onbewust onderdeel van AI-experiment
De Universiteit van Zürich gebruikte AI-chatbots om te proberen Reddit-gebruikers van mening te laten veranderen. "Psychologische manipulatie", volgens de moderators.
De universiteit gebruikte verschillende accounts om de overtuigingskracht van large language models te testen. Specifiek werd dit gedaan in het Change My View-subreddit, waar mensen om argumenten vragen tegen hun eigen opvattingen in. De universiteit heeft daarbij niet gezegd dat de reacties door AI zijn geschreven. Wel zeggen de onderzoekers elke reactie gecontroleerd te hebben of er geen schadelijke dingen werden geschreven.
In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
In de subreddit is het volgens de regels verboden om reacties door AI te laten genereren. De moderators zeggen dat de pyschologische manipulatie van LLM's al uitgebreid bestudeerd is, en het daarom niet nodig is om te experimenteren met mensen die daar geen toestemming voor hebben gegeven.
Maatschappelijk belang
"We erkennen dat ons experiment de communityregels voor door AI gegenereerde reacties heeft overtreden en bieden onze excuses aan", stellen de onderzoekers. "Maar we zijn van mening dat het, gezien het grote maatschappelijk belang van dit onderwerp, cruciaal was om een dergelijk onderzoek uit te voeren. Zelfs als dit betekende dat de regels werden overtreden."
Zoals eerder gemeld, Reddit fungeert als een propagandamiddel dat mensen zonder sterke eigen overtuigingen stuurt in hun denken. Gebruikers zien welke meningen het populairst zijn en als ze daar gevoelig voor zijn en niet kritisch nadenken, kunnen ze die overnemen. Zo konden sommigen bijvoorbeeld geloven dat Kamala Harris de verkiezingen in november zou winnen. Of dat iedereen Trump of Elon haat in de wereld.
Het is 1 grote echochamber en zoals hierboven bewezen vol met AI bots die de zieltjes met propaganda voedt, moet een ban komen op reddit.
Make FOK great again!
Het is leuk als je toevallig wat informatie zoekt.
Er is ook niets meer te vinden. Sowieso zijn er geen zoekmachines meer maar wordt je query resutlaat vervuild met AI, wat je op eigen initiatief aangeboden wordt en het laatste nieuws enigzins gerelateerd aan je "zoekopdracht".quote:Op woensdag 30 april 2025 13:10 schreef saparmurat_niyazov het volgende:
Overigens is AI youtube zo onderhand ook aanmerkelijk (verder) aan het verpesten. Fake filmpjes, met heel veel fake reacties, zonder enige aanduiding vooraf dat het neppe rommel is. Woekert zich ook voort als onkruid natuurlijk, want in tegenstelling tot echte content genereer je het zonder moeite.
Zoals alles op internet: het is niet goed voor álles, maar er zijn genoeg plekken waar je interessante of leuke dingen tegen kunt komen. Heel Reddit (of heel X of heel FOK!) als kut neerzetten is derhalve onzinnig.quote:Op woensdag 30 april 2025 13:15 schreef Straatcommando. het volgende:
Reddit is sowieso een eenkennig bandwagon hol. Sommige subs worden beheerd door je stereotype "reddit" mods die high zijn van de macht die ze menen te hebben.
Het is leuk als je toevallig wat informatie zoekt.
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.quote:Op woensdag 30 april 2025 13:27 schreef heywoodu het volgende:
[..]
Zoals alles op internet: het is niet goed voor álles, maar er zijn genoeg plekken waar je interessante of leuke dingen tegen kunt komen. Heel Reddit (of heel X of heel FOK!) als kut neerzetten is derhalve onzinnig.
Dat er een paar leuke subs tussen zitten doet daar niet aan af. Het is gewoon geen goed medium.
Goh, wat origineel allemaal.quote:In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
Bekijk deze YouTube-video
NWS / Student gynaecologie krijgt geen straf voor verkrachting.
MAX vakantieman begint volgende maand weer.
TV / [NPO1]Max Vakantieman #2 Voor al uw vakantieleed
Ik heb een plugin die daar aardig omheen weet te werken.quote:
[..]
Er is ook niets meer te vinden. Sowieso zijn er geen zoekmachines meer maar wordt je query resutlaat vervuild met AI, wat je op eigen initiatief aangeboden wordt en het laatste nieuws enigzins gerelateerd aan je "zoekopdracht".
https://chromewebstore.go(...)jjpnngindkkmiehimile
Nooit last van gehad, maar vrijwel nooit politieke dingen zoeken en lezen zal daar wel de reden voor zijn danquote:
[..]
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.
Dat er een paar leuke subs tussen zitten doet daar niet aan af. Het is gewoon geen goed medium.
Same, best goede ervaringen op Reddit maar het lijkt me dat alles wat met politiek te maken heeft sowieso eerder toxisch is.quote:
[..]
Nooit last van gehad, maar vrijwel nooit politieke dingen zoeken en lezen zal daar wel de reden voor zijn dan
En Pinterest, en Flickr.quote:
Overigens is AI youtube zo onderhand ook aanmerkelijk (verder) aan het verpesten. Fake filmpjes, met heel veel fake reacties, zonder enige aanduiding vooraf dat het neppe rommel is. Woekert zich ook voort als onkruid natuurlijk, want in tegenstelling tot echte content genereer je het zonder moeite.
Ik realiseer me maar al te goed dat ik ook met ChatGPT e.d. om moet leren gaan, maar liever niet op die manier.
Erg leeg.
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.quote:In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
Jammer dat een inter-menselijk communicatiemedium zo vernaggeld wordt.
Terug naar het café dan maar.👍🏻quote:
[..]
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.
Jammer dat een inter-menselijk communicatiemedium zo vernaggeld wordt.
Er zijn gewoon teveel boeren op het internet met veel vrije tijd.quote:
[..]
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.
Jammer dat een inter-menselijk communicatiemedium zo vernaggeld wordt.
Ik voeg nog wel eens 'Reddit' toe aan mijn google zoekresultaten.quote:
[..]
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.
Dat er een paar leuke subs tussen zitten doet daar niet aan af. Het is gewoon geen goed medium.
Op Reddit staat vaak veel betere uitleg dan vage websites, met name voor IT issues.
Maar voor de rest is het best een bagger plek. Bijna geen enkele Subreddit meer waar je beide kanten kan horen, het is of het ene extreme of het andere extreme.
ik vind het een super site. ik ben niet een actieve user maar ik beland er vaak via google als ik een vraag heb of info zoek. de enigen die er een probleem mee lijken te hebben zijn de extreemlinkse/-rechtse types. want alles is te 'woke' of 'right wing' voor die trieste mensen
net als bij twitter en facebook en dergelijkeDat speelt zich hier ook af alleen is er weinig handige info te vinden.quote:
reddit is gwn een groot internetforum. waar mensen links posten en over de inhoud praten. ik heb er zelf geen account maar vind er vaak veel handige info op terug. reddit dwingt je niet op een of andere manier te denken - dat bepaal jijzelf.
ik vind het een super site. ik ben niet een actieve user maar ik beland er vaak via google als ik een vraag heb of info zoek. de enigen die er een probleem mee lijken te hebben zijn de extreemlinkse/-rechtse types. want alles is te 'woke' of 'right wing' voor die trieste mensen
Reddit is wel heel closed minded circle jerk. Als je tegen de stroom in gaat krijg je veel negatieve klikjes en verdwijnt je post. Is je reactie kort, grappig, als 1 van de eerste gepost, en in lijn met het algemene standpunt krijg je duizenden up votes.quote:
reddit is gwn een groot internetforum. waar mensen links posten en over de inhoud praten. ik heb er zelf geen account maar vind er vaak veel handige info op terug. reddit dwingt je niet op een of andere manier te denken - dat bepaal jijzelf.
ik vind het een super site. ik ben niet een actieve user maar ik beland er vaak via google als ik een vraag heb of info zoek. de enigen die er een probleem mee lijken te hebben zijn de extreemlinkse/-rechtse types. want alles is te 'woke' of 'right wing' voor die trieste mensen
Dat veroorzaakt een vertekend beeld. Als ik het niet met iets eens ben, post ik daar liever niet.
In r/politics was het beeld maandenlang dat K.Harris ruimschoots de verkiezingen zou winnen...
YouTube is dan weer vol met Maga Adapten en pro Maga bots.Dit is blijkbaar wat we met zijn allen willen.
Vind het best een succesvol experiment.
De regels gelden niet voor mij want ik bepaald wat goed en belangrijker is. Gewoon aanklagen dat volk.quote:"We erkennen dat ons experiment de communityregels voor door AI gegenereerde reacties heeft overtreden en bieden onze excuses aan", stellen de onderzoekers. "Maar we zijn van mening dat het, gezien het grote maatschappelijk belang van dit onderwerp, cruciaal was om een dergelijk onderzoek uit te voeren. Zelfs als dit betekende dat de regels werden overtreden."
Klopt, ik had me daar registreerd en had na een paar grappen al 30K aan upvotes. Dus ik had schijt aan downvotes, en had dus ook eerst helemaal niet door wat voor naar conformisme-mechanisme dat is. En dan ook nog dat machtswellustig moderaille daar dat je zomaar van een sub bant omdat ze een andere mening hebben, na 2 weken was het alweer doei.quote:
[..]
Reddit is wel heel closed minded circle jerk. Als je tegen de stroom in gaat krijg je veel negatieve klikjes en verdwijnt je post. Is je reactie kort, grappig, als 1 van de eerste gepost, en in lijn met het algemene standpunt krijg je duizenden up votes.
Dat veroorzaakt een vertekend beeld. Als ik het niet met iets eens ben, post ik daar liever niet.
[ Bericht 12% gewijzigd door Eightyone op 01-05-2025 12:20:34 ]
De r/drugscirclejerk vond ik altijd flauw (AI ?) en die 'leuke' 'trebuchet' grappen deden me de App deleten.
Wat een tijdverspilling!
Ik heb een tijdje actief gepost in Azure (Microsoft Cloud), en alleen maar van die domme Indiërs die vragen stellen die echt al 10.000 keer beantwoord zijn, en dan beantwoord met nog meer domme adviezen van andere Indiërs.quote:
Reddit is alleen maar bruikbaar als je in een niet zo drukke sub zit over hobby's en games, verder is het de diepste echoput sinds Stormfront.
Jawel ik zie er letterlijk éénquote:
Letterlijk geen één reactie over het daadwerkelijke nieuws bericht, alleen maar berichten over de eigen ervaringen op Reddit.
Maar ook daar kan je er niet zomaar meer vanuit gaan, en dan bedoel ik niet alleen het voorbeeld in de OP.