bronquote:Miljoenen Reddit-gebruikers onbewust onderdeel van AI-experiment
De Universiteit van Zürich gebruikte AI-chatbots om te proberen Reddit-gebruikers van mening te laten veranderen. "Psychologische manipulatie", volgens de moderators.
De universiteit gebruikte verschillende accounts om de overtuigingskracht van large language models te testen. Specifiek werd dit gedaan in het Change My View-subreddit, waar mensen om argumenten vragen tegen hun eigen opvattingen in. De universiteit heeft daarbij niet gezegd dat de reacties door AI zijn geschreven. Wel zeggen de onderzoekers elke reactie gecontroleerd te hebben of er geen schadelijke dingen werden geschreven.
In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
In de subreddit is het volgens de regels verboden om reacties door AI te laten genereren. De moderators zeggen dat de pyschologische manipulatie van LLM's al uitgebreid bestudeerd is, en het daarom niet nodig is om te experimenteren met mensen die daar geen toestemming voor hebben gegeven.
Maatschappelijk belang
"We erkennen dat ons experiment de communityregels voor door AI gegenereerde reacties heeft overtreden en bieden onze excuses aan", stellen de onderzoekers. "Maar we zijn van mening dat het, gezien het grote maatschappelijk belang van dit onderwerp, cruciaal was om een dergelijk onderzoek uit te voeren. Zelfs als dit betekende dat de regels werden overtreden."
Er is ook niets meer te vinden. Sowieso zijn er geen zoekmachines meer maar wordt je query resutlaat vervuild met AI, wat je op eigen initiatief aangeboden wordt en het laatste nieuws enigzins gerelateerd aan je "zoekopdracht".quote:Op woensdag 30 april 2025 13:10 schreef saparmurat_niyazov het volgende:
Overigens is AI youtube zo onderhand ook aanmerkelijk (verder) aan het verpesten. Fake filmpjes, met heel veel fake reacties, zonder enige aanduiding vooraf dat het neppe rommel is. Woekert zich ook voort als onkruid natuurlijk, want in tegenstelling tot echte content genereer je het zonder moeite.
Zoals alles op internet: het is niet goed voor įlles, maar er zijn genoeg plekken waar je interessante of leuke dingen tegen kunt komen. Heel Reddit (of heel X of heel FOK!) als kut neerzetten is derhalve onzinnig.quote:Op woensdag 30 april 2025 13:15 schreef Straatcommando. het volgende:
Reddit is sowieso een eenkennig bandwagon hol. Sommige subs worden beheerd door je stereotype "reddit" mods die high zijn van de macht die ze menen te hebben.
Het is leuk als je toevallig wat informatie zoekt.
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.quote:Op woensdag 30 april 2025 13:27 schreef heywoodu het volgende:
[..]
Zoals alles op internet: het is niet goed voor įlles, maar er zijn genoeg plekken waar je interessante of leuke dingen tegen kunt komen. Heel Reddit (of heel X of heel FOK!) als kut neerzetten is derhalve onzinnig.
Goh, wat origineel allemaal.quote:In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
Ik heb een plugin die daar aardig omheen weet te werken.quote:Op woensdag 30 april 2025 13:23 schreef Weltschmerz het volgende:
[..]
Er is ook niets meer te vinden. Sowieso zijn er geen zoekmachines meer maar wordt je query resutlaat vervuild met AI, wat je op eigen initiatief aangeboden wordt en het laatste nieuws enigzins gerelateerd aan je "zoekopdracht".
Nooit last van gehad, maar vrijwel nooit politieke dingen zoeken en lezen zal daar wel de reden voor zijn danquote:Op woensdag 30 april 2025 13:30 schreef Straatcommando. het volgende:
[..]
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.
Dat er een paar leuke subs tussen zitten doet daar niet aan af. Het is gewoon geen goed medium.
Same, best goede ervaringen op Reddit maar het lijkt me dat alles wat met politiek te maken heeft sowieso eerder toxisch is.quote:Op woensdag 30 april 2025 14:07 schreef heywoodu het volgende:
[..]
Nooit last van gehad, maar vrijwel nooit politieke dingen zoeken en lezen zal daar wel de reden voor zijn dan
En Pinterest, en Flickr.quote:Op woensdag 30 april 2025 13:10 schreef saparmurat_niyazov het volgende:
Overigens is AI youtube zo onderhand ook aanmerkelijk (verder) aan het verpesten. Fake filmpjes, met heel veel fake reacties, zonder enige aanduiding vooraf dat het neppe rommel is. Woekert zich ook voort als onkruid natuurlijk, want in tegenstelling tot echte content genereer je het zonder moeite.
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.quote:In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.
Terug naar het café dan maar.👍🏻quote:Op woensdag 30 april 2025 14:34 schreef MichaelScott het volgende:
[..]
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.
Jammer dat een inter-menselijk communicatiemedium zo vernaggeld wordt.
Er zijn gewoon teveel boeren op het internet met veel vrije tijd.quote:Op woensdag 30 april 2025 14:34 schreef MichaelScott het volgende:
[..]
Nog even en het internet is waardeloos geworden door de voortwoekerende AI-kanker.
Jammer dat een inter-menselijk communicatiemedium zo vernaggeld wordt.
Ik voeg nog wel eens 'Reddit' toe aan mijn google zoekresultaten.quote:Op woensdag 30 april 2025 13:30 schreef Straatcommando. het volgende:
[..]
De layout is kut, het zoeken is kut, dat downvoten van dingen die niet in het narratief passen ook.
Dat er een paar leuke subs tussen zitten doet daar niet aan af. Het is gewoon geen goed medium.
Dat speelt zich hier ook af alleen is er weinig handige info te vinden.quote:Op woensdag 30 april 2025 16:44 schreef gwn_een_user het volgende:
reddit is gwn een groot internetforum. waar mensen links posten en over de inhoud praten. ik heb er zelf geen account maar vind er vaak veel handige info op terug. reddit dwingt je niet op een of andere manier te denken - dat bepaal jijzelf.
ik vind het een super site. ik ben niet een actieve user maar ik beland er vaak via google als ik een vraag heb of info zoek. de enigen die er een probleem mee lijken te hebben zijn de extreemlinkse/-rechtse types. want alles is te 'woke' of 'right wing' voor die trieste mensennet als bij twitter en facebook en dergelijke
Reddit is wel heel closed minded circle jerk. Als je tegen de stroom in gaat krijg je veel negatieve klikjes en verdwijnt je post. Is je reactie kort, grappig, als 1 van de eerste gepost, en in lijn met het algemene standpunt krijg je duizenden up votes.quote:Op woensdag 30 april 2025 16:44 schreef gwn_een_user het volgende:
reddit is gwn een groot internetforum. waar mensen links posten en over de inhoud praten. ik heb er zelf geen account maar vind er vaak veel handige info op terug. reddit dwingt je niet op een of andere manier te denken - dat bepaal jijzelf.
ik vind het een super site. ik ben niet een actieve user maar ik beland er vaak via google als ik een vraag heb of info zoek. de enigen die er een probleem mee lijken te hebben zijn de extreemlinkse/-rechtse types. want alles is te 'woke' of 'right wing' voor die trieste mensennet als bij twitter en facebook en dergelijke
De regels gelden niet voor mij want ik bepaald wat goed en belangrijker is. Gewoon aanklagen dat volk.quote:"We erkennen dat ons experiment de communityregels voor door AI gegenereerde reacties heeft overtreden en bieden onze excuses aan", stellen de onderzoekers. "Maar we zijn van mening dat het, gezien het grote maatschappelijk belang van dit onderwerp, cruciaal was om een dergelijk onderzoek uit te voeren. Zelfs als dit betekende dat de regels werden overtreden."
Klopt, ik had me daar registreerd en had na een paar grappen al 30K aan upvotes. Dus ik had schijt aan downvotes, en had dus ook eerst helemaal niet door wat voor naar conformisme-mechanisme dat is. En dan ook nog dat machtswellustig moderaille daar dat je zomaar van een sub bant omdat ze een andere mening hebben, na 2 weken was het alweer doei.quote:Op woensdag 30 april 2025 17:44 schreef Jed1Gam het volgende:
[..]
Reddit is wel heel closed minded circle jerk. Als je tegen de stroom in gaat krijg je veel negatieve klikjes en verdwijnt je post. Is je reactie kort, grappig, als 1 van de eerste gepost, en in lijn met het algemene standpunt krijg je duizenden up votes.
Dat veroorzaakt een vertekend beeld. Als ik het niet met iets eens ben, post ik daar liever niet.
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |