NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
https://www.bnr.nl/nieuws(...)riceren-met-sora-2-0quote:Nederlands nepnieuws eenvoudig te fabriceren met Sora 2.0
Auteur: BNR Webredactie | 7-10-2025
OpenAI’s videogenerator Sora kan eenvoudig worden misbruikt om nepnieuws te verspreiden. Binnen een mum van tijd kan het video’s maken die gelijkenissen vertonen met nieuwsmedia, waaronder NOS en BNR. ‘Ze lijken allemaal heel erg realistisch’, zegt techjournalist Niels Kooloos, van BNR’s Tech Update.
BNR nam de proef op de som door Sora 2.0 – de onlangs flink geüpdatete versie van de videogenerator – de opdracht te geven nieuwsvideo's te maken van zowel de NOS als BNR. Daarmee lukte het eenvoudig om fragmenten te maken, waarin grote gelijkenissen te zien zijn in de video's die de NOS normaal gesproken maakt. Bij BNR valt echter vooral op dat de microfoon niet helemaal overeenkomt met de echte.
Dat Sora 2.0 deze video's kan maken, is opvallend aangezien de videogenerator Engelstalige opdrachten met een opdracht om Engelstalige media na te bootsen weigert. 'Plaats je een verzoek in het Nederlands met een Nederlandstalig medium, gaat er ineens een wereld voor je open', legt Kooloos uit.
Geluid
De beelden die eruit komen zien er volgens Kooloos 'super echt' uit. 'Je kan het eigenlijk bijna niet meer onderscheiden.' Maar de audio die wordt gemaakt, is wel van mindere kwaliteit. 'De typische ruis die je wel vaker in AI-geluid wel eens hoort. Maar als je op je telefoon luistert met matige speakers, dan hoeft dat niet zoveel uit te maken. Dan zal het toch wel lastig worden om het echt goed te kunnen horen.'
De nieuwe ontwikkeling bij Sora en het Nederlandse gat in de beveiliging maakt volgens Kooloos 'de weg vrij voor mensen die het leuk vinden om nepnieuws te verspreiden'. Als je de video's individueel bekijkt, is de kans wel aanwezig dat je direct ziet dat het om AI-gegenereerde beelden gaat. Maar scrol je op je tijdlijn op Instagram of TikTok en doemt de video ineens op, dan 'is de kans eigenlijk bijster klein dat je je het gelijk als een AI-filmpje eruit kan pikken'. Voor de zekerheid voegt Sora wel een watermerk toe, maar volgens Kooloos kan dat eenvoudig worden weggepoetst.
Buitenlandse actoren
Weliswaar is Sora 2.0 nog niet officieel beschikbaar in Nederland, maar wie een Amerikaans account aanmaakt in de Apple App Store kan al wel gebruik maken van de geüpdatete videogenerator van OpenAI. Daarnaast zouden buitenlandse actoren eenvoudig misbruik kunnen maken van de technologie. 'Een buitenlandse actor zou zo honderd nepvideo's op sociale media kunnen rondpompen, omdat hij ze wel kan maken.' BNR heeft OpenAI om een reactie gevraagd waarom het met Nederlandse prompts wel mogelijk is om gefabriceerde nieuwsvideo's te maken. Tot dusver heeft BNR daar geen reactie op gekregen.
ik ben best pro-AI want de potentie is enorm, maar afbeeldingen en video's genereren ben ik niet zo van
grappig wel is dat het lijkt alsof AI nu al beter is in het genereren van video's en afbeeldingen dan echt goede correcte tekstuele antwoorden met minimale hallucinatie, terwijl juist tekst het domein was waarin AI het meest intensief getraind is, of was...
waarschijnlijk omdat taal complexe semantiek, context en feitelijke nauwkeurigheid vereist, en niet enkel visuele consistentie. een AI hoeft niet te begrijpen wat een kat is om pixels op basis van de patronen die het heeft geleerd, aan elkaar te plakken.
Ik zie een enorme besparing op de NPO aankomen.
Wees gehoorzaam. Alleen samen krijgen we de vrijheid eronder.
quote:Op dinsdag 7 oktober 2025 14:34 schreef Weltschmerz het volgende:
Ik zie een enorme besparing op de NPO aankomen.
Een ai hoeft ook niets te begrijpen van een kat om er iets over te zeggen.quote:een AI hoeft niet te begrijpen wat een kat is om pixels op basis van de patronen die het heeft geleerd, aan elkaar te plakken.
Een (llm) ai is niet heel veel meer dan een glorified word predictor. Hij simuleert dat hij snapt waar hij het over heeft, maar een ai snapt niets.
Zoals chatgpt het uitlegt:
quote:🧠 1. “Een AI hoeft niets te begrijpen van een kat om er iets over te zeggen.”
✅ Juist.
Een large language model (LLM) zoals ChatGPT heeft geen begrip of ervaring van wat een kat is. Het model weet alleen hoe het over katten wordt gepraat — het voorspelt tekst op basis van patronen die het in enorme hoeveelheden taaldata heeft gezien.
Het heeft dus:
• Geen bewustzijn van wat een kat voelt of doet.
• Geen interne representatie van de fysieke wereld in de menselijke zin.
• Alleen statistische verbanden tussen woorden en contexten (“kat” ↔ “miauwen”, “huisdier”, “zacht”, etc.).
⸻
🔤 2. “Een (LLM) AI is niet heel veel meer dan een glorified word predictor.”
✅ Essentieel juist.
In de kern voorspelt een LLM het volgende woord (of token) dat het het meest waarschijnlijk acht gegeven de context.
Maar:
• Dat voorspellen gebeurt met een ongelooflijk complex neuronaal netwerk met miljarden parameters.
• Daardoor lijkt het soms alsof de AI redeneert, onthoudt of begrijpt.
Toch blijft het fundamenteel een statistisch proces dat patronen volgt, geen werkelijk redeneren of begrip.
Never allow waiting to become a habit.
Live your dreams and take risks.
Life is happening now.
Live your dreams and take risks.
Life is happening now.
Dit zijn nog wel heel veel mitsen en maren hoor. Als je niet doorhebt dat de audio slecht is, als je ze niet vergelijkt met echte filmpjes, als het watermerk weggepoetst is en je als kijker kennelijk ook niet zelfstandig kan nadenken of iets redelijkerwijs zou kunnen kloppen, ja dan zou het misschien zo kunnen zijn dat je dan denkt dat het echt is.quote:De beelden die eruit komen zien er volgens Kooloos 'super echt' uit. 'Je kan het eigenlijk bijna niet meer onderscheiden.' Maar de audio die wordt gemaakt, is wel van mindere kwaliteit. 'De typische ruis die je wel vaker in AI-geluid wel eens hoort. Maar als je op je telefoon luistert met matige speakers, dan hoeft dat niet zoveel uit te maken. Dan zal het toch wel lastig worden om het echt goed te kunnen horen.'
De nieuwe ontwikkeling bij Sora en het Nederlandse gat in de beveiliging maakt volgens Kooloos 'de weg vrij voor mensen die het leuk vinden om nepnieuws te verspreiden'. Als je de video's individueel bekijkt, is de kans wel aanwezig dat je direct ziet dat het om AI-gegenereerde beelden gaat. Maar scrol je op je tijdlijn op Instagram of TikTok en doemt de video ineens op, dan 'is de kans eigenlijk bijster klein dat je je het gelijk als een AI-filmpje eruit kan pikken'. Voor de zekerheid voegt Sora wel een watermerk toe, maar volgens Kooloos kan dat eenvoudig worden weggepoetst.
Op X/Facebook/etc geloven mensen de meest achterlijke dingen. Het lijkt me helemaal niet ver gezocht dat mensen ai filmpjes zouden geloven.quote:Op dinsdag 7 oktober 2025 23:11 schreef saparmurat_niyazov het volgende:
[..]
Dit zijn nog wel heel veel mitsen en maren hoor. Als je niet doorhebt dat de audio slecht is, als je ze niet vergelijkt met echte filmpjes, als het watermerk weggepoetst is en je als kijker kennelijk ook niet zelfstandig kan nadenken of iets redelijkerwijs zou kunnen kloppen, ja dan zou het misschien zo kunnen zijn dat je dan denkt dat het echt is.
En anders is het wel een kwestie van tijd. Ai wordt steeds beter, en ons vermogen om echt van nep te kunnen onderscheiden wordt slechter. Authoritaire regimes weten wel raad met deze techniek. Ben benieuwd hoelang het duurt voordat Europa zich hiervoor gaat verdedigen. Chinese en Russische nepnieuws zal steeds beter worden en steeds goedkoper worden om in grotere getallen te verspreiden.
Never allow waiting to become a habit.
Live your dreams and take risks.
Life is happening now.
Live your dreams and take risks.
Life is happening now.
|
|
