FOK!forum / Nieuws & Achtergronden / Oma opgelicht door AI stem van haar kleinzoon
slashdotter3woensdag 29 maart 2023 @ 18:48
Oma opgelicht door AI stem van haar kleinzoon


De opkomst van AI-software heeft geleid tot talloze nieuwe mogelijkheden, maar helaas maken criminelen ook gebruik van deze geavanceerde technologie. Steeds vaker zetten zij deepfake-video's en -audio in om onschuldige slachtoffers op te lichten.

De tijd van slecht geschreven e-mails van zogenaamde Nigeriaanse prinsen is voorbij. Tegenwoordig kunnen oplichters met slechts enkele uitgesproken zinnen (3 seconden is voldoende, zie video hieronder) AI-deepfake-software gebruiken om iemands stem geloofwaardig na te bootsen en alles te laten zeggen wat ze maar willen.

Een recent voorbeeld is de 73-jarige Canadese Ruth Card, die een telefoontje ontving van haar 'kleinkind'. De jongen beweerde gearresteerd te zijn zonder portemonnee of smartphone en vroeg geld om op borgtocht vrij te komen. Card en haar man haalden 3.000 Canadese dollars van hun rekening, maar toen ze dat bij hun andere bank probeerden greep de manager in. Eerder was bij dezelfde bank ook al iemand geweest die geld kwam halen en op deze manier ontdekte men dat het om een deepfake-oplichter ging.

Omdat drie seconden spraak voldoende is een stem na te bootsen is het kinderlijk eenvoudig iemand's stem te 'stelen'. Alleen het afluisteren van een klein stukje van iemand's voicemail-bericht als hij niet opneemt kan al voldoende zijn.
slashdotter3woensdag 29 maart 2023 @ 18:49
Oma's die het laatste AI voice cloning nieuws niet bijhouden, dan vraag je er gewoon om :N
Starhopperwoensdag 29 maart 2023 @ 18:55
Via telefoon is dat sowieso veel makkelijker want door compressie van het telefoonsignaal klink je anders.
KillemWieftwoensdag 29 maart 2023 @ 19:02
quote:
84s.gif Op woensdag 29 maart 2023 18:55 schreef Starhopper het volgende:
Via telefoon is dat sowieso veel makkelijker want door compressie van het telefoonsignaal klink je anders.
Wie heeft er tegenwoordig geen HD-voice?
Ali_boowoensdag 29 maart 2023 @ 19:09
Dat klinkt best wel eng eerlijk gezegd ;(
etuiedelapielwoensdag 29 maart 2023 @ 19:25
Hi Joe, Putin here! I just fired 20 Nukes to you country.
the-eyewoensdag 29 maart 2023 @ 19:29
Oma's zijn dus de zwakteste schakel.
TLCwoensdag 29 maart 2023 @ 20:39
Hoezo zogenaamde 'Nigeriaanse prinsen' ?? ;( :'(

ik heb er vroeger veel mee gemaild, ik vond het wel een eer hoor, maar ergens ook wel vreemd dat er zoveel prinsen wonen in Nigeria en dat ze toch blijkbaar altijd in geldnood zaten ;( Maar nogmaals, het was al n eer dat ze mijn naam wisten _O_
Nattekatwoensdag 29 maart 2023 @ 20:53
Die scammers doen veel te moeilijk, de ouderwetse sms berichtjes werken nog altijd meer dan prima.
Puzziewoensdag 29 maart 2023 @ 20:59
Arme oma
Jahr00nwoensdag 29 maart 2023 @ 21:01
Waarom blijven mensen hier in trappen? Hoevaak is dit in het nieuws?
torentjewoensdag 29 maart 2023 @ 21:08
quote:
0s.gif Op woensdag 29 maart 2023 21:01 schreef Jahr00n het volgende:
Waarom blijven mensen hier in trappen? Hoevaak is dit in het nieuws?
Er zijn veel mensen die goedgelovig zijn. Dat bewijzen toch al tijden de religieuze leiders?
fluitbekzeenaald2.0woensdag 29 maart 2023 @ 23:29
quote:
0s.gif Op woensdag 29 maart 2023 21:01 schreef Jahr00n het volgende:
Waarom blijven mensen hier in trappen? Hoevaak is dit in het nieuws?
Ik kan me voorstellen dat je als bejaarde digibeet niet op de hoogte bent van de laatste ontwikkelingen op deepfake audio.
kwiwidonderdag 30 maart 2023 @ 06:50
quote:
1s.gif Op woensdag 29 maart 2023 23:29 schreef fluitbekzeenaald2.0 het volgende:

[..]
Ik kan me voorstellen dat je als bejaarde digibeet niet op de hoogte bent van de laatste ontwikkelingen op deepfake audio.
Bel je dan niet eerst naar het politiebureau om te checken of die jongen daar zit?
En waar is ze gezegd dat geld af te geven? Op straat aan een wildvreemde? Niet bij de politie lijkt me. En dat wekt nog niet genoeg argwaan om even navraag te doen?
KillerBee4everdonderdag 30 maart 2023 @ 07:15
quote:
1s.gif Op donderdag 30 maart 2023 06:50 schreef kwiwi het volgende:

[..]
Bel je dan niet eerst naar het politiebureau om te checken of die jongen daar zit?
En waar is ze gezegd dat geld af te geven? Op straat aan een wildvreemde? Niet bij de politie lijkt me. En dat wekt nog niet genoeg argwaan om even navraag te doen?
Mja, ging dat maar zo... mijn (schoon)ouders konden ook zo enorm naïef zijn.
En zeker als iemand een voor hen bekende stem imiteert, dan hebben ze toch geen reden om dit niet te geloven? (zelfs al is de kleinzoon in kwestie geen kwajongen).

Ik heb ze zo vaak moeten waarschuwen om niet zomaar voor iedereen open te doen, als er 's avonds aan de deur gebeld wordt. En dan toch doen, want: onbeleefd... dat soort dingen.
fluitbekzeenaald2.0donderdag 30 maart 2023 @ 07:27
quote:
1s.gif Op donderdag 30 maart 2023 06:50 schreef kwiwi het volgende:

[..]
Bel je dan niet eerst naar het politiebureau om te checken of die jongen daar zit?
En waar is ze gezegd dat geld af te geven? Op straat aan een wildvreemde? Niet bij de politie lijkt me. En dat wekt nog niet genoeg argwaan om even navraag te doen?
Ja blijkbaar dus niet hè :')
ascodonderdag 30 maart 2023 @ 07:38
Dat wordt nog een mooie wereld waarin je niets en niemand meer kunt vertrouwen. :')
Best een mooie gedachte dat deze planeet binnen afzienbare tijd verlost is van onze soort. _O_