Wat vinden jullie ervan: goed of niet goed dat er een watermerk komt?quote:Teksten van ChatGPT-gebruikers worden voorzien van een onzichtbaar 'watermerk'. Hiermee moet duidelijker worden of een tekst authentiek is of gegenereerd is door kunstmatige intelligentie, aldus OpenAI.
Het watermerk, genaamd textGrain, wordt komende tijd verwerkt in AI-teksten van gebruikers in de Europese Unie. Daarbuiten bevatten de teksten geen watermerken.
Het herkenningsteken is voor normale gebruikers niet te zien: het is namelijk geen fysiek stempel of speciaal teken, maar zit ingebouwd in de woordkeuzes van het generatieve AI-model.
Korte teksten
Een speciale detector kan dat watermerk, en daarmee door AI-gegenereerde woorden en teksten, wel oppikken. Die tool is vooralsnog alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties, schrijft OpenAI.
Het systeem is volgens het bedrijf achter ChatGPT sterk, maar niet foutloos, schrijft het bedrijf. Onder meer korte en bewerkte teksten maken betrouwbare detectie lastig.
Anthropic, het bedrijf achter chatbot Claude, voerde twee maanden geleden een vergelijkbaar watermerk in: ook onzichtbaar voor mensenogen, maar wel waarneembaar voor computersystemen. Deze is wereldwijd toegepast.
Concurrentie
De bedrijven zeggen met hun watermerken de nieuwe Europese AI-transparantieregels te volgen. Een van die regels is dat content die door kunstmatige intelligentie is gemaakt een markering krijgt, zoals een watermerk.
Volgens tech-expert Bert Hubert mag je in Europa nog best teksten maken die door kunstmatige intelligentie zijn geproduceerd zonder watermerk, maar dan moet je het onder sommige omstandigheden zelf vermelden.
Dat de bedrijven nu massaal watermerken toevoegen, komt volgens Hubert dan ook vanwege onderlinge concurrentie. "Anders moet je nu als OpenAI haast uitleggen waarom je dit als bedrijf niet hebt. Zoiets kan slecht zijn voor je verkoopproces."
Fraudezaken
De watermerken komen in een tijd waarin veel discussie is over de authenticiteit van content en wat de gevolgen zijn als content niet authentiek is. "Dit legt de lat wat hoger", zegt Hubert.
Volgens hem kunnen de watermerken vooral helpen bij fraudezaken. "Denk aan mails van een zogenaamd energiebedrijf die er geloofwaardig uitzien, maar door kunstmatige intelligentie zijn geproduceerd. Dan is het heel handig als je mailsysteem kan zeggen: let op, dit is een door AI-gegenereerde mail."
bron
Mwah, niet zo simpel. Alle (grote) cloud LLMs gaan watermarking toepassen. In de basis vervang je het ene watermerk voor het andere. En er moet flink wat aangepast worden voor het niet meer werkt. Als in de tekst praktisch volledig herschrijven.quote:Op dinsdag 6 oktober 2026 21:31 schreef Mike-The-Situation het volgende:
Dan vraag je de ene AI het te herschrijven zodat het niet meer te herleiden is of je past het voldoende aan dat het niet meer te detecteren valt.
Dat werkt niet. Zodra een ai een tekst maakt is de totale zinsopbouw etc deel van het watermerk.quote:Op dinsdag 6 oktober 2026 21:31 schreef Mike-The-Situation het volgende:
Dan vraag je de ene AI het te herschrijven zodat het niet meer te herleiden is of je past het voldoende aan dat het niet meer te detecteren valt.
Muziek ontdekt via kleine, relatief onafhankelijke kanalen, is vaak 'safe'.quote:Op dinsdag 6 oktober 2026 21:29 schreef saparmurat_niyazov het volgende:
Prima, maar ik heb ook graag dat die tsunami aan AI-gegenereerde rommel die youtube je maar blijft opdringen een duidelijk visueel watermerk krijgt. "Echte" nieuwe muziek ontdekken is niet meer te doen zo.
Ik vraag het mij ten zeerste af. Met een goede prompt moet het toch te omzeilen zijn?quote:Op dinsdag 6 oktober 2026 21:45 schreef YoopY het volgende:
[..]
Dat werkt niet. Zodra een ai een tekst maakt is de totale zinsopbouw etc deel van het watermerk.
Ik vermoed dat het om de woordkeuze en volgorde gaat en dat daaroverheen de sleutel komt te liggen. Of steeds per zin, dat kan ook. Tijd om uit te wijken naar Chinese ai.quote:Op dinsdag 6 oktober 2026 21:47 schreef Mike-The-Situation het volgende:
[..]
Ik vraag het mij ten zeerste af. Met een goede prompt moet het toch te omzeilen zijn?
Het is vooral om aan wetgeving te voldoen. Ze weten zelf ook dondersgoed dat dit er weer uitgesloopt kan worden.quote:Op dinsdag 6 oktober 2026 22:37 schreef Chandler het volgende:
En dan maakt chatgpt zelf een scriptje die je kunt gebruiken om dit weer te verwijderen.
Te grappig allemaal.
Is dat aan wetgeving voldoen. Een kluis leveren met de sleutel er bij?quote:Op dinsdag 6 oktober 2026 23:35 schreef Cockwhale het volgende:
Het is vooral om aan wetgeving te voldoen. Ze weten zelf ook dondersgoed dat dit er weer uitgesloopt kan worden.
|
|
| Forum Opties | |
|---|---|
| Forumhop: | |
| Hop naar: | |