NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
’Pauze kunstmatige intelligentie noodzaak’
AMSTERDAM - Prominenten uit de Amerikaanse techwereld, onder wie Elon Musk en Apple-medeoprichter Steve Wozniak, slaan alarm over kunstmatige intelligentie, die zo slim wordt dat het maar de vraag is of de mens haar nog onder controle kan houden.
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
Technologiebedrijven als Microsoft, Google en Facebook voeren de laatste maanden een vinnig gevecht waarin ze elkaar aftroeven met nóg slimmere chatbots, die antwoorden en andere teksten kunnen produceren die nauwelijks nog van menselijke conversatie verschillen. Over het taalmodel GPT-4, dat begin maart door Microsoft-partner OpenAI werd gelanceerd, vertelden techneuten dat ze ’vonken’ van mensachtige intelligentie hadden waargenomen. Inmiddels zijn nog slimmere versies in de maak, waarvan gevreesd wordt dat die de intelligentie van mensen zal evenaren of overtreffen.
De ondertekenaars willen voorkomen dat kunstmatige intelligentie zelfstandig zou kunnen besluiten desinformatie te verspreiden om de wereld naar haar hand te zetten of er zelf voor zorgt dat ze niet door mensen kan worden uitgeschakeld.
Bron
AI is learning how to create itself
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
AMSTERDAM - Prominenten uit de Amerikaanse techwereld, onder wie Elon Musk en Apple-medeoprichter Steve Wozniak, slaan alarm over kunstmatige intelligentie, die zo slim wordt dat het maar de vraag is of de mens haar nog onder controle kan houden.
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
Technologiebedrijven als Microsoft, Google en Facebook voeren de laatste maanden een vinnig gevecht waarin ze elkaar aftroeven met nóg slimmere chatbots, die antwoorden en andere teksten kunnen produceren die nauwelijks nog van menselijke conversatie verschillen. Over het taalmodel GPT-4, dat begin maart door Microsoft-partner OpenAI werd gelanceerd, vertelden techneuten dat ze ’vonken’ van mensachtige intelligentie hadden waargenomen. Inmiddels zijn nog slimmere versies in de maak, waarvan gevreesd wordt dat die de intelligentie van mensen zal evenaren of overtreffen.
De ondertekenaars willen voorkomen dat kunstmatige intelligentie zelfstandig zou kunnen besluiten desinformatie te verspreiden om de wereld naar haar hand te zetten of er zelf voor zorgt dat ze niet door mensen kan worden uitgeschakeld.
Bron
AI is learning how to create itself
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
You have to stop the Q-tip when there's resistance!
Teeveepee. Interessant en gek dat hier al jaaaaren sciencefictionfilms over gemaakt worden en t nu toch zo ver lijkt te komen..
So rest assured I have the key to every opening
To every wishing well that's deep enough to dream
I want to show you just how fascinating kissing is
When earth collides with all the space between
To every wishing well that's deep enough to dream
I want to show you just how fascinating kissing is
When earth collides with all the space between
Het grootste probleem is dat je dit niet meer terug de doos in gaat duwen, zelfs de publiek open AI modellen zijn al enorm krachtig, en wat ook een behoorlijk gevaar is is, dat scammers en criminelen dit soort techniek naadloos weten te integreren. Wat ook niet helpt is dat de meeste bestaande AI modellen nu redelijk makkelijk te zijn extenden, moest je vroeger een compleet model opbouwen (wat Miljoenen aan handwerk kost), tegenwoordig kun je gewoon een bestaand model pakken en dat opvoeren met je eigen data. Je hoeft ook geen data scientist meer te zijn, een beetje handig met software installeren is voldoende.
Op gebied van AI beeld kun je hier de voorbeelden zien van mensen die zelf de modellen hebben uitgebreid: https://civitai.com/
Op gebied van AI beeld kun je hier de voorbeelden zien van mensen die zelf de modellen hebben uitgebreid: https://civitai.com/
Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.quote:Op zaterdag 8 april 2023 15:36 schreef Yevgeuni het volgende:
[..]
ik zie het gevaar niet zo
geef eens wat concrete voorbeelden
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burgerquote:
[..]
Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.
De meeste grote bedrijven hebben hun security inmiddels wel goed op orde, ik zie vooral problemen bij de middelgrote bedrijven en sectoren die weinig aandacht aan hun beveiliging hebben gegeven. Wat bijvoorbeeld nog steeds een groot probleem zijn, zijn de industriële systemen. Kan behoorlijk vervelend zijn als een hacker even her en der wat sluizen open zet.quote:
[..]
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burger
Ik voorzie een tijd waarin vooral het internet de nek omgedraaid gaat worden, niet meer serieus genomen wordt, want 'toch allemaal fake'.
Eens kijken
Ik dacht dat ik er een reeks van had gemaakt, niet dus.
Kan een mod dat als nog doen?
Kan een mod dat als nog doen?
You have to stop the Q-tip when there's resistance!
Voor dodelijke wapens heb je geen AI nodig. Vraag maar aan Japan.quote:
[..]
Ik denk dat de chipboycot van de VS van China niet uit de lucht komt vallen.
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voorquote:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Vakman pur sang
Zou het onvermogen van de staat, als potentieel de enige regulerende agent (alhoewel dat ook een farce zal blijken), juist niet méér angst moeten inboezemen bij de ontwikkeling die volledig langs hem heen, zij het in het buitenland, zij het in de private sector, gerealiseerd wordt?quote:Op maandag 10 april 2023 23:39 schreef Lospedrosa het volgende:
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
“My soul is impatient with itself, as with a bothersome child; its restlessness keeps growing and is forever the same. Everything interests me, but nothing holds me.” ― Fernando Pessoa
Nee, maar zo ver zijn we natuurlijk ook nog niet. Het gaat er om dat we een punt bereiken waarna het zelf volledig autonoom dingen kan doen en zichzelf exponentieel verbeteren en bijleren. Dan begint het.quote:
[..]
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Volgens mij worden computers door"AI" alleen gevaarlijk efficient. En het gaat om wie die AI's programmeert. We hebben gezien met ChatGPT dat "AI" gevaarlijk censurerend kan doen of open kan zijn. Dus komt het neer op de (eventueel maar er zijn er veel) gevaarlijk sociopatische gekke mensen die een AI programmeren voor x doel. Bijvoorbeeld het ondermijnen van normale burgers.quote:Op zaterdag 8 april 2023 15:21 schreef Speedfight het volgende:
Teeveepee. Interessant en gek dat hier al jaaaaren sciencefictionfilms over gemaakt worden en t nu toch zo ver lijkt te komen..
Zolang AI geen directe toegang krijgt toch laboratoria en energiecentrales en dergelijke zal het denk ik wel meevallen. Je hebt dan altijd slechts een (eventueel heel slim) brein in een doos maar zonder 'handen' en 'voeten'
Eigenlijk is m'n grootste angst dat AI straks niet meer verder ontwikkeld kan worden omdat er niet genoeg betrouwbare data online meer te vinden is als straks een groot deel van alle content door eerdere AI modellen gemaakt is.
Dan krijg je een kut en dood internet, maar ook geen echte 'AGI' zoals in science fiction. Worst of both worlds zeg maar.
Eigenlijk is m'n grootste angst dat AI straks niet meer verder ontwikkeld kan worden omdat er niet genoeg betrouwbare data online meer te vinden is als straks een groot deel van alle content door eerdere AI modellen gemaakt is.
Dan krijg je een kut en dood internet, maar ook geen echte 'AGI' zoals in science fiction. Worst of both worlds zeg maar.
Opgeblazen gevoel of winderigheid? Zo opgelost met Rennie!
De huidige generatie AI heeft nog niets met echte intelligentie te maken, maar alles met uitstekende patroonherkenning en taalbegrip. Zelfbewustzijn en werelddominantie zijn echt nog niet in zicht.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
|
|
