AMSTERDAM - Prominenten uit de Amerikaanse techwereld, onder wie Elon Musk en Apple-medeoprichter Steve Wozniak, slaan alarm over kunstmatige intelligentie, die zo slim wordt dat het maar de vraag is of de mens haar nog onder controle kan houden.
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
Technologiebedrijven als Microsoft, Google en Facebook voeren de laatste maanden een vinnig gevecht waarin ze elkaar aftroeven met nóg slimmere chatbots, die antwoorden en andere teksten kunnen produceren die nauwelijks nog van menselijke conversatie verschillen. Over het taalmodel GPT-4, dat begin maart door Microsoft-partner OpenAI werd gelanceerd, vertelden techneuten dat ze ’vonken’ van mensachtige intelligentie hadden waargenomen. Inmiddels zijn nog slimmere versies in de maak, waarvan gevreesd wordt dat die de intelligentie van mensen zal evenaren of overtreffen.
De ondertekenaars willen voorkomen dat kunstmatige intelligentie zelfstandig zou kunnen besluiten desinformatie te verspreiden om de wereld naar haar hand te zetten of er zelf voor zorgt dat ze niet door mensen kan worden uitgeschakeld.
Bron
AI is learning how to create itself
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
Op gebied van AI beeld kun je hier de voorbeelden zien van mensen die zelf de modellen hebben uitgebreid: https://civitai.com/
Waaruit precies?quote:
ik zie het gevaar niet zoquote:
geef eens wat concrete voorbeelden
Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.quote:Op zaterdag 8 april 2023 15:36 schreef Yevgeuni het volgende:
[..]
ik zie het gevaar niet zo
geef eens wat concrete voorbeelden
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burgerquote:
[..]
Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.
De meeste grote bedrijven hebben hun security inmiddels wel goed op orde, ik zie vooral problemen bij de middelgrote bedrijven en sectoren die weinig aandacht aan hun beveiliging hebben gegeven. Wat bijvoorbeeld nog steeds een groot probleem zijn, zijn de industriële systemen. Kan behoorlijk vervelend zijn als een hacker even her en der wat sluizen open zet.quote:
[..]
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burger
quote:
Uit FOK!quote:
Kan een mod dat als nog doen?
Voor dodelijke wapens heb je geen AI nodig. Vraag maar aan Japan.quote:
[..]
Ik denk dat de chipboycot van de VS van China niet uit de lucht komt vallen.
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voorquote:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Zou het onvermogen van de staat, als potentieel de enige regulerende agent (alhoewel dat ook een farce zal blijken), juist niet méér angst moeten inboezemen bij de ontwikkeling die volledig langs hem heen, zij het in het buitenland, zij het in de private sector, gerealiseerd wordt?quote:Op maandag 10 april 2023 23:39 schreef Lospedrosa het volgende:
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
Nee, maar zo ver zijn we natuurlijk ook nog niet. Het gaat er om dat we een punt bereiken waarna het zelf volledig autonoom dingen kan doen en zichzelf exponentieel verbeteren en bijleren. Dan begint het.quote:
[..]
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
Volgens mij worden computers door"AI" alleen gevaarlijk efficient. En het gaat om wie die AI's programmeert. We hebben gezien met ChatGPT dat "AI" gevaarlijk censurerend kan doen of open kan zijn. Dus komt het neer op de (eventueel maar er zijn er veel) gevaarlijk sociopatische gekke mensen die een AI programmeren voor x doel. Bijvoorbeeld het ondermijnen van normale burgers.quote:Op zaterdag 8 april 2023 15:21 schreef Speedfight het volgende:
Teeveepee. Interessant en gek dat hier al jaaaaren sciencefictionfilms over gemaakt worden en t nu toch zo ver lijkt te komen..
Eigenlijk is m'n grootste angst dat AI straks niet meer verder ontwikkeld kan worden omdat er niet genoeg betrouwbare data online meer te vinden is als straks een groot deel van alle content door eerdere AI modellen gemaakt is.
Dan krijg je een kut en dood internet, maar ook geen echte 'AGI' zoals in science fiction. Worst of both worlds zeg maar.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
Een reactie als deze is al vaker voorbij gekomen.quote:
De huidige generatie AI heeft nog niets met echte intelligentie te maken, maar alles met uitstekende patroonherkenning en taalbegrip. Zelfbewustzijn en werelddominantie zijn echt nog niet in zicht.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
En toch denk ik dat ze er beter vroeg bij kunnen zijn.
Denk ook dat de één te bang is en de ander te laks.
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.quote:
[..]
Een reactie als deze is al vaker voorbij gekomen.
En toch denk ik dat ze er beter vroeg bij kunnen zijn.
Denk ook dat de één te bang is en de ander te laks.
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.quote:
[..]
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.
Ja precies, het is met nucleaire wapens niet gelukt en dat is een super concreet issue + een duidelijk beeld (een enorme explosies). AI is nog een heel vaag en ongrijpbaar iets.quote:
[..]
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.
Een link naar die open brief?quote:
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
[..]
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
Als iemand die brief online kan vinden die door meer dan 13,000 mensen is ondertekend, zou mooi zijn.quote:
Dan voeg ik hem graag toe.
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.quote:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Op alle terreinen zullen zaken worden verbeterd, waardoor nog meer kennis en nog snellere ontwikkelingen gaan plaats vinden. Met name als er een doorbraak komt op het gebied van Quantum Computing, dan kan de AI meer dan exponentieel groeien. ChatGPT is slechts spielerei voor de grote massa. Ik huiver bij de gedachte welke AI nu al bij Defensie, IIBM, Google, Tesla etc, beschikbaar is (dat zullen ze aan het grote publiek niet aan hun neus hangen)
Dit alles leidt omvermijdelijk tot een technologische singulariteit, Kurzweil voorspelt die al in 2045, mits natuurlijk voor die tijd niets echt misgaat
Ik vrees vooral het moment vóór de singulariteit: wat als één partij AI voor enige tijd weet te beheersen en daarmee bv de defensie van andere staten/partijen volledig weet te ondermijnen? Of wat zal de angst voor die mogelijkheid al niet teweeg kunnen brengen? Wat als Rusland informatie krijgt dat de VS op het punt staat het gehele Russische defensiesysteem plat te leggen?quote:
Dit alles leidt omvermijdelijk tot een technologische singulariteit
Nou, niet per se lineair hoor, maar we staan nu ook nog in kinderschoenen. Kurzweil's voorspelling vind ik wel wat too much. Ik denk 100-200 jaar.quote:
[..]
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.
Op alle terreinen zullen zaken worden verbeterd, waardoor nog meer kennis en nog snellere ontwikkelingen gaan plaats vinden. Met name als er een doorbraak komt op het gebied van Quantum Computing, dan kan de AI meer dan exponentieel groeien. ChatGPT is slechts spielerei voor de grote massa. Ik huiver bij de gedachte welke AI nu al bij Defensie, IIBM, Google, Tesla etc, beschikbaar is (dat zullen ze aan het grote publiek niet aan hun neus hangen)
Dit alles leidt omvermijdelijk tot een technologische singulariteit, Kurzweil voorspelt die al in 2045, mits natuurlijk voor die tijd niets echt misgaat
een algoritme zal doen wat ie voor geprogrammeeerd is als grondbeginsel , als dat is vernietig de USA , dan is t niet bestquote:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
Maar ik neem aan dat de eerste 3 wetten bestaan uit zo efficient mogelijk geld verdienen, de mens helpen en gezondheid
Erg efficient is natuurlijk de mensheid opruimen, dat is ook het beste voor de mensheid
maar niemand weet het
De vraag is of het überhaupt plannen voor de mens zal hebben en wat voor een ethiek (de zienswijze op goed en slecht) het zal volgen mocht het wel het geval zijn. Wat als AI een utilitarian blijkt en omwille het 'geluk' van het grootst aantal mensen bereid blijkt om een kleiner doch significant deel mensen op te offeren? Of misschien analyseert het ons als louter biologische machines die het best 'functioneren' wanneer ze volledig gecontroleerd en door stofjesregulering aangestuurd worden.quote:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
Misschien bewerkstelligd het een utopie, maar ten koste van iets wat geen mens het waard zou achten.
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.quote:
Of het helpt ons in de ontwikkeling van nieuwe technologieën en levenswijzen, die ons in staat stellen om allerlei problematieken waar we nu tegen aanlopen op te lossen.
HentaiChickAI.trojan het web opslingeren bijvoorbeeld
Als klootzakken het uitgangspunt zijn om te bepalen wat we wel of niet mogen, dan kunnen we beter collectief zelfmoord plegen.quote:
[..]
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.
HentaiChickAI.trojan het web opslingeren bijvoorbeeld
Laten ze het eens testen op een intranet dat het internet simuleert.
Het is dat 1 april al ff geleden is...