Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.quote:Op zaterdag 8 april 2023 15:36 schreef Yevgeuni het volgende:
[..]
ik zie het gevaar niet zo
geef eens wat concrete voorbeelden
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burgerquote:Op zaterdag 8 april 2023 15:41 schreef isieweertraag het volgende:
[..]
Ik voorspel nu al enorm veel hacks die plaats zullen vinden doordat AI makkelijk fouten in code kan opsporen, overigens gebeurt dat nu ook al (in goede zin), maar het is wachten tot de eerste ransomware groups dit gaan funden. Daarnaast wordt privacy ook een enorm ding.
De meeste grote bedrijven hebben hun security inmiddels wel goed op orde, ik zie vooral problemen bij de middelgrote bedrijven en sectoren die weinig aandacht aan hun beveiliging hebben gegeven. Wat bijvoorbeeld nog steeds een groot probleem zijn, zijn de industriële systemen. Kan behoorlijk vervelend zijn als een hacker even her en der wat sluizen open zet.quote:Op zaterdag 8 april 2023 15:49 schreef Yevgeuni het volgende:
[..]
zijn vooral grote bedrijven die het vrezen dan, niet de gewone burger
Voor dodelijke wapens heb je geen AI nodig. Vraag maar aan Japan.quote:Op vrijdag 7 april 2023 22:17 schreef Tanatos het volgende:
[..]
Ik denk dat de chipboycot van de VS van China niet uit de lucht komt vallen.
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voorquote:Op maandag 10 april 2023 23:34 schreef Discombobulate het volgende:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Zou het onvermogen van de staat, als potentieel de enige regulerende agent (alhoewel dat ook een farce zal blijken), juist niet méér angst moeten inboezemen bij de ontwikkeling die volledig langs hem heen, zij het in het buitenland, zij het in de private sector, gerealiseerd wordt?quote:Op maandag 10 april 2023 23:39 schreef Lospedrosa het volgende:
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
Nee, maar zo ver zijn we natuurlijk ook nog niet. Het gaat er om dat we een punt bereiken waarna het zelf volledig autonoom dingen kan doen en zichzelf exponentieel verbeteren en bijleren. Dan begint het.quote:Op maandag 10 april 2023 23:39 schreef Lospedrosa het volgende:
[..]
Zolang we nog niet eens de belastingsdienst van fatsoenlijke software die niet op XP draait kunnen voorzien vrees ik nergens voor
Volgens mij worden computers door"AI" alleen gevaarlijk efficient. En het gaat om wie die AI's programmeert. We hebben gezien met ChatGPT dat "AI" gevaarlijk censurerend kan doen of open kan zijn. Dus komt het neer op de (eventueel maar er zijn er veel) gevaarlijk sociopatische gekke mensen die een AI programmeren voor x doel. Bijvoorbeeld het ondermijnen van normale burgers.quote:Op zaterdag 8 april 2023 15:21 schreef Speedfight het volgende:
Teeveepee. Interessant en gek dat hier al jaaaaren sciencefictionfilms over gemaakt worden en t nu toch zo ver lijkt te komen..
Een reactie als deze is al vaker voorbij gekomen.quote:Op donderdag 13 april 2023 17:43 schreef mcmlxiv het volgende:
De huidige generatie AI heeft nog niets met echte intelligentie te maken, maar alles met uitstekende patroonherkenning en taalbegrip. Zelfbewustzijn en werelddominantie zijn echt nog niet in zicht.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.quote:Op donderdag 13 april 2023 17:48 schreef schommelstoel het volgende:
[..]
Een reactie als deze is al vaker voorbij gekomen.
En toch denk ik dat ze er beter vroeg bij kunnen zijn.
Denk ook dat de één te bang is en de ander te laks.
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.quote:Op donderdag 13 april 2023 19:30 schreef mcmlxiv het volgende:
[..]
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.
Ja precies, het is met nucleaire wapens niet gelukt en dat is een super concreet issue + een duidelijk beeld (een enorme explosies). AI is nog een heel vaag en ongrijpbaar iets.quote:Op donderdag 13 april 2023 20:37 schreef Naqin het volgende:
[..]
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.
Een link naar die open brief?quote:Op zaterdag 8 april 2023 14:28 schreef schommelstoel het volgende:
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
[..]
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
Als iemand die brief online kan vinden die door meer dan 13,000 mensen is ondertekend, zou mooi zijn.quote:
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.quote:Op maandag 10 april 2023 23:34 schreef Discombobulate het volgende:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Ik vrees vooral het moment vóór de singulariteit: wat als één partij AI voor enige tijd weet te beheersen en daarmee bv de defensie van andere staten/partijen volledig weet te ondermijnen? Of wat zal de angst voor die mogelijkheid al niet teweeg kunnen brengen? Wat als Rusland informatie krijgt dat de VS op het punt staat het gehele Russische defensiesysteem plat te leggen?quote:Op zaterdag 15 april 2023 20:31 schreef Oud_student het volgende:
Dit alles leidt omvermijdelijk tot een technologische singulariteit
Nou, niet per se lineair hoor, maar we staan nu ook nog in kinderschoenen. Kurzweil's voorspelling vind ik wel wat too much. Ik denk 100-200 jaar.quote:Op zaterdag 15 april 2023 20:31 schreef Oud_student het volgende:
[..]
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.
Op alle terreinen zullen zaken worden verbeterd, waardoor nog meer kennis en nog snellere ontwikkelingen gaan plaats vinden. Met name als er een doorbraak komt op het gebied van Quantum Computing, dan kan de AI meer dan exponentieel groeien. ChatGPT is slechts spielerei voor de grote massa. Ik huiver bij de gedachte welke AI nu al bij Defensie, IIBM, Google, Tesla etc, beschikbaar is (dat zullen ze aan het grote publiek niet aan hun neus hangen)
Dit alles leidt omvermijdelijk tot een technologische singulariteit, Kurzweil voorspelt die al in 2045, mits natuurlijk voor die tijd niets echt misgaat
een algoritme zal doen wat ie voor geprogrammeeerd is als grondbeginsel , als dat is vernietig de USA , dan is t niet bestquote:Op zaterdag 15 april 2023 22:21 schreef Cockwhale het volgende:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
De vraag is of het überhaupt plannen voor de mens zal hebben en wat voor een ethiek (de zienswijze op goed en slecht) het zal volgen mocht het wel het geval zijn. Wat als AI een utilitarian blijkt en omwille het 'geluk' van het grootst aantal mensen bereid blijkt om een kleiner doch significant deel mensen op te offeren? Of misschien analyseert het ons als louter biologische machines die het best 'functioneren' wanneer ze volledig gecontroleerd en door stofjesregulering aangestuurd worden.quote:Op zaterdag 15 april 2023 22:21 schreef Cockwhale het volgende:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.quote:Op zondag 16 april 2023 05:59 schreef Cockwhale het volgende:
Of het helpt ons in de ontwikkeling van nieuwe technologieën en levenswijzen, die ons in staat stellen om allerlei problematieken waar we nu tegen aanlopen op te lossen.
Als klootzakken het uitgangspunt zijn om te bepalen wat we wel of niet mogen, dan kunnen we beter collectief zelfmoord plegen.quote:Op zondag 16 april 2023 12:46 schreef schommelstoel het volgende:
[..]
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.
HentaiChickAI.trojan het web opslingeren bijvoorbeeld
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |