Een reactie als deze is al vaker voorbij gekomen.quote:Op donderdag 13 april 2023 17:43 schreef mcmlxiv het volgende:
De huidige generatie AI heeft nog niets met echte intelligentie te maken, maar alles met uitstekende patroonherkenning en taalbegrip. Zelfbewustzijn en werelddominantie zijn echt nog niet in zicht.
Het probleem is dat dit soort ontwikkelingen niet reguleerbaar zijn. Wat wil je precies verbieden? En hoe ga je dat wereldwijd organiseren? De angst voor het oplopen van achterstanden ten opzichte van bijvoorbeeld China zal altijd winnen. Om nog maar te zwijgen over heel eenvoudige hebzucht.
Kortom vooral heel boeiend en wie weet, misschien is AI uiteindelijk wel de invulling van de Great Filter theorie.
Daarbij is een op hol geslagen op AI gebaseerde paperclip fabriek waarschijnlijk een groter risico dan Skynet.
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.quote:Op donderdag 13 april 2023 17:48 schreef schommelstoel het volgende:
[..]
Een reactie als deze is al vaker voorbij gekomen.
En toch denk ik dat ze er beter vroeg bij kunnen zijn.
Denk ook dat de één te bang is en de ander te laks.
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.quote:Op donderdag 13 april 2023 19:30 schreef mcmlxiv het volgende:
[..]
Vertel hoe ga jij de Chinezen, de Russen en de hebzuchtigen reguleren? Uitstel, Max een decennium of zo, maar krachtiger hardware, quantum, andere nieuwe innovaties, je houdt het niet tegen.
Ja precies, het is met nucleaire wapens niet gelukt en dat is een super concreet issue + een duidelijk beeld (een enorme explosies). AI is nog een heel vaag en ongrijpbaar iets.quote:Op donderdag 13 april 2023 20:37 schreef Naqin het volgende:
[..]
Eén van de problemen is dat de ontwikkeling van de modellen veel harder gaat dan de resultaten van onderzoek naar AI veiligheid, een decennium uitstel zou gigantisch zijn. Maar ik zie het ook niet gebeuren, om dezelfde reden dat landen nog steeds nucleaire wapens hebben.
Een link naar die open brief?quote:Op zaterdag 8 april 2023 14:28 schreef schommelstoel het volgende:
In een open brief pleiten ze voor een pauze van zes maanden in de voorbereiding van nog slimmere systemen dan nu op de markt zijn, om regels en toezicht op kunstmatige intelligentie in stelling te brengen.
[..]
Als er user zijn die vinden dat bepaalde links met info in de OP horen, dan hoor ik het wel
Als iemand die brief online kan vinden die door meer dan 13,000 mensen is ondertekend, zou mooi zijn.quote:
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.quote:Op maandag 10 april 2023 23:34 schreef Discombobulate het volgende:
Denk dat we hier wel gigantische problemen mee gaan krijgen binnen nu en 50 jaar. Einde van de mensheid? Allicht, maar dat gaat wel een proces zijn van honderd a tweehonderd jaar. The devil is in the details. Als het echt zo veel intelligenter is kunnen we echt niet alles overzien. We denken van wel met maatregelen, maar ik zie het niet gebeuren.
Ik vrees vooral het moment vóór de singulariteit: wat als één partij AI voor enige tijd weet te beheersen en daarmee bv de defensie van andere staten/partijen volledig weet te ondermijnen? Of wat zal de angst voor die mogelijkheid al niet teweeg kunnen brengen? Wat als Rusland informatie krijgt dat de VS op het punt staat het gehele Russische defensiesysteem plat te leggen?quote:Op zaterdag 15 april 2023 20:31 schreef Oud_student het volgende:
Dit alles leidt omvermijdelijk tot een technologische singulariteit
Nou, niet per se lineair hoor, maar we staan nu ook nog in kinderschoenen. Kurzweil's voorspelling vind ik wel wat too much. Ik denk 100-200 jaar.quote:Op zaterdag 15 april 2023 20:31 schreef Oud_student het volgende:
[..]
Je denkt lineair, de ontwikkelingen gaan exponentieel, AI verbetert zichzelf, leert steeds sneller en er vindt kruisbestuiving op andere gebieden plaats, bv. Hardware ontwikkeling, Quantum Computing etc.
Op alle terreinen zullen zaken worden verbeterd, waardoor nog meer kennis en nog snellere ontwikkelingen gaan plaats vinden. Met name als er een doorbraak komt op het gebied van Quantum Computing, dan kan de AI meer dan exponentieel groeien. ChatGPT is slechts spielerei voor de grote massa. Ik huiver bij de gedachte welke AI nu al bij Defensie, IIBM, Google, Tesla etc, beschikbaar is (dat zullen ze aan het grote publiek niet aan hun neus hangen)
Dit alles leidt omvermijdelijk tot een technologische singulariteit, Kurzweil voorspelt die al in 2045, mits natuurlijk voor die tijd niets echt misgaat
een algoritme zal doen wat ie voor geprogrammeeerd is als grondbeginsel , als dat is vernietig de USA , dan is t niet bestquote:Op zaterdag 15 april 2023 22:21 schreef Cockwhale het volgende:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
De vraag is of het überhaupt plannen voor de mens zal hebben en wat voor een ethiek (de zienswijze op goed en slecht) het zal volgen mocht het wel het geval zijn. Wat als AI een utilitarian blijkt en omwille het 'geluk' van het grootst aantal mensen bereid blijkt om een kleiner doch significant deel mensen op te offeren? Of misschien analyseert het ons als louter biologische machines die het best 'functioneren' wanneer ze volledig gecontroleerd en door stofjesregulering aangestuurd worden.quote:Op zaterdag 15 april 2023 22:21 schreef Cockwhale het volgende:
Waarom ervan uitgaan dat een toekomstige, geavanceerde AI slechte plannen heeft voor de mensheid/wereld? Wie weet staat ons een utopia te wachten. Alsof het nu allemaal zo geweldig gaat. De mens zelf is zich ten gronde aan het richten, niet een AI.
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.quote:Op zondag 16 april 2023 05:59 schreef Cockwhale het volgende:
Of het helpt ons in de ontwikkeling van nieuwe technologieën en levenswijzen, die ons in staat stellen om allerlei problematieken waar we nu tegen aanlopen op te lossen.
Als klootzakken het uitgangspunt zijn om te bepalen wat we wel of niet mogen, dan kunnen we beter collectief zelfmoord plegen.quote:Op zondag 16 april 2023 12:46 schreef schommelstoel het volgende:
[..]
Mooie gedachten, maar en zijn altijd klootzakjes die het voor hele andere doeleinden gaan gebruiken.
HentaiChickAI.trojan het web opslingeren bijvoorbeeld
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |