abonnement iBood bol.com Vodafone Ziggo Coolblue
pi_60755299
Wordt het ontwikkelen van kunstmatige intelligentie de ondergang van de mensheid?

Wanneer we 'computers' maken die intelligenter (wat de definitie daarvan ook is) zijn dan hun ontwerpers, en wanneer we hen in staat stellen om zichzelf te repareren en zelfs te verbeteren, dan hebben we het punt bereikt dat Singularity wordt genoemd.

Op bepaald moment kan zo'n intelligentie beslissen dat de mensheid maar vervelend is, een bedreiging zelfs. En dan is het . (De overbekende SF-scenario's.)

Wat zou de beste manier zijn om zo'n scenario te voorkomen?

  • Moeten we een ban zetten op het verder ontwikkelen van kunstmatige intelligentie? Is dat überhaupt mogelijk, of gaat die ontwikkeling (wereldwijd internet etc) vrijwel autonoom?

  • Moeten we research op dit gebied streng reguleren (net als bijvoorbeeld kernenergie en gentechnologie?) en proberen te hannesen met Asimov's robotwetten? Een soort überwetten ingebakken in het 'bios' van zo'n kunstmatige intelligentie? Is dat betrouwbaar genoeg?

  • Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.

    Andere strategieën om zo'n doemscenario te voorkomen?
  •   dinsdag 12 augustus 2008 @ 10:22:07 #2
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60755419
    quote:
    Op dinsdag 12 augustus 2008 10:17 schreef DennisMoore het volgende:
    Wat zou de beste manier zijn om zo'n scenario te voorkomen?

  • Moeten we een ban zetten op het verder ontwikkelen van kunstmatige intelligentie? Is dat überhaupt mogelijk, of gaat die ontwikkeling (wereldwijd internet etc) vrijwel autonoom?

  • Moeten we research op dit gebied streng reguleren (net als bijvoorbeeld kernenergie en gentechnologie?) en proberen te hannesen met Asimov's robotwetten? Een soort überwetten ingebakken in het 'bios' van zo'n kunstmatige intelligentie? Is dat betrouwbaar genoeg?

  • Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.
  • Het laatste is onvermijdelijk lijkt me.
    Bijvoorbeeld Sergey Brinn van Google maakt er geen geheim van dat het zijn doel is om voor het einde van zijn leven iedereen aan een Google-implant te helpen, waardoor iedereen altijd beschikt over alle informatie.
    Zoals auto's zijn geintegreerd in ons leven nu, zal AI er ook steeds meer deel van gaan uitmaken.
    Dan mag je alleen hopen dat we het hebben over Artificial Intelligence, en niet Artificial Insanity.
    zzz
      dinsdag 12 augustus 2008 @ 10:22:56 #3
    13250 Lod
    Sapere aude!
    pi_60755439
    quote:
    Op dinsdag 12 augustus 2008 10:17 schreef DennisMoore het volgende:
  • Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.
  • Aangezien de evolutie nooit stil staat en wij toch al lang bezig zijn met het ingrijpen in natuurlijk processen zal dit wel een denkbaar scenario zijn.
    We are Borg, resistance is futile!
    GNU Terry Pratchett
    pi_60755492
    Daarvoor bestaat dus de 3 wetten van robotica, die zullen goed genoeg zijn.

    Eerste Wet
    Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

    Tweede Wet
    Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
    behalve als die opdrachten in strijd zijn met de Eerste Wet.

    Derde Wet
    Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
      dinsdag 12 augustus 2008 @ 10:29:58 #5
    13250 Lod
    Sapere aude!
    pi_60755614
    quote:
    Op dinsdag 12 augustus 2008 10:22 schreef L.Denninger het volgende:
    Het laatste is onvermijdelijk lijkt me.
    Bijvoorbeeld Sergey Brinn van Google maakt er geen geheim van dat het zijn doel is om voor het einde van zijn leven iedereen aan een Google-implant te helpen, waardoor iedereen altijd beschikt over alle informatie.
    Maar dan krijg je natuurlijk wel een splitsing in mensen die dit wel willen en mensen die dat niet willen. Ik behoor tot de laatste groep.
    GNU Terry Pratchett
      dinsdag 12 augustus 2008 @ 10:34:40 #6
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60755739
    quote:
    Op dinsdag 12 augustus 2008 10:25 schreef bigore het volgende:
    Daarvoor bestaat dus de 3 wetten van robotica, die zullen goed genoeg zijn.

    Eerste Wet
    Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

    Tweede Wet
    Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
    behalve als die opdrachten in strijd zijn met de Eerste Wet.

    Derde Wet
    Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
    Asimov's wetten zijn leuk en aardig, maar werken alleen als een robot altijd de complete gevolgen van zijn eigen acties kan zien / beredeneren.
    Volgens deze regels gaan robots voor dieren, dus zou het geen enkel probleem zijn alle dieren uit te moorden. Wat weer zo z'n effect op mensen zou hebben, uiteraard - maar hoe moet een robot dat weten ?

    Verder gaat AI wel wat verder dan robotica naar mijn mening.
    Een robot is volgens de definitie een "mechanisme dat al of niet de gedaante van een mens heeft en verrichtingen of arbeid kan uitvoeren".
    Kortom, domme kracht.
    zzz
      dinsdag 12 augustus 2008 @ 10:37:42 #7
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60755809
    quote:
    Op dinsdag 12 augustus 2008 10:29 schreef Lod het volgende:

    [..]

    Maar dan krijg je natuurlijk wel een splitsing in mensen die dit wel willen en mensen die dat niet willen. Ik behoor tot de laatste groep.
    Dan behoor je tot een uitstervende groep.
    Om sociaal maatschappelijk mee te kunnen komen zul je de concurrentie op bijvoorbeeld de arbeidsmarkt dus aan moeten gaan met mensen die altijd veel meer kennis tot hun beschikking hebben dan jij.
    Net zoals mensen die niet met computers kunnen omgaan nu al een enorme handicap hebben op de arbeidsmarkt, zullen mensen die hier niet in mee willen gaan ook sociaal maatschappelijke paria worden.
    Of dat goed of wenselijk is daar laat ik me niet over uit, maar het is niet meer dan logisch.
    zzz
      dinsdag 12 augustus 2008 @ 10:59:48 #8
    13250 Lod
    Sapere aude!
    pi_60756366
    quote:
    Op dinsdag 12 augustus 2008 10:37 schreef L.Denninger het volgende:
    Dan behoor je tot een uitstervende groep.
    Dat lijkt mij persoonlijk een beetje te kort door de bocht. Ik verwacht eerder dat de meeste mensen er tegen zullen zijn en dat juist de mensen met AI als paria's zullen worden gezien.
    Denk niet dat we het gaan meemaken in ieder geval .
    GNU Terry Pratchett
    pi_60756382
    Intelligentere mensen (die in welvaart leven) beseffen steeds meer dat we voorzichtig dienen om te gaan met lagere diersoorten. Niet alleen uit eigenbelang (ecosystemen) maar ook vanuit ethisch oogpunt.

    Zouden we erop kunnen vertrouwen dat een kunstmatige intelligentie ook zo'n soort moraal ontwikkeld? Of zouden we die kunnen inprogrammeren?

    Of zouden daarvoor emoties noodzakelijk zijn? Met alle kwalijke kanten die die weer met zich mee kunnen brengen...
    pi_60756443
    quote:
    Op dinsdag 12 augustus 2008 10:59 schreef Lod het volgende:

    Denk niet dat we het gaan meemaken in ieder geval .
    Mwoah... daar kon je nog wel 's ongelijk in hebben.
    Maargoed, anders onze (klein-)kinderen wel.
      dinsdag 12 augustus 2008 @ 11:14:25 #11
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60756683
    quote:
    Op dinsdag 12 augustus 2008 10:59 schreef Lod het volgende:

    [..]

    Dat lijkt mij persoonlijk een beetje te kort door de bocht. Ik verwacht eerder dat de meeste mensen er tegen zullen zijn en dat juist de mensen met AI als paria's zullen worden gezien.
    Als het in 1 klap zou gebeuren zou ik je geljk geven, maar het gaat geleidelijk.
    Eerst de mobiele telefoons, dan de headsets, dan internet erop, dan draadloze headsets, dan mind-controlled head-sets (je hoeft alleen maar een nummer te denken) etcetera.
    Er zijn genoeg adopters om alles langzaam 'normaal' te maken.

    Een voorbeeldje - ben je principieel tegen tomtom ?
    Of is dat soort 'AI' toch wel makkelijk in het dagelijks leven ?
    zzz
    pi_60756745
    Het probleem met kunstmatige intelligentie is niet dat we niet weten hoe de AI's zich zouden moeten gaan gedragen. Als we ze zover konden krijgen dat ze zich als voorbeeldige modelpersonen gingen gedragen zouden ze ook geen bedreiging gaan vormen. Wij weten zelf toch ook allemaal heel goed hoe we ons zouden moeten gedragen, we doen het alleen nooit. Er zou maar een wet van de robotica hoeven te zijn, en dat is "heb uw naaste lief boven uzelve"

    Het echte probleem is vooral daarin gelegen hoe we ze zover kunnen krijgen. Een echte AI kan per definitie niet voorgeprogrammeerd zijn, maar moet door een leerproces worden gevormd. We weten als mensheid al nauwelijks hoe we onze eigen kinderen moeten opvoeden. Hoe willen we dan in staat zijn om een intelligentie die per definitie groter en omvangrijker zal zijn dan die van onszelf op te voeden? Hoe kunnen we ooit weten hoe en wat iets dergelijks aan het denken is?
    pi_60756803
    AI is de logische opvolger van de mensheid in de evolutie. Onvermijdelijk.
    Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
    mijn nederlands is 1000 x beter dan de joune
      dinsdag 12 augustus 2008 @ 11:20:31 #14
    94617 Ps2K
    And his space hamster Skeletor
    pi_60756844
    quote:
    Op dinsdag 12 augustus 2008 11:19 schreef Flashwin het volgende:
    AI is de logische opvolger van de mensheid in de evolutie. Onvermijdelijk.
    Mee eens. Over een paar 100 jaar zijn wij net als de Borg uit Star Trek. Best vet eigenlijk, ik heb altijd al een Borg cube willen hebben.
    http://www.last.fm/user/psych02k
    Yes, it is perfectly reasonable that Kirk had the know-how to make the gunpowder and put together the bazooka to defeat the Gorn. That\'s why he\'s the goddamn Captain.
    pi_60756934
    Straks engineeren we allerlei lichaamsdelen, als reserve-onderdelen. Als we ook een kunstmatig brein zouden weten te bakken voor onszelf, dan wordt het vast ook vrij makkelijk om de inhoud ervan op een dvd'tje te gooien, en de computer in dus.

    Op zo'n moment (als dat zou lukken met behoud van bewustzijn en emoties enzo) heb je dus als mens geen lichaam meer nodig, en wordt je hersencapaciteit ook niet meer beperkt door je hoeveelheid hersencellen en neuronen. Wanneer de eerste mensen worden ge-upload en online gaan rondzwerven... is dat een mogelijke 'verdediging' tegen kunstmatige intelligenties die online rondzwerven?

    Okay, dit wordt wel erg fantasierijk misschien .
      dinsdag 12 augustus 2008 @ 11:23:42 #16
    13250 Lod
    Sapere aude!
    pi_60756939
    quote:
    Op dinsdag 12 augustus 2008 11:14 schreef L.Denninger het volgende:
    Een voorbeeldje - ben je principieel tegen tomtom ?
    Of is dat soort 'AI' toch wel makkelijk in het dagelijks leven ?
    Tomtom is makkelijk als je in een vreemde grote stad bent en je tijdens het rijden geen tijd hebt om ook nog eens op de weg te letten. Bijvoorbeeld als je de Peripherique van Parijs en in Parijs moet zijn.
    Ik vind het zelf vreselijk om puur op de Tomtom te rijden, je weet niet meer waar je bent. Ik gebruik bij voorkeur de ouderwetse landkaart.
    GNU Terry Pratchett
      dinsdag 12 augustus 2008 @ 11:27:27 #17
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60757038
    quote:
    Op dinsdag 12 augustus 2008 11:23 schreef Lod het volgende:

    [..]

    Tomtom is makkelijk als je in een vreemde grote stad bent en je tijdens het rijden geen tijd hebt om ook nog eens op de weg te letten. Bijvoorbeeld als je de Peripherique van Parijs en in Parijs moet zijn.
    Ik vind het zelf vreselijk om puur op de Tomtom te rijden, je weet niet meer waar je bent. Ik gebruik bij voorkeur de ouderwetse landkaart.
    Aha.
    Maar toch wel makkelijk dus, en behoorlijk ingeburgerd inmiddels.
    zzz
    pi_60757095
    En straks is een papieren landkaart net zo lastig te kopen als tegenwoordig een draaischijf-telefoon .
      dinsdag 12 augustus 2008 @ 11:29:35 #19
    31101 _Led_
    Visje aaien niemand zeggen
    pi_60757115
    Leuke tip :

    Het boek "Shutdown" van Eric L. Harry.
    Bill Gray ( ) heeft de eerste echte kunstmatig intelligente computer gebouwd die 'leeft' - en hyperintelligent is.
    En nadat ie de wereld heeft leren kennen, raakt ie depressief en wil ie z'n eigen stekker eruit trekken.
    Taak van een psychologe om 'm weer de zin van het leven te laten inzien.
    zzz
    pi_60757251
    Hehe, leuk concept.

    In veel SF films en boeken verschillen mensen niet zoveel met mensen vandaag de dag. Nog steeds individuen zonder implants, met een zelfde levensverwachting. Enkel de technologische tools die ze gebruiken zijn geavanceerder geworden.

    Lijkt me niet zo waarschijnlijk eerlijk gezegd.
    pi_60757652
    quote:
    Op dinsdag 12 augustus 2008 11:23 schreef DennisMoore het volgende:
    Straks engineeren we allerlei lichaamsdelen, als reserve-onderdelen. Als we ook een kunstmatig brein zouden weten te bakken voor onszelf, dan wordt het vast ook vrij makkelijk om de inhoud ervan op een dvd'tje te gooien, en de computer in dus.

    Op zo'n moment (als dat zou lukken met behoud van bewustzijn en emoties enzo) heb je dus als mens geen lichaam meer nodig, en wordt je hersencapaciteit ook niet meer beperkt door je hoeveelheid hersencellen en neuronen. Wanneer de eerste mensen worden ge-upload en online gaan rondzwerven... is dat een mogelijke 'verdediging' tegen kunstmatige intelligenties die online rondzwerven?

    Okay, dit wordt wel erg fantasierijk misschien .
    Helemaal niet. Dit is waarschijnlijk precies wat de mensheid gaat proberen in desperate pogingen niet totaal vervangen te worden door AI.

    Maar ik blijf erbij dat het onvermijdelijk is dat AI ons zal vervangen. AI zal uiteindelijk in alles veruit superieur aan ons zijn.
    Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
    mijn nederlands is 1000 x beter dan de joune
    pi_60757795
    Maar als er straks 6+ miljard mensen virtueel gaan leven, en daarmee de beperkingen van hun huidige brein kunnen overstijgen... Wat is dan nog de grens tussen de kunstmatige en de 'natuurlijke' intelligentie?

    Gaan we toe naar een soort 'Gaia' zoals Asimov dat omschreef? Een grote intelligente entiteit?
    pi_60757881
    quote:
    Op dinsdag 12 augustus 2008 11:50 schreef DennisMoore het volgende:
    Maar als er straks 6+ miljard mensen virtueel gaan leven, en daarmee de beperkingen van hun huidige brein kunnen overstijgen... Wat is dan nog de grens tussen de kunstmatige en de 'natuurlijke' intelligentie?

    Gaan we toe naar een soort 'Gaia' zoals Asimov dat omschreef? Een grote intelligente entiteit?
    IMO is de grens de imperfectie die inherent is aan de mens. Een mens zal nooit perfect zijn.

    AI wel.
    Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
    mijn nederlands is 1000 x beter dan de joune
      dinsdag 12 augustus 2008 @ 11:54:39 #24
    13250 Lod
    Sapere aude!
    pi_60757925
    quote:
    Op dinsdag 12 augustus 2008 11:29 schreef L.Denninger het volgende:
    Het boek "Shutdown" van Eric L. Harry.
    Ik wacht wel op de film met Will Smith .
    GNU Terry Pratchett
    pi_60758116
    quote:
    Op dinsdag 12 augustus 2008 11:53 schreef Flashwin het volgende:

    IMO is de grens de imperfectie die inherent is aan de mens. Een mens zal nooit perfect zijn.

    AI wel.
    Kwestie van definitie van 'perfectie'.

    Maargoed, waar zou in zo'n situatie de ene intelligentie ophouden en de andere beginnen?

    [ Bericht 0% gewijzigd door DennisMoore op 12-08-2008 12:16:25 ]
    abonnement iBood bol.com Vodafone Ziggo Coolblue
    Forum Opties
    Forumhop:
    Hop naar:
    (afkorting, bv 'KLB')