W&T Wetenschap & Technologie
Een plek om te discussiëren over wetenschappelijke onderwerpen, wetenschappelijke problemen, technologische projecten en grootse uitvindingen.
Wordt het ontwikkelen van kunstmatige intelligentie de ondergang van de mensheid?
Wanneer we 'computers' maken die intelligenter (wat de definitie daarvan ook is) zijn dan hun ontwerpers, en wanneer we hen in staat stellen om zichzelf te repareren en zelfs te verbeteren, dan hebben we het punt bereikt dat Singularity wordt genoemd.
Op bepaald moment kan zo'n intelligentie beslissen dat de mensheid maar vervelend is, een bedreiging zelfs. En dan is het
. (De overbekende SF-scenario's.)
Wat zou de beste manier zijn om zo'n scenario te voorkomen?
Moeten we een ban zetten op het verder ontwikkelen van kunstmatige intelligentie? Is dat überhaupt mogelijk, of gaat die ontwikkeling (wereldwijd internet etc) vrijwel autonoom?
Moeten we research op dit gebied streng reguleren (net als bijvoorbeeld kernenergie en gentechnologie?) en proberen te hannesen met Asimov's robotwetten? Een soort überwetten ingebakken in het 'bios' van zo'n kunstmatige intelligentie? Is dat betrouwbaar genoeg?
Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.
Andere strategieën om zo'n doemscenario te voorkomen?
Wanneer we 'computers' maken die intelligenter (wat de definitie daarvan ook is) zijn dan hun ontwerpers, en wanneer we hen in staat stellen om zichzelf te repareren en zelfs te verbeteren, dan hebben we het punt bereikt dat Singularity wordt genoemd.
Op bepaald moment kan zo'n intelligentie beslissen dat de mensheid maar vervelend is, een bedreiging zelfs. En dan is het
. (De overbekende SF-scenario's.)Wat zou de beste manier zijn om zo'n scenario te voorkomen?
Andere strategieën om zo'n doemscenario te voorkomen?
Het laatste is onvermijdelijk lijkt me.quote:Op dinsdag 12 augustus 2008 10:17 schreef DennisMoore het volgende:
Wat zou de beste manier zijn om zo'n scenario te voorkomen?Moeten we een ban zetten op het verder ontwikkelen van kunstmatige intelligentie? Is dat überhaupt mogelijk, of gaat die ontwikkeling (wereldwijd internet etc) vrijwel autonoom? Moeten we research op dit gebied streng reguleren (net als bijvoorbeeld kernenergie en gentechnologie?) en proberen te hannesen met Asimov's robotwetten? Een soort überwetten ingebakken in het 'bios' van zo'n kunstmatige intelligentie? Is dat betrouwbaar genoeg? Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.
Bijvoorbeeld Sergey Brinn van Google maakt er geen geheim van dat het zijn doel is om voor het einde van zijn leven iedereen aan een Google-implant te helpen, waardoor iedereen altijd beschikt over alle informatie.
Zoals auto's zijn geintegreerd in ons leven nu, zal AI er ook steeds meer deel van gaan uitmaken.
Dan mag je alleen hopen dat we het hebben over Artificial Intelligence, en niet Artificial Insanity.
zzz
Aangezien de evolutie nooit stil staat en wij toch al lang bezig zijn met het ingrijpen in natuurlijk processen zal dit wel een denkbaar scenario zijn.quote:Op dinsdag 12 augustus 2008 10:17 schreef DennisMoore het volgende:Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.
We are Borg, resistance is futile!
GNU Terry Pratchett
Daarvoor bestaat dus de 3 wetten van robotica, die zullen goed genoeg zijn.
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Maar dan krijg je natuurlijk wel een splitsing in mensen die dit wel willen en mensen die dat niet willen. Ik behoor tot de laatste groep.quote:Op dinsdag 12 augustus 2008 10:22 schreef L.Denninger het volgende:
Het laatste is onvermijdelijk lijkt me.
Bijvoorbeeld Sergey Brinn van Google maakt er geen geheim van dat het zijn doel is om voor het einde van zijn leven iedereen aan een Google-implant te helpen, waardoor iedereen altijd beschikt over alle informatie.
GNU Terry Pratchett
Asimov's wetten zijn leuk en aardig, maar werken alleen als een robot altijd de complete gevolgen van zijn eigen acties kan zien / beredeneren.quote:Op dinsdag 12 augustus 2008 10:25 schreef bigore het volgende:
Daarvoor bestaat dus de 3 wetten van robotica, die zullen goed genoeg zijn.
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Volgens deze regels gaan robots voor dieren, dus zou het geen enkel probleem zijn alle dieren uit te moorden. Wat weer zo z'n effect op mensen zou hebben, uiteraard - maar hoe moet een robot dat weten ?
Verder gaat AI wel wat verder dan robotica naar mijn mening.
Een robot is volgens de definitie een "mechanisme dat al of niet de gedaante van een mens heeft en verrichtingen of arbeid kan uitvoeren".
Kortom, domme kracht.
zzz
Dan behoor je tot een uitstervende groep.quote:Op dinsdag 12 augustus 2008 10:29 schreef Lod het volgende:
[..]
Maar dan krijg je natuurlijk wel een splitsing in mensen die dit wel willen en mensen die dat niet willen. Ik behoor tot de laatste groep.
Om sociaal maatschappelijk mee te kunnen komen zul je de concurrentie op bijvoorbeeld de arbeidsmarkt dus aan moeten gaan met mensen die altijd veel meer kennis tot hun beschikking hebben dan jij.
Net zoals mensen die niet met computers kunnen omgaan nu al een enorme handicap hebben op de arbeidsmarkt, zullen mensen die hier niet in mee willen gaan ook sociaal maatschappelijke paria worden.
Of dat goed of wenselijk is daar laat ik me niet over uit, maar het is niet meer dan logisch.
zzz
Dat lijkt mij persoonlijk een beetje te kort door de bocht. Ik verwacht eerder dat de meeste mensen er tegen zullen zijn en dat juist de mensen met AI als paria's zullen worden gezien.quote:Op dinsdag 12 augustus 2008 10:37 schreef L.Denninger het volgende:
Dan behoor je tot een uitstervende groep.
Denk niet dat we het gaan meemaken in ieder geval
.
GNU Terry Pratchett
Intelligentere mensen (die in welvaart leven) beseffen steeds meer dat we voorzichtig dienen om te gaan met lagere diersoorten. Niet alleen uit eigenbelang (ecosystemen) maar ook vanuit ethisch oogpunt.
Zouden we erop kunnen vertrouwen dat een kunstmatige intelligentie ook zo'n soort moraal ontwikkeld? Of zouden we die kunnen inprogrammeren?
Of zouden daarvoor emoties noodzakelijk zijn? Met alle kwalijke kanten die die weer met zich mee kunnen brengen...
Zouden we erop kunnen vertrouwen dat een kunstmatige intelligentie ook zo'n soort moraal ontwikkeld? Of zouden we die kunnen inprogrammeren?
Of zouden daarvoor emoties noodzakelijk zijn? Met alle kwalijke kanten die die weer met zich mee kunnen brengen...
Mwoah... daar kon je nog wel 's ongelijk in hebben.quote:Op dinsdag 12 augustus 2008 10:59 schreef Lod het volgende:
Denk niet dat we het gaan meemaken in ieder geval
Maargoed, anders onze (klein-)kinderen wel.
Als het in 1 klap zou gebeuren zou ik je geljk geven, maar het gaat geleidelijk.quote:Op dinsdag 12 augustus 2008 10:59 schreef Lod het volgende:
[..]
Dat lijkt mij persoonlijk een beetje te kort door de bocht. Ik verwacht eerder dat de meeste mensen er tegen zullen zijn en dat juist de mensen met AI als paria's zullen worden gezien.
Eerst de mobiele telefoons, dan de headsets, dan internet erop, dan draadloze headsets, dan mind-controlled head-sets (je hoeft alleen maar een nummer te denken) etcetera.
Er zijn genoeg adopters om alles langzaam 'normaal' te maken.
Een voorbeeldje - ben je principieel tegen tomtom ?
Of is dat soort 'AI' toch wel makkelijk in het dagelijks leven ?
zzz
Het probleem met kunstmatige intelligentie is niet dat we niet weten hoe de AI's zich zouden moeten gaan gedragen. Als we ze zover konden krijgen dat ze zich als voorbeeldige modelpersonen gingen gedragen zouden ze ook geen bedreiging gaan vormen. Wij weten zelf toch ook allemaal heel goed hoe we ons zouden moeten gedragen, we doen het alleen nooit. Er zou maar een wet van de robotica hoeven te zijn, en dat is "heb uw naaste lief boven uzelve"
Het echte probleem is vooral daarin gelegen hoe we ze zover kunnen krijgen. Een echte AI kan per definitie niet voorgeprogrammeerd zijn, maar moet door een leerproces worden gevormd. We weten als mensheid al nauwelijks hoe we onze eigen kinderen moeten opvoeden. Hoe willen we dan in staat zijn om een intelligentie die per definitie groter en omvangrijker zal zijn dan die van onszelf op te voeden? Hoe kunnen we ooit weten hoe en wat iets dergelijks aan het denken is?
Het echte probleem is vooral daarin gelegen hoe we ze zover kunnen krijgen. Een echte AI kan per definitie niet voorgeprogrammeerd zijn, maar moet door een leerproces worden gevormd. We weten als mensheid al nauwelijks hoe we onze eigen kinderen moeten opvoeden. Hoe willen we dan in staat zijn om een intelligentie die per definitie groter en omvangrijker zal zijn dan die van onszelf op te voeden? Hoe kunnen we ooit weten hoe en wat iets dergelijks aan het denken is?
AI is de logische opvolger van de mensheid in de evolutie. Onvermijdelijk.
Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
mijn nederlands is 1000 x beter dan de joune
mijn nederlands is 1000 x beter dan de joune
Mee eens. Over een paar 100 jaar zijn wij net als de Borg uit Star Trek. Best vet eigenlijk, ik heb altijd al een Borg cube willen hebben.quote:Op dinsdag 12 augustus 2008 11:19 schreef Flashwin het volgende:
AI is de logische opvolger van de mensheid in de evolutie. Onvermijdelijk.
http://www.last.fm/user/psych02k
Yes, it is perfectly reasonable that Kirk had the know-how to make the gunpowder and put together the bazooka to defeat the Gorn. That\'s why he\'s the goddamn Captain.
Yes, it is perfectly reasonable that Kirk had the know-how to make the gunpowder and put together the bazooka to defeat the Gorn. That\'s why he\'s the goddamn Captain.
Straks engineeren we allerlei lichaamsdelen, als reserve-onderdelen. Als we ook een kunstmatig brein zouden weten te bakken voor onszelf, dan wordt het vast ook vrij makkelijk om de inhoud ervan op een dvd'tje te gooien, en de computer in dus.
Op zo'n moment (als dat zou lukken met behoud van bewustzijn en emoties enzo) heb je dus als mens geen lichaam meer nodig, en wordt je hersencapaciteit ook niet meer beperkt door je hoeveelheid hersencellen en neuronen. Wanneer de eerste mensen worden ge-upload en online gaan rondzwerven... is dat een mogelijke 'verdediging' tegen kunstmatige intelligenties die online rondzwerven?
Okay, dit wordt wel erg fantasierijk misschien
.
Op zo'n moment (als dat zou lukken met behoud van bewustzijn en emoties enzo) heb je dus als mens geen lichaam meer nodig, en wordt je hersencapaciteit ook niet meer beperkt door je hoeveelheid hersencellen en neuronen. Wanneer de eerste mensen worden ge-upload en online gaan rondzwerven... is dat een mogelijke 'verdediging' tegen kunstmatige intelligenties die online rondzwerven?
Okay, dit wordt wel erg fantasierijk misschien
.
Tomtom is makkelijk als je in een vreemde grote stad bent en je tijdens het rijden geen tijd hebt om ook nog eens op de weg te letten. Bijvoorbeeld als je de Peripherique van Parijs en in Parijs moet zijn.quote:Op dinsdag 12 augustus 2008 11:14 schreef L.Denninger het volgende:
Een voorbeeldje - ben je principieel tegen tomtom ?
Of is dat soort 'AI' toch wel makkelijk in het dagelijks leven ?
Ik vind het zelf vreselijk om puur op de Tomtom te rijden, je weet niet meer waar je bent. Ik gebruik bij voorkeur de ouderwetse landkaart.
GNU Terry Pratchett
Aha.quote:Op dinsdag 12 augustus 2008 11:23 schreef Lod het volgende:
[..]
Tomtom is makkelijk als je in een vreemde grote stad bent en je tijdens het rijden geen tijd hebt om ook nog eens op de weg te letten. Bijvoorbeeld als je de Peripherique van Parijs en in Parijs moet zijn.
Ik vind het zelf vreselijk om puur op de Tomtom te rijden, je weet niet meer waar je bent. Ik gebruik bij voorkeur de ouderwetse landkaart.
Maar toch wel makkelijk dus, en behoorlijk ingeburgerd inmiddels.
zzz
En straks is een papieren landkaart net zo lastig te kopen als tegenwoordig een draaischijf-telefoon .
.
Leuke tip :
Het boek "Shutdown" van Eric L. Harry.
Bill Gray (
) heeft de eerste echte kunstmatig intelligente computer gebouwd die 'leeft' - en hyperintelligent is.
En nadat ie de wereld heeft leren kennen, raakt ie depressief en wil ie z'n eigen stekker eruit trekken.
Taak van een psychologe om 'm weer de zin van het leven te laten inzien.
Het boek "Shutdown" van Eric L. Harry.
Bill Gray (
) heeft de eerste echte kunstmatig intelligente computer gebouwd die 'leeft' - en hyperintelligent is.En nadat ie de wereld heeft leren kennen, raakt ie depressief en wil ie z'n eigen stekker eruit trekken.
Taak van een psychologe om 'm weer de zin van het leven te laten inzien.
zzz
Hehe, leuk concept.
In veel SF films en boeken verschillen mensen niet zoveel met mensen vandaag de dag. Nog steeds individuen zonder implants, met een zelfde levensverwachting. Enkel de technologische tools die ze gebruiken zijn geavanceerder geworden.
Lijkt me niet zo waarschijnlijk eerlijk gezegd.
In veel SF films en boeken verschillen mensen niet zoveel met mensen vandaag de dag. Nog steeds individuen zonder implants, met een zelfde levensverwachting. Enkel de technologische tools die ze gebruiken zijn geavanceerder geworden.
Lijkt me niet zo waarschijnlijk eerlijk gezegd.
Helemaal niet.quote:Op dinsdag 12 augustus 2008 11:23 schreef DennisMoore het volgende:
Straks engineeren we allerlei lichaamsdelen, als reserve-onderdelen. Als we ook een kunstmatig brein zouden weten te bakken voor onszelf, dan wordt het vast ook vrij makkelijk om de inhoud ervan op een dvd'tje te gooien, en de computer in dus.
Op zo'n moment (als dat zou lukken met behoud van bewustzijn en emoties enzo) heb je dus als mens geen lichaam meer nodig, en wordt je hersencapaciteit ook niet meer beperkt door je hoeveelheid hersencellen en neuronen. Wanneer de eerste mensen worden ge-upload en online gaan rondzwerven... is dat een mogelijke 'verdediging' tegen kunstmatige intelligenties die online rondzwerven?
Okay, dit wordt wel erg fantasierijk misschien
Dit is waarschijnlijk precies wat de mensheid gaat proberen in desperate pogingen niet totaal vervangen te worden door AI. Maar ik blijf erbij dat het onvermijdelijk is dat AI ons zal vervangen. AI zal uiteindelijk in alles veruit superieur aan ons zijn.
Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
mijn nederlands is 1000 x beter dan de joune
mijn nederlands is 1000 x beter dan de joune
Maar als er straks 6+ miljard mensen virtueel gaan leven, en daarmee de beperkingen van hun huidige brein kunnen overstijgen... Wat is dan nog de grens tussen de kunstmatige en de 'natuurlijke' intelligentie?
Gaan we toe naar een soort 'Gaia' zoals Asimov dat omschreef? Een grote intelligente entiteit?
Gaan we toe naar een soort 'Gaia' zoals Asimov dat omschreef? Een grote intelligente entiteit?
IMO is de grens de imperfectie die inherent is aan de mens. Een mens zal nooit perfect zijn.quote:Op dinsdag 12 augustus 2008 11:50 schreef DennisMoore het volgende:
Maar als er straks 6+ miljard mensen virtueel gaan leven, en daarmee de beperkingen van hun huidige brein kunnen overstijgen... Wat is dan nog de grens tussen de kunstmatige en de 'natuurlijke' intelligentie?
Gaan we toe naar een soort 'Gaia' zoals Asimov dat omschreef? Een grote intelligente entiteit?
AI wel.
Op donderdag 22 juli 2010 01:22 schreef xmamacitax het volgende:
mijn nederlands is 1000 x beter dan de joune
mijn nederlands is 1000 x beter dan de joune
Ik wacht wel op de film met Will Smithquote:Op dinsdag 12 augustus 2008 11:29 schreef L.Denninger het volgende:
Het boek "Shutdown" van Eric L. Harry.
.
GNU Terry Pratchett
Kwestie van definitie van 'perfectie'.quote:Op dinsdag 12 augustus 2008 11:53 schreef Flashwin het volgende:
IMO is de grens de imperfectie die inherent is aan de mens. Een mens zal nooit perfect zijn.
AI wel.
Maargoed, waar zou in zo'n situatie de ene intelligentie ophouden en de andere beginnen?
[ Bericht 0% gewijzigd door DennisMoore op 12-08-2008 12:16:25 ]
|
|
