W&T Wetenschap & Technologie
Een plek om te discussiëren over wetenschappelijke onderwerpen, wetenschappelijke problemen, technologische projecten en grootse uitvindingen.
Ik denk het volgende. Als een computer zich zelf kan programmeren is er sprake van een kunstmatige intelligentie. En hoe dat uitpakt en wanneer. De tijd zal het leren.
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
De fout die de meesten in hun redenatie maken is namelijk dat kunstmatige intelligentie hetzelfde zal zijn als de onze.
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Als we doorschieten bij het programmeren van het begrip 'zelfbehoud' in computers, of iets als 'verzamel macht'... tja.
De scenario's zijn bekend, zie Hollywood.
De scenario's zijn bekend, zie Hollywood.
Hele interessante link ja. Het lijkt me inderdaad alles behalve ondenkbaar dat wij wellicht een soort slaaf worden van een supercomputer. Misschien worden het, zoals gesuggereerd op die wiki pagina, niet eens allemaal robots. Gewoon 1 grote computer die zich doormate van satelliet en intercontinentale netwerken over de hele wereld kan verplaatsen. Dat wij slaaf zouden worden kan heel eenvoudig doormate van bijvoorbeeld mind-control. Iets dat ook echt niet ondenkbaar is.quote:Op donderdag 21 augustus 2008 18:42 schreef DennisMoore het volgende:
[..]
Ik ga dit stropopje van je niet te hulp schieten. Je vermaakt je er maar mee.
Iets inhoudelijker: http://en.wikipedia.org/w(...)ty#Potential_dangers
Ik zeg niet dat het gaat gebeuren, wellicht gaat alles heel positief uitpakken, ik hoop het. Maar we moeten de opties wel open laten..
Stel dat er een algoritme is die zelf code genereert, hoe bepaalt de software dan wat 'ie gaat programmeren?quote:Op donderdag 21 augustus 2008 19:37 schreef Megumi het volgende:
Ik denk het volgende. Als een computer zich zelf kan programmeren is er sprake van een kunstmatige intelligentie. En hoe dat uitpakt en wanneer. De tijd zal het leren.
Helemaal gelijk in. Maar dan kunnen we ook meteen stoppen met discussiëren want waarschijnlijk zijn dat dingen die we simpelweg niet kunnen bevatten. Net zoals een neanderthaler niet kan bevatten dat wij nu computers hebben.quote:Op donderdag 21 augustus 2008 19:38 schreef Megumi het volgende:
De fout die de meesten in hun redenatie maken is namelijk dat kunstmatige intelligentie hetzelfde zal zijn als de onze.
Als je een computer maakt die zelf kan 'nadenken' en deze slimmer is dan ons, verzint die daar zelf wel een oplossing voor dunkt mij.quote:Op donderdag 21 augustus 2008 19:41 schreef Tijn het volgende:
[..]
Stel dat er een algoritme is die zelf code genereert, hoe bepaalt de software dan wat 'ie gaat programmeren?
Dat zou je met selectiecriteria kunnen doen. Bijvoorbeeld iets als een muterend computer virus. 'Soorten' van een dergelijk virus zouden geselecteerd worden op hoe goed ze computers kunnen infecteren en hoe goed ze onopgemerkt kunnen blijven als ze eenmaal een computer geïnfecteerd hebben. Voeg iets toe waarmee ze code uit kunnen wisselen als ze een verwant virus vinden en je hebt alle ingrediënten voor een evolutionair proces. Dit is natuurlijk nog lang geen AI, maar met de juiste selectiedruk zou het er denk ik wel toe kunnen leiden.quote:Op donderdag 21 augustus 2008 19:41 schreef Tijn het volgende:
[..]
Stel dat er een algoritme is die zelf code genereert, hoe bepaalt de software dan wat 'ie gaat programmeren?
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.quote:Op donderdag 21 augustus 2008 19:40 schreef DennisMoore het volgende:
Als we doorschieten bij het programmeren van het begrip 'zelfbehoud' in computers, of iets als 'verzamel macht'... tja.
De scenario's zijn bekend, zie Hollywood.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
http://nl.wikipedia.org/wiki/Isaac_Asimov
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Mja maar dat gaat dus niet meer op wanneer een robot een soort 'human reloaded' wordt. Misschien besluit een robot die intelligenter is dan ons, en een bewustzijn heeft (wat dit alles betekend even buiten beschouwing latend) dat wij niet meer belangrijk zijn, de aarde vernielen en teveel ruimte innemen... Doeidoei mensheid.quote:Op donderdag 21 augustus 2008 19:51 schreef Megumi het volgende:
[..]
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
Uiteraard worden het geen losse robots, da's wel duidelijk. We knopen nu al alle computers aan elkaar middels internet... Dat gaat straks nog wel een graadje intensiever.quote:Op donderdag 21 augustus 2008 19:41 schreef RRGJL het volgende:
Hele interessante link ja. Het lijkt me inderdaad alles behalve ondenkbaar dat wij wellicht een soort slaaf worden van een supercomputer. Misschien worden het, zoals gesuggereerd op die wiki pagina, niet eens allemaal robots. Gewoon 1 grote computer die zich doormate van satelliet en intercontinentale netwerken over de hele wereld kan verplaatsen. Dat wij slaaf zouden worden kan heel eenvoudig doormate van bijvoorbeeld mind-control. Iets dat ook echt niet ondenkbaar is.
Ook een Matrix-scenario is niet ondenkbaar trouwens, als je virtual reality even een eindje verder extrapoleert. Stel dat mensen straks de halve dag aan de computer vastgeknoopt liggen, omdat dat zintuigelijk veel prettiger en practischer is. We lopen dan de hele dag rond in een Second Life dat zintuigelijk niet meer van echt te onderscheiden is, en we laten het bestieren van de échte werkelijkheid over aan de Computer.
Een kleine stap...
Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelenquote:Op donderdag 21 augustus 2008 19:51 schreef Megumi het volgende:
[..]
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
http://nl.wikipedia.org/wiki/Isaac_Asimov
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
Tja dat zou inderdaad kunnen. En zie daar niet direct een nadeel in.quote:Op donderdag 21 augustus 2008 19:53 schreef RRGJL het volgende:
[..]
Mja maar dat gaat dus niet meer op wanneer een robot een soort 'human reloaded' wordt. Misschien besluit een robot die intelligenter is dan ons, en een bewustzijn heeft (wat dit alles betekend even buiten beschouwing latend) dat wij niet meer belangrijk zijn, de aarde vernielen en teveel ruimte innemen... Doeidoei mensheid.
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Lijkt me dat we, net als de natuur dat bij ons, de AI kunnen programmeren met een 'instinct' die ons voordelig is, zoals bijv. sommige honden de drang hebben om de mens te helpen - en zich zonder de mogelijkheid de mens/baas te helpen depressief gaan voelen.
Neuh, ik ook niet. Maar zojuist werd deze optie uitgeslotenquote:Op donderdag 21 augustus 2008 19:57 schreef Megumi het volgende:
[..]
Tja dat zou inderdaad kunnen. En zie daar niet direct een nadeel in.
Ik maak het vrij waarschijnlijk sowieso niet meer mee, en daarnaast zou het gewoon een soort stap in de evolutie zijn. Erg kan ik het ook niet echt vinden...
Hardware muteert niet dat is een vermogen wat voorbehouden is aan virussen en bacteriën. Waar wij als mens 2.000.000 jaar voor nodig hebben doen zij in een seconde.quote:Op donderdag 21 augustus 2008 19:54 schreef ATuin-hek het volgende:
[..]
Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelen
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Tuurlijk kan dat wel. Wel eens van een FPGA gehoord?quote:Op donderdag 21 augustus 2008 20:00 schreef Megumi het volgende:
[..]
Hardware muteert niet dat is een vermogen wat voorbehouden is aan virussen en bacteriën. Waar wij als mens 2.000.000 jaar voor nodig hebben doen zij in een seconde.
En waarom zouden alleen virussen en bacteriën muteren?
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
Er is ook geen enkele garantie dat er wel een mutatie juist optreedt in dat gebied. Als je gewoon ervoor zorgt dat bepaalde dingen hardgecodeerd wordt? Je zou het haast kunnen zien als 'muteer een gen in de menselijke DNA dat ervoor zorgt dat die mens kan leven naar iets anders dat ervoor zorgt dat het niet kan leven.'quote:Op donderdag 21 augustus 2008 19:54 schreef ATuin-hek het volgende:
[..]
Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelen
Ik denk dat we te dom zijn en/of de boel niet goed genoeg onder controle hebben om zoiets in te programmeren.quote:Op donderdag 21 augustus 2008 19:58 schreef Xith het volgende:
Lijkt me dat we, net als de natuur dat bij ons, de AI kunnen programmeren met een 'instinct' die ons voordelig is, zoals bijv. sommige honden de drang hebben om de mens te helpen - en zich zonder de mogelijkheid de mens/baas te helpen depressief gaan voelen.
We zullen 'per ongeluk' een zelflerende computer bouwen. En dan is de kans groot dat 't hek van de dam is.
Dat lijkt me dus extreem moeilijk, als het al mogelijk is.quote:Op donderdag 21 augustus 2008 20:03 schreef koffiegast het volgende:
[..]
Er is ook geen enkele garantie dat er wel een mutatie juist optreedt in dat gebied. Als je gewoon ervoor zorgt dat bepaalde dingen hardgecodeerd wordt? Je zou het haast kunnen zien als 'muteer een gen in de menselijke DNA dat ervoor zorgt dat die mens kan leven naar iets anders dat ervoor zorgt dat het niet kan leven.'
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
AFGA is Field-programmable gate array wat nog steeds ingrijpen van de mens nodig heeft. En de meeste mutaties in een complex organisme als de mens zijn ongunstig. Die in virussen en bacteriën gunstig.quote:Op donderdag 21 augustus 2008 20:02 schreef ATuin-hek het volgende:
[..]
Tuurlijk kan dat wel. Wel eens van een FPGA gehoord?
En waarom zouden alleen virussen en bacteriën muteren?
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Daarom werken de meeste antibiotica niet meer.
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Onzinquote:Op donderdag 21 augustus 2008 20:12 schreef Megumi het volgende:
[..]
AFGA is Field-programmable gate array wat nog steeds ingrijpen van de mens nodig heeft. En de meeste mutaties in een complex organisme als de mens zijn ongunstig. Die in virussen en bacteriën gunstig.
Een FPGA is programmeerbaar. Dat programmeren is prima door een stuk software te doen, zoals bijv een genetisch algoritme. En waarom zouden de mutiaties in een virus of bacterie allemaal gunstig moeten zijn?
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
Het gaat wat dat aangaat zelfs een stap verder. Kan jij neuken met een olifant en dan alleen dat deel pakken wat voor jou voor jou soort nuttig is? Dat kunnen bacteriën en virussen dus wel.quote:Op donderdag 21 augustus 2008 20:15 schreef ATuin-hek het volgende:
[..]
Onzin
Wordt als iemand die voortdurend dood is. De ware volgeling van bushidõ sterft elke ochtend en avond opnieuw. En wordt niet gehinderd door angst voor de dood. Yamamoto Tsunetomo's hagakure.
Ja dus? Een mutatie die een vitaal eiwit uitschakelt is nog steeds even dodelijk.quote:Op donderdag 21 augustus 2008 20:21 schreef Megumi het volgende:
[..]
Het gaat wat dat aangaat zelfs een stap verder. Kan jij neuken met een olifant en dan alleen dat deel pakken wat voor jou voor jou soort nuttig is? Dat kunnen bacteriën en virussen dus wel.
Egregious professor of Cruel and Unusual Geography
Onikaan ni ov dovah
Onikaan ni ov dovah
|
|
