Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
en uiteraard ook de geschetste negatieve consequenties zoals bijvoorbeeld het verlies van menselijke autonomie.
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
De vraag is of, en hoe wij als mensen zouden moeten ingrijpen om niet uiteindelijk onder de voeten te worden gelopen door systemen waar wij als mens geen grip meer op hebben.
Het gaat in eerste instantie niet alleen over autonoom denkende robots, maar ook over supercomputers die ingezet worden in diverse systemen, zelfs wereldwijd. Die ingezet worden voor wetenschap en dergelijken. De robot is slechts een zeer klein onderdeel ervan natuurlijk. Kijk anders een eerst even de documentairequote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
[..]
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
[..]
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.
Totdat je self-replicating robots/intelligentie krijgt. Het zou kunnen dat dat niet altijd het gewenste resultaat oplevert, bijvoorbeeld regels code die ter veiligheid zijn ingeprogrammeerd door mensen die niet meekomen, met onvoorspelbare gevolgen.quote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
bronquote:Elon Musk: artificial intelligence is our biggest existential threat
Elon Musk has spoken out against artificial intelligence (AI), declaring it the most serious threat to the survival of the human race.
Musk made the comments to students from Massachusetts Institute of Technology (MIT) during an interview at the AeroAstro Centennial Symposium, talking about computer science, AI, space exploration and the colonisation of Mars.
“I think we should be very careful about artificial intelligence. If I had to guess at what our biggest existential threat is, it’s probably that. So we need to be very careful,” said Musk. “I’m increasingly inclined to think that there should be some regulatory oversight, maybe at the national and international level, just to make sure that we don’t do something very foolish.”
‘Summoning the demon’
The technology entrepreneur is often likened to a real-life Tony Stark from Marvel’s Iron Man comics for his role in cutting-edge companies including Space X, a privateer space exploration company that holds the first private contracts from Nasa for resupply of the International Space Station, and the electric car company Tesla.
He recently described his investments in AI research as “keeping an eye on what’s going on”, rather than viable return on capital.
“With artificial intelligence we are summoning the demon. In all those stories where there’s the guy with the pentagram and the holy water, it’s like – yeah, he’s sure he can control the demon. Doesn’t work out,” said Musk.
Musk also spoke about how getting to Mars with singular missions was “cool” but that colonisation of Mars will be crucial to changing the future of humanity.
“What matters is being able to establish a self-sustaining civilisation on Mars, and I don’t see anything being done but SpaceX. I don’t see anyone else even trying,” said Musk.
Musk is one of the high-profile investors, alongside Facebook’s Mark Zuckerberg and the actor Ashton Kutcher, in Vicarious, a company aiming to build a computer that can think like a person, with a neural network capable of replicating the part of the brain that controls vision, body movement and language.
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?quote:
Ik vind motoren ook gevaarlijk, maar neemt niet weg dat ik graag een harley zou willen.quote:Op vrijdag 12 juni 2015 12:21 schreef Terra-jin het volgende:
[..]
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?
Die twee hebben helemaal niets met elkaar te maken?quote:Op vrijdag 12 juni 2015 12:04 schreef BaardaapAd het volgende:
Serieuze onderzoekers gebruiken al jaren de term 'cognitive science' in plaats van artificial intelligence
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.quote:Op vrijdag 12 juni 2015 12:15 schreef Discombobulate het volgende:
Betreft A.I, ik denk dat we het maar beter nooit kunnen maken, ik ben het wel met Stephen Hawking eens op dat punt.
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?quote:Op vrijdag 12 juni 2015 12:18 schreef JDx het volgende:
AI heeft emotie nodig, dus een gevoel van geluk om dingen te willen presteren. Als AI daadwerkelijk gemaakt zou worden zou het zelfmoord plegen, want het begrijpt dan dat het resources gebruikt die op raken.
Zoals ruimte, energie, noem maar op. Het zou zichzelf uitschakelen, want het heeft geen doel, waarom zou het willen blijven bestaan, kost alleen maar moeite.
Tenminste dat is mijn theorie
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.quote:Op vrijdag 12 juni 2015 13:01 schreef Molurus het volgende:
[..]
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?
En een AI zou dat niet kunnen, denk je?quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
[..]
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
En heb natuurlijk een omgeving, familie, vriendin, die me liever levend zien. Een AI zonder emotie zou daar niet om geven. Die zou heel logisch kunnen denken.
Daarom moet er emotie, empathie en een soort van geluksdoel in AI zitten.
Jawel, zolang er maar een geluksgevoel/emotie in zit.quote:Op vrijdag 12 juni 2015 13:51 schreef Molurus het volgende:
[..]
En een AI zou dat niet kunnen, denk je?
[..]
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.quote:Op vrijdag 12 juni 2015 13:55 schreef JDx het volgende:
[..]
Jawel, zolang er maar een geluksgevoel/emotie in zit.
Dus moeten we Asimov's drie robotwetten inbouwenquote:Op vrijdag 12 juni 2015 14:08 schreef jogy het volgende:
en als die programmering door het militaire apparaat in elkaar geknutseld wordt zal de AI waarschijnlijk best militair 'geschoold' worden en dus eventueel gevaarlijk kunnen zijn.
Tja, hoe wil je dat forceren denk ik dan. Als de digitale ontwikkelingen door blijven gaan en dus elk grotere bedrijf en zelfs een paar extreem doortastende individuen kunnen gaan knutselen om dit soort dingen te ontwikkelen zonder enige controle dan is de kans vele malen groter dat de wetten van Asimov totaal genegeerd worden.quote:Op vrijdag 12 juni 2015 14:16 schreef BaardaapAd het volgende:
[..]
Dus moeten we Asimov's drie robotwetten inbouwenal betekent dat dat er natuurlijk voor legertaken niets met dat spul te beginnen is eigenlijk.
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?quote:Op vrijdag 12 juni 2015 14:08 schreef Molurus het volgende:
[..]
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.
Het is echt geen must.
Intelligentie is niet perse menselijk hé. Waarom zou je de mens als maatstaf moeten nemen?quote:Op vrijdag 12 juni 2015 14:21 schreef JDx het volgende:
[..]
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |