Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
en uiteraard ook de geschetste negatieve consequenties zoals bijvoorbeeld het verlies van menselijke autonomie.
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
De vraag is of, en hoe wij als mensen zouden moeten ingrijpen om niet uiteindelijk onder de voeten te worden gelopen door systemen waar wij als mens geen grip meer op hebben.
Het gaat in eerste instantie niet alleen over autonoom denkende robots, maar ook over supercomputers die ingezet worden in diverse systemen, zelfs wereldwijd. Die ingezet worden voor wetenschap en dergelijken. De robot is slechts een zeer klein onderdeel ervan natuurlijk. Kijk anders een eerst even de documentairequote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
[..]
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
[..]
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.
Totdat je self-replicating robots/intelligentie krijgt. Het zou kunnen dat dat niet altijd het gewenste resultaat oplevert, bijvoorbeeld regels code die ter veiligheid zijn ingeprogrammeerd door mensen die niet meekomen, met onvoorspelbare gevolgen.quote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
bronquote:Elon Musk: artificial intelligence is our biggest existential threat
Elon Musk has spoken out against artificial intelligence (AI), declaring it the most serious threat to the survival of the human race.
Musk made the comments to students from Massachusetts Institute of Technology (MIT) during an interview at the AeroAstro Centennial Symposium, talking about computer science, AI, space exploration and the colonisation of Mars.
“I think we should be very careful about artificial intelligence. If I had to guess at what our biggest existential threat is, it’s probably that. So we need to be very careful,” said Musk. “I’m increasingly inclined to think that there should be some regulatory oversight, maybe at the national and international level, just to make sure that we don’t do something very foolish.”
‘Summoning the demon’
The technology entrepreneur is often likened to a real-life Tony Stark from Marvel’s Iron Man comics for his role in cutting-edge companies including Space X, a privateer space exploration company that holds the first private contracts from Nasa for resupply of the International Space Station, and the electric car company Tesla.
He recently described his investments in AI research as “keeping an eye on what’s going on”, rather than viable return on capital.
“With artificial intelligence we are summoning the demon. In all those stories where there’s the guy with the pentagram and the holy water, it’s like – yeah, he’s sure he can control the demon. Doesn’t work out,” said Musk.
Musk also spoke about how getting to Mars with singular missions was “cool” but that colonisation of Mars will be crucial to changing the future of humanity.
“What matters is being able to establish a self-sustaining civilisation on Mars, and I don’t see anything being done but SpaceX. I don’t see anyone else even trying,” said Musk.
Musk is one of the high-profile investors, alongside Facebook’s Mark Zuckerberg and the actor Ashton Kutcher, in Vicarious, a company aiming to build a computer that can think like a person, with a neural network capable of replicating the part of the brain that controls vision, body movement and language.
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?quote:
Ik vind motoren ook gevaarlijk, maar neemt niet weg dat ik graag een harley zou willen.quote:Op vrijdag 12 juni 2015 12:21 schreef Terra-jin het volgende:
[..]
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?
Die twee hebben helemaal niets met elkaar te maken?quote:Op vrijdag 12 juni 2015 12:04 schreef BaardaapAd het volgende:
Serieuze onderzoekers gebruiken al jaren de term 'cognitive science' in plaats van artificial intelligence
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.quote:Op vrijdag 12 juni 2015 12:15 schreef Discombobulate het volgende:
Betreft A.I, ik denk dat we het maar beter nooit kunnen maken, ik ben het wel met Stephen Hawking eens op dat punt.
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?quote:Op vrijdag 12 juni 2015 12:18 schreef JDx het volgende:
AI heeft emotie nodig, dus een gevoel van geluk om dingen te willen presteren. Als AI daadwerkelijk gemaakt zou worden zou het zelfmoord plegen, want het begrijpt dan dat het resources gebruikt die op raken.
Zoals ruimte, energie, noem maar op. Het zou zichzelf uitschakelen, want het heeft geen doel, waarom zou het willen blijven bestaan, kost alleen maar moeite.
Tenminste dat is mijn theorie
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.quote:Op vrijdag 12 juni 2015 13:01 schreef Molurus het volgende:
[..]
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?
En een AI zou dat niet kunnen, denk je?quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
[..]
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
En heb natuurlijk een omgeving, familie, vriendin, die me liever levend zien. Een AI zonder emotie zou daar niet om geven. Die zou heel logisch kunnen denken.
Daarom moet er emotie, empathie en een soort van geluksdoel in AI zitten.
Jawel, zolang er maar een geluksgevoel/emotie in zit.quote:Op vrijdag 12 juni 2015 13:51 schreef Molurus het volgende:
[..]
En een AI zou dat niet kunnen, denk je?
[..]
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.quote:Op vrijdag 12 juni 2015 13:55 schreef JDx het volgende:
[..]
Jawel, zolang er maar een geluksgevoel/emotie in zit.
Dus moeten we Asimov's drie robotwetten inbouwenquote:Op vrijdag 12 juni 2015 14:08 schreef jogy het volgende:
en als die programmering door het militaire apparaat in elkaar geknutseld wordt zal de AI waarschijnlijk best militair 'geschoold' worden en dus eventueel gevaarlijk kunnen zijn.
Tja, hoe wil je dat forceren denk ik dan. Als de digitale ontwikkelingen door blijven gaan en dus elk grotere bedrijf en zelfs een paar extreem doortastende individuen kunnen gaan knutselen om dit soort dingen te ontwikkelen zonder enige controle dan is de kans vele malen groter dat de wetten van Asimov totaal genegeerd worden.quote:Op vrijdag 12 juni 2015 14:16 schreef BaardaapAd het volgende:
[..]
Dus moeten we Asimov's drie robotwetten inbouwenal betekent dat dat er natuurlijk voor legertaken niets met dat spul te beginnen is eigenlijk.
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?quote:Op vrijdag 12 juni 2015 14:08 schreef Molurus het volgende:
[..]
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.
Het is echt geen must.
Intelligentie is niet perse menselijk hé. Waarom zou je de mens als maatstaf moeten nemen?quote:Op vrijdag 12 juni 2015 14:21 schreef JDx het volgende:
[..]
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?
AI staat toch voor zelf kunnen denken?quote:Op vrijdag 12 juni 2015 14:35 schreef jogy het volgende:
[..]
Intelligentie is niet perse menselijk hé. Waarom zou je de mens als maatstaf moeten nemen?
Ja, hoezo? Waarom zou je een eventuele kunstmatige intelligentie de 'hindernissen' meegeven van menselijk gedrag en emoties?quote:
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.quote:Op vrijdag 12 juni 2015 14:39 schreef jogy het volgende:
[..]
Ja, hoezo? Waarom zou je een eventuele kunstmatige intelligentie de 'hindernissen' meegeven van menselijk gedrag en emoties?
Ik zie niet in waarom dat zou moeten eigenlijk? Maar je bent een beetje bang dat we dan een digitale uitkeringstrekker gaan ontwikkelen met een IQ van 15000 of zo?quote:Op vrijdag 12 juni 2015 14:43 schreef JDx het volgende:
[..]
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.
Als ie zelf kan denken, zal ie de meest makkelijke weg gaan zoeken. Kan idd wel eens zo zijn!quote:Op vrijdag 12 juni 2015 14:44 schreef jogy het volgende:
[..]
Ik zie niet in waarom dat zou moeten eigenlijk? Maar je bent een beetje bang dat we dan een digitale uitkeringstrekker gaan ontwikkelen met een IQ van 15000 of zo?
Tja, willen we dat eigenlijk wel?quote:Op vrijdag 12 juni 2015 12:59 schreef Molurus het volgende:
[..]
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.
Dat zou wat zijnquote:Op vrijdag 12 juni 2015 14:44 schreef JDx het volgende:
[..]
Als ie zelf kan denken, zal ie de meest makkelijke weg gaan zoeken. Kan idd wel eens zo zijn!
Dat weet ik niet, dat is interessant materiaal. Maar hij zou wel een soort van voldoening moeten halen uit het "pleasen" van z'n baas. Als een robot die auto's maakt zelf kan denken, waarom zou hij dan nog opdrachten uitvoeren, hij zit vastgenageld aan de grond, zal nooit zelf in die auto kunnen rijden. Kan net zo goed niets doenquote:Op vrijdag 12 juni 2015 14:47 schreef jogy het volgende:
[..]
Dat zou wat zijn.
Maar oké, ik ben het wel met je eens dat een AI een doel/wens moet hebben zodat het niet vervalt in een soort van lethargie maar of dat nou in de vorm van 'digitaal geluk' zou moeten, geen idee hoe je dat voor je ziet. Zijn intellect en emotie onlosmakelijk met elkaar verbonden dan?
Maar als het geen emoties heeft dan heeft het ook geen last van de negatieve emoties dus zou een 'je bekijkt het maar' instelling óók weer lastig worden. Een bacterie heeft volgens mij ook niet echt een reden nodig om te leven en te doen, die leeft en doet gewoon. Veel van de dieren ook. Lastig welquote:Op vrijdag 12 juni 2015 14:49 schreef JDx het volgende:
[..]
Dat weet ik niet, dat is interessant materiaal. Maar hij zou wel een soort van voldoening moeten halen uit het "pleasen" van z'n baas. Als een robot die auto's maakt zelf kan denken, waarom zou hij dan nog opdrachten uitvoeren, hij zit vastgenageld aan de grond, zal nooit zelf in die auto kunnen rijden. Kan net zo goed niets doen
Ik wil mijzelf niet obsoleet maken. Aan de andere kant heb ik er helemaal niets op tegen dat er een levensvorm uit voortkomt die vele malen intelligenter is dan wij zijn.quote:Op vrijdag 12 juni 2015 14:47 schreef Discombobulate het volgende:
[..]
Tja, willen we dat eigenlijk wel?
Een doel impliceert niet zozeer dat een AI emoties of geluk heeft.quote:Op vrijdag 12 juni 2015 14:43 schreef JDx het volgende:
[..]
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.
Ik ben fan van de AI in de science fiction verhalen van the culturequote:Op vrijdag 12 juni 2015 15:00 schreef Molurus het volgende:
[..]
Ik wil mijzelf niet obsoleet maken. Aan de andere kant heb ik er helemaal niets op tegen dat er een levensvorm uit voortkomt die vele malen intelligenter is dan wij zijn.
Daar ben ik het dus niet mee eens. Definieer 'begrip/begrijpen', het is niets meer of minder dan afwegingen maken op basis van een 'doel'. Dat is wat een computer eveneens kan doen. Zeker als deze doelmatigheid kan/leert kennen. Dus zelf gaan voortborduren op eigen initiatief of in eerste instantie nog input.quote:Op vrijdag 12 juni 2015 12:04 schreef BaardaapAd het volgende:
Eerst even een KLACHT; je moet de term AI eigenlijk niet gebruiken. Serieuze onderzoekers gebruiken al jaren de term 'cognitive science' in plaats van artificial intelligence; onder andere omdat AI als term meer een marketing kreet is geworden (de computerfiguren in spelletjes zouden AI hebben .... dikke neus!). CS is een droom, een 'hoger doel'; in de praktijk heb je het feitelijk over 'expert systems', dat wil zeggen een vorm van CS (of eigenlijk AI) in een heel specifiek heel beperkt (toepassings-) gebied.
Ulq heeft wat dat betreft gelijk; die systemen zijn door mensen ontwikkeld. In hoeverre zo'n systeem iets BEGRIJPT is een legitieme vraag; eigenlijk begrijpt het systeem niets, het 'weet' alleen hoe bepaalde gegevens te manipuleren.
Neem nou bijvoorbeeld ROOD; voor een systeem is rood een etiket dat op een bepaald signaal geplakt wordt, in dit geval een zekere kleurwaarde (waarbij je gelijk al een leuk probleempje hebt; wanneer wordt rood, roze?). Voor een mens (en de meeste dieren, die zien niet allemaal in kleur) is ROOD veel meer; een signaal kleur (als je hand rood wordt bestaat de kans dat je aan het bloeden bent). Tenzij het systeem andere gegevens aan ROOD verbindt kan je dus niet zeggen dat het systeem weet wat rood IS, alleen dat het iets als zijnde rood kan IDENTIFICEREN (binnen bepaalde marges).
Wat allemaal onverlet laat dat 'intelligente' systemen een bedreiging vormen; de simpelste automatisering zorgt er tenslotte al voor dat er minder mensen nodig zijn. Hoe beter er geautomatiseerd wordt, hoe minder werk er dus is .... waarbij het aardige is dat veel 'simpel werk' juist niet bedreigd wordt omdat moeilijk en makkelijk voor een machine iets héél anders is dan voor een mens; een kleuter kan zijn veters strikken, een machine kan dat amper (tactiele feedback van je vingers, optische feedback van je ogen, het gevoel in je voet [zit die veter strak genoeg maar niet té strak?] enzovoorts).
Expert systemen, kortom, vormen een bedreiging voor taken die door mensen als moeilijk worden gezien maar voor een technisch systeem makkelijk zijn; ieder heeft zijn eigen sterke en zwakke punten.
Vervang overlevingsdrang maar gewoon met input en output. Zodra de computer steeds verder integreert in bepaalde systemen en input krijgt vanuit het totale systeem, of onderlinge uitwisseling tussen deelsystemen, dan kan het op basis daarvan zelf verder ontwikkelen. Op dat moment spreek je eigenlijk al van een zekere overlevingsdrang of evolutie.quote:Op vrijdag 12 juni 2015 12:05 schreef JDx het volgende:
AI is onmogelijk tenzij ze een soort van artificiële overlevingsdrang inbouwen.
Hoe weet jij of het totale systeem daadwerkelijk begrijpt wat het doet, hoe kan de input en output in de verschillende deelsystemen intentionaliteit creëren in het totale systeem?quote:Op vrijdag 12 juni 2015 16:24 schreef I-care het volgende:
[..]
Vervang overlevingsdrang maar gewoon met input en output. Zodra de computer steeds verder integreert in bepaalde systemen en input krijgt vanuit het totale systeem, of onderlinge uitwisseling tussen deelsystemen, dan kan het op basis daarvan zelf verder ontwikkelen. Op dat moment spreek je eigenlijk al van een zekere overlevingsdrang of evolutie.
Het mooie is dat begrijpen er feitelijk weinig mee te maken hoeft te hebben. Je hebt een probleem of een wens en daarvoor laat je de computer oplossingen vinden en vergelijken, en de best aansluitende kan uitgevoerd worden. Dit kan de computer ook volledig autonoom gaan doen op basis van eigen inzicht uiteindelijk.quote:Op vrijdag 12 juni 2015 16:42 schreef Discombobulate het volgende:
[..]
Hoe weet jij of het totale systeem daadwerkelijk begrijpt wat het doet, hoe kan de input en output in de verschillende deelsystemen intentionaliteit creëren in het totale systeem?
Als dat niet het geval kan zijn, in hoeverre verschilt A.I. dan van een gewone computer of thermostaat?
Mwa, dit proefje van neurowetenschappers vindt ik persoonlijk veel te simpel, denk bijvoorbeeld aan een rechter die een uitspraak moet doen. Als we zeggen dat alle redenen die wij geven aan iets rationalisaties zijn van hersenactiviteit, hoe kunnen we dan überhaupt iets geloven dat we zeggen als die bewustwording toch al plaats heeft gevonden, maar dit is weer een andere discussie.quote:Op vrijdag 12 juni 2015 16:50 schreef I-care het volgende:
[..]
Het mooie is dat begrijpen er feitelijk weinig mee te maken hoeft te hebben. Je hebt een probleem of een wens en daarvoor laat je de computer oplossingen vinden en vergelijken, en de best aansluitende kan uitgevoerd worden. Dit kan de computer ook volledig autonoom gaan doen op basis van eigen inzicht uiteindelijk.
In principe is dat ook wat een mens de hele dag door doet. En veel daarvan is ook los van het begrijpen ervan. Dus zoveel anders is het eigenlijk niet. Het schijnt zelfs deels zo te zijn dat in de hersenen de bewustwording, of eigenlijk besluitvorming al plaatsheeft voordat jij er zelf 'bewust' van bent.
Maar toch, je zegt dat mijn kenvermogen datgene is wat gecreëerd wordt uit symboolmanipulatie van input en output. Kunnen we dan niet van heel veel systemen zeggen dat ze cognitief zijn? Een A.I. zal dan onderscheid moeten kunnen maken tussen mentale dingen en niet-mentale dingen en dit onderscheid moet per definitie inherent zijn aan het systeem.quote:Ik denk zelf dat de stap tussen invoeren en opdrachten definiëren uiteindelijk overgenomen kan, of zelf moet worden door de computer zelf. Gewoonweg omdat de mens zelf geen benul meer heeft van de vraag, met andere woorden de mens kan op dat moment geen zinnige vraag of input meer geven aan de computer. Vooral als de complexiteit dermate toeneemt dat men het niet meer kan analyseren en volgen vanuit het geheel ervan.
Ik kijk nu even ver vooruit in wat ik denk dat er zal gebeuren, maar dit kan ik mij wel voorstellen.
In het geval van de rechter is het duidelijker, omdat er de geschreven wetten zijn. De rechter mag afwijken op een aantal punten, omwille van kennis en ervaringen die hij zelf bijvoorbeeld heeft. Verzachtende omstandigheden, kans op recidive etc.. Het is geen exacte wetenschap, kan wel natuurlijk, maar dan is denk ik de menselijkheid er snel uit. Kan ook gunstige uitwerkingen hebben, maar daar laat ik mij niet over uit.quote:Op vrijdag 12 juni 2015 17:37 schreef Discombobulate het volgende:
[..]
Mwa, dit proefje van neurowetenschappers vindt ik persoonlijk veel te simpel, denk bijvoorbeeld aan een rechter die een uitspraak moet doen. Als we zeggen dat alle redenen die wij geven aan iets rationalisaties zijn van hersenactiviteit, hoe kunnen we dan überhaupt iets geloven dat we zeggen als die bewustwording toch al plaats heeft gevonden, maar dit is weer een andere discussie.
[..]
Maar toch, je zegt dat mijn kenvermogen datgene is wat gecreëerd wordt uit symboolmanipulatie van input en output. Kunnen we dan niet van heel veel systemen zeggen dat ze cognitief zijn? Een A.I. zal dan onderscheid moeten kunnen maken tussen mentale dingen en niet-mentale dingen en dit onderscheid moet per definitie inherent zijn aan het systeem.
Douglas Hofstadter heeft een boek geschreven waarin hij zegt dat we allemaal 'strange loops' zijn, een soort wisselwerking van A naar B naar C weer terug naar B en A. Een terugkoppeling naar het systeem zelf, wat wellicht bewustzijn emergent maakt.
Ik acht A.I. best mogelijk, maar niet in de nabije toekomst. We moeten allereerst maar eens de mogelijke consequenties er van inzien.
Zodra je het positief houdt kun je de computer het moreel kompas noemen. Daarmee is een begin gelegd van dispuutresolutie die absoluut is, bij benadering dan..quote:Op vrijdag 12 juni 2015 12:59 schreef Molurus het volgende:
[..]
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.
En dat zou betekenen dat A.I. mensen obsoleet zou maken. (Net zoals wij australopithecus obsoleet hebben gemaakt.)
Ik dit kader kan ik de SF serie 'Foundation' van Isaac Asimov van harte aanbevelen.quote:Op vrijdag 12 juni 2015 18:59 schreef I-care het volgende:
[..]
In het geval van een zeer hoge concentratie van kennis en inzicht bij die computer wordt het gemakkelijker om bepaalde beslissingen door te trekken naar de toekomst, en op basis daarvan bepaalde wensen weigeren, inclusief degelijke onderbouwing van de beslissing. Wat nu vooral gemaakt word op basis van financieel gewin en of persoonlijk voordeel.
Toch eens gaan kijken dan! Als die tenminste gratis te zien valt..quote:Op vrijdag 12 juni 2015 19:00 schreef Molurus het volgende:
[..]
Ik dit kader kan ik de SF serie 'Foundation' van Isaac Asimov van harte aanbevelen.
Het gaat precies daarover.
Het is (helaas?) een boekenserie.quote:Op vrijdag 12 juni 2015 19:03 schreef I-care het volgende:
[..]
Toch eens gaan kijken dan! Als die tenminste gratis te zien valt..
Dat is inderdaad jammer! Ik zelf hou er niet van dagen of weken met een boek bezig te zijn.. Veel te tijdsintensiefquote:Op vrijdag 12 juni 2015 19:05 schreef Molurus het volgende:
[..]
Het is (helaas?) een boekenserie.
De filmrechten zijn wel verkocht. Emmerich (van Independence Day) zou zich ermee gaan bezighouden. Maar de film zou al in 2011 uitkomen, en vooralsnog is het niet duidelijk of de film ooit gemaakt gaat worden. (Heel erg jammer. Het is wat mij betreft het beste SF verhaal dat ooit is geschreven.)
Ik garandeer je dat ook als je iemand bent die niet houdt van het lezen van boeken dat je toch moeilijk kunt stoppen als je een paar hoofdstukken hebt gehad.quote:Op vrijdag 12 juni 2015 19:08 schreef I-care het volgende:
[..]
Dat is inderdaad jammer! Ik zelf hou er niet van dagen of weken met een boek bezig te zijn.. Veel te tijdsintensief
Dus die gaan we overslaan. In de hoop dat de serie nog eens in beeld en geluid uitgezonden wordt. Dat leeft toch veel meer als een boek waar je vooral zelf veel moet inbeelden. Dat doe ik zo al genoeg zelf.
Tja, dat klinkt wel erg verleidelijk zo.. Vroeger las ik ook graag science-fiction boeken als kind. Maar dat is op een gegeven moment opgehouden.quote:Op vrijdag 12 juni 2015 19:11 schreef Molurus het volgende:
[..]
Ik garandeer je dat ook als je iemand bent die niet houdt van het lezen van boeken dat je toch moeilijk kunt stoppen als je een paar hoofdstukken hebt gehad.
Asimov was iemand die heel helder en makkelijk schreef, en die geweldige ideeen had.
En hoewel ik niets liever zou zien dan een verfilming van dit meesterwerk vrees ik dat zo'n film alleen maar tegenvalt als je de boeken hebt gelezen.
Lees ook deze even:quote:Op vrijdag 12 juni 2015 19:14 schreef I-care het volgende:
[..]
Tja, dat klinkt wel erg verleidelijk zo.. Vroeger las ik ook graag science-fiction boeken als kind. Maar dat is op een gegeven moment opgehouden.
Maar een tripje naar de bieb is zo gemaakt, en als het echt zo goed is als je zegt, ook zo geleend natuurlijk! Bedankt voor de tip Molurus!
Ik ga eens even kijken.. Ben benieuwd!quote:Op vrijdag 12 juni 2015 19:15 schreef Molurus het volgende:
[..]
Lees ook deze even:
Asimov Foundation wiki
Hoewel het niet in die volgorde is geschreven kan ik je aanraden om ze toch in verhaalchronologische volgorde te lezen.
Even heel snel gelezen, althans de verhaallijn, maar dan zie je een soort historisch perspectief gepresenteerd? In hoeverre is het een fictie met verfrissende ideeën dan.quote:Op vrijdag 12 juni 2015 19:15 schreef Molurus het volgende:
[..]
Lees ook deze even:
Asimov Foundation wiki
Hoewel het niet in die volgorde is geschreven kan ik je aanraden om ze toch in verhaalchronologische volgorde te lezen.
Een soort historisch perspectief waarbij 1 van de hoofdpersonen, Hari Seldon, niet alleen de toekomst voorziet maar ook plant.quote:Op vrijdag 12 juni 2015 19:20 schreef I-care het volgende:
[..]
Even heel snel gelezen, althans de verhaallijn, maar dan zie je een soort historisch perspectief gepresenteerd? In hoeverre is het een fictie met verfrissende ideeën dan.
Spannend plot wel..quote:Op vrijdag 12 juni 2015 19:25 schreef Molurus het volgende:
[..]
Een soort historisch perspectief waarbij 1 van de hoofdpersonen, Hari Seldon, niet alleen de toekomst voorziet maar ook plant.
Zijn vakgebied werkt bij gratie van het feit dat als bevolkingen maar groot genoeg zijn, niet 1 persoon genoeg invloed heeft om de loop van de geschiedenis te sturen. En daardoor slaagt hij erin te voorspellen wat er gaat gebeuren met het galactische imperium.
En dat maakt het voorkomen of bestrijden van de 30,000-jarige crisis die hij voorziet natuurlijk buitengewoon lastig. Per definitie onmogelijk, haast.
Intussen is er op de achtergrond een robot, Daneel Olivaw (mijn grootste fictieheld), die zich ten volle bewust is van het belang van wat Hari Seldon doet. En die eigenlijk gedurende de gehele uitwerking van het toekomstplan van Seldon erop toeziet dat alles goed gaat. (Meestal geheel zonder dat iemand weet dat hij uberhaupt een robot is.)
Ik vond het ieg een ontzettend boeiend verhaal. Geloofwaardig ook.
Dat is dus precies wat er gebeurt. Daneel Olivaw is (verhaalchronologisch) in de tijd dat Hari Seldon leeft al een oude robot. Hij bestond al in de tijd dat de mens nog maar net begon met het bevolken van de melkweg. Een tijd waarin er nog maar 50 andere sterren waren gekoloniseerd.quote:Op vrijdag 12 juni 2015 19:30 schreef I-care het volgende:
[..]
Misschien toch eens lezen. Klinkt heel aannemelijk, bv in het geval van een A.IDie zich gaat inzetten nadat hij/zij de intenties herkende van Hari
Ik had daar al langer een idee over, dat in deze tijd al het internet afgespeurd zou worden naar een persoonlijkheid waaraan de A.I zich zou gaan spiegelen en dus leren. Als het ware een ijkpunt.quote:Op vrijdag 12 juni 2015 19:40 schreef Molurus het volgende:
[..]
Dat is dus precies wat er gebeurt. Daneel Olivaw is (verhaalchronologisch) in de tijd dat Hari Seldon leeft al een oude robot. Hij bestond al in de tijd dat de mens nog maar net begon met het bevolken van de melkweg. Een tijd waarin er nog maar 50 andere sterren waren gekoloniseerd.
(Dat speelt zich allemaal af in weer andere boeken van Asimov.)
Het is een mogelijkheid die ik zeker niet kan uitsluiten.quote:Op vrijdag 12 juni 2015 19:46 schreef I-care het volgende:
[..]
Ik had daar al langer een idee over, dat in deze tijd al het internet afgespeurd zou worden naar een persoonlijkheid waaraan de A.I zich zou gaan spiegelen en dus leren. Als het ware een ijkpunt.
Grappig om te zien dat hij soortgelijke ideeën had over dergelijke ontwikkelingen. Of ik eigenlijk, hij was er veel eerder als ik
Haha.. dat moet niet moeilijk zijn zonder menselijk ego..quote:Op vrijdag 12 juni 2015 19:54 schreef Molurus het volgende:
[..]
Het is een mogelijkheid die ik zeker niet kan uitsluiten.
Het is ook precies het soort iets waar Stephen Hawking voor 'waarschuwt'. Zo'n entiteit zou zomaar ineens in korte tijd heel erg intelligent kunnen worden.
En ik sluit niet uit dat de conclusie van die entiteit dan zal zijn dat hij beter niet teveel kan opvallen. En niet opvallen in een wereld vol met aapjes is vast niet zo lastig met een IQ van 500+, en zoveel computerinfrastructuur als je maar wilt.
Overigens denk ik niet dat het al is gebeurd. Maar ik kan me er zeker iets bij voorstellen dat dat gaat gebeuren in de nabije toekomst.
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)quote:Op zaterdag 13 juni 2015 11:24 schreef Caxixi het volgende:
Erg interessant! Zelf vond ik dit artikel (http://waitbutwhy.com/201(...)ce-revolution-1.html) over de toekomst van AI erg informatief. Goede instapper in de wereld van AI voor mensen (zoals ik) die er nog niet zo veel van af weten, of er nooit bij stil hebben gestaan hoe belangrijk deze discussie is.
Ik denk persoonlijk dat het existentieel risico zal samenhangen met de bereidheid van de mens om zijn eigen nieuwsgierigheid mbt AI te beperken. Er komt gewoon een punt dat de gevolgen van AI voor ons niet te overzien zijn, laten we hopen dat men op dat moment wijs genoeg is om te zeggen dat het niet verstandig zou zijn om ermee door te gaan, in ieder geval niet totdat er nieuwe inzichten verkregen zijn.
Het is voor diegenen een kwestie van de voordelen (potentiële oplossingen voor alle problemen van de mens, intergalactische ruimtevaart, etc.) opwegen tegen de nadelen (potentiële vernietiging van de mensheid en de rest van het universum (?)) van het bouwen en opstarten van een AI. Ik kan me voorstellen dat dat een lastige beslissing is, die op rationele basis genomen moet worden en niet op basis van nieuwsgierigheid naar wat er gebeurd als we de AI opstarten.quote:Op zaterdag 13 juni 2015 11:55 schreef Molurus het volgende:
[..]
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)
Er zullen er vast zijn die er grote risico's in zien en die die ontwikkeling liever tegenhouden. Maar dat zal nooit unaniem zijn.
quote:Op zondag 19 juli 2015 21:53 schreef Cockwhale het volgende:
Misschien interessant, een film lijstje met films (met interessante visies) over A.I.:
Metropolis
2001: A Space Odyssey
Blade Runner
Ghost in the Shell
Her
Ex Machina
Demon Seed
Het is gewoon geprogrammeerd hoor. Iets van:quote:Op zondag 19 juli 2015 21:36 schreef Molurus het volgende:
Impressive!!![]()
Nou zullen er altijd mensen blijven die zullen zeggen, 'ja... maar dat is geen self-awareness'. Maar dat is ongeacht welk gedrag zo'n robot vertoont.
Voor het moment vind ik dit al behoorlijk indrukwekkend. Ik ben wel benieuwd hoe flexibel de 'geesten' van deze robots precies zijn.
Vandaar dat ik me afvraag hoe flexibel die robots zijn.quote:Op maandag 20 juli 2015 08:36 schreef JerryWesterby het volgende:
[..]
Het is gewoon geprogrammeerd hoor. Iets van:
Zeg: 'ik weet het niet'. Als het niet lukt dan exit. Als het wel lukt zeg: 'I was able to prove etc.'
Het is ook een beetje hoe graag mensen zich voor de gek willen laten houden natuurlijk.
Ik zeg niet dat robots nooit bewust zouden kunnen worden zoals wij, want dat weet ik niet, maar dit lijkt natuurlijk nergens op. Maar best mogelijk dat zulke robots over een poosje in garderobes werken en zo. Routinewerk dat in if-then-else statements is af te handelen.
Heb eens iets gelijks gemaakt, je kon dan iets invoeren en dat werd dan opgeslagen in een database, hij onthield dan welke respons het meeste kwam op een vraag/zin.quote:Op maandag 20 juli 2015 08:39 schreef Molurus het volgende:
[..]
Vandaar dat ik me afvraag hoe flexibel die robots zijn.
Er zit een groot verschil tussen programmeren en programmeren. If - then - else is de meest basale manier waarop je dit zou kunnen doen, maar dan heb je ook niets gedaan wat het schrijven van een artikel waard is.
Vind je? Ik had er nogal wat moeite mee. Goed, zeker, maar de karakterontwikkeling vond ik karigquote:Op vrijdag 12 juni 2015 19:05 schreef Molurus het volgende:
[..]
Het is (helaas?) een boekenserie.
De filmrechten zijn wel verkocht. Emmerich (van Independence Day) zou zich ermee gaan bezighouden. Maar de film zou al in 2011 uitkomen, en vooralsnog is het niet duidelijk of de film ooit gemaakt gaat worden. (Heel erg jammer. Het is wat mij betreft het beste SF verhaal dat ooit is geschreven.)
Komt natuurlijk ook door de hoeveelheid tijd die het verhaal beslaat. Er is geen tijd om hele levens te beschrijven. De karakters zijn het volgende hoofdstuk al lang dood.quote:Op dinsdag 21 juli 2015 13:32 schreef Fir3fly het volgende:
[..]
Vind je? Ik had er nogal wat moeite mee. Goed, zeker, maar de karakterontwikkeling vond ik karig. Als film zou het al helemaal niet werken denk ik. Als serie wellicht!
Hebben we dan echt helemaal niets geleerd van de Butlerse Jihad? :-pquote:Op zaterdag 13 juni 2015 11:55 schreef Molurus het volgende:
[..]
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)
Er zullen er vast zijn die er grote risico's in zien en die die ontwikkeling liever tegenhouden. Maar dat zal nooit unaniem zijn.
Dat is dus het punt: er is wat betreft leren geen 'we'. Een deel leert daar wel van, een ander deel niet. Er is altijd een deel dat zoiets uitprobeert, en er is vast ook altijd een deel dat daar grote bezwaren tegen heeft.quote:Op donderdag 23 juli 2015 23:01 schreef MarcusViridis het volgende:
[..]
Hebben we dan echt helemaal niets geleerd van de Butlerse Jihad? :-p
'De menselijke geest is heilig.'
http://www.amazon.com/Dun(...)erbert/dp/0765340771
Merci!quote:Op donderdag 23 juli 2015 23:12 schreef Molurus het volgende:
[..]
Dat is dus het punt: er is wat betreft leren geen 'we'. Een deel leert daar wel van, een ander deel niet. Er is altijd een deel dat zoiets uitprobeert, en er is vast ook altijd een deel dat daar grote bezwaren tegen heeft.
Welkom in F&L trouwens!
Ik vrees dat je de spijker op zijn kop slaat, het goedgelovig enthousiasme van Kijkertje ten spijt.... Ik denk dat het meer een grapje is, dat door de suffe media serieus wordt genomen.quote:Op maandag 20 juli 2015 08:39 schreef Molurus het volgende:
[..]
Vandaar dat ik me afvraag hoe flexibel die robots zijn.
Er zit een groot verschil tussen programmeren en programmeren. If - then - else is de meest basale manier waarop je dit zou kunnen doen, maar dan heb je ook niets gedaan wat het schrijven van een artikel waard is.
Jouw pessimisme ten spijt, sciencealert is niet de Speld.quote:Op vrijdag 24 juli 2015 17:12 schreef JerryWesterby het volgende:
[..]
Ik vrees dat je de spijker op zijn kop slaat, het goedgelovig enthousiasme van Kijkertje ten spijt.... Ik denk dat het meer een grapje is, dat door de suffe media serieus wordt genomen.
Kende beide niet, maar op het eerste gezicht is het wel degelijk een beetje hetzelfde laken een pak. Boulevardblad, sensatie, sound- and visionbites.quote:Op vrijdag 24 juli 2015 17:19 schreef Molurus het volgende:
[..]
Jouw pessimisme ten spijt, sciencealert is niet de Speld.
Dan is het duidelijk dat je de Speld niet kent inderdaad. Hoe je dan tot zo'n conclusie komt is me overigens wel een raadsel.quote:Op vrijdag 24 juli 2015 17:33 schreef JerryWesterby het volgende:
[..]
Kende beide niet, maar op het eerste gezicht is het wel degelijk een beetje hetzelfde laken een pak. Boulevardblad, sensatie, sound- and visionbites.
Hé, een paranormaal verschijnsel hier. Maar ik zal het even formuleren zonder verwijzing naar niet bestaande forumcategorieen. Is een kleine moeite.quote:Op vrijdag 24 juli 2015 17:26 schreef JerryWesterby het volgende:
edit: laat het modereren maar aan de modder-eters over, dank.
Maar wil je hier nu iets mee zeggen dat filosofisch van belang is? Dit lijkt meer op een bedrijfsongeluk of arbeidsomstandigheden issue.quote:Op donderdag 23 juli 2015 20:45 schreef Kijkertje het volgende:
                                                                      WHEN ROBOTS KILL
A recent robot-related death in Germany highlights broader dilemmas in the design of safe autonomous systems.
[ afbeelding ]
In the Channel 4 series Humans, Niska, played by Emily Berrington, is a conscious synth who kills to survive. Photograph: Channel 4
http://www.theguardian.co(...)/23/when-robots-kill
Uitstekend. Ik blijf geduldig wachten!quote:Op zaterdag 13 juni 2015 13:47 schreef Molurus het volgende:
Hmm, er is zowaar een keer een trailer gemaakt voor Foundation:
De plannen voor een film lijken nu te zijn ingeruild voor een HBO serie.
Dit soort robots zijn denk ik wel wat we in de nabije toekomst kunnen verwachten. Ze zijn voornamelijk een kwestie van techniek qua motoriek en navigatie, en met een specialistische functie qua software, zoals schaakcomputers, die één ding heel goed en heel snel kunnen. Ook allerlei huidige gebruiksvoorwerpen zullen zo steeds intelligenter worden door ingebouwde chips, zoals magnetrons, tv's, koelkasten, hele huiskamers etc.quote:Op zondag 19 juli 2015 21:34 schreef Kijkertje het volgende:
[ afbeelding ]
A ROBOT HAS JUST PASSED A CLASSIC SELF-AWARENESS TEST FOR THE FIRST TIME
It thinks, therefore it is.
A researcher at Ransselaer Polytechnic Institute in the US has given three Nao robots an updated version of the classic 'wise men puzzle' self-awareness test... and one of them has managed to pass.
http://www.sciencealert.c(...)t-for-the-first-time
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.quote:Op vrijdag 24 juli 2015 18:22 schreef JerryWesterby het volgende:
[..]
Dit soort robots zijn denk ik wel wat we in de nabije toekomst kunnen verwachten. Ze zijn voornamelijk een kwestie van techniek qua motoriek en navigatie, en met een specialistische functie qua software, zoals schaakcomputers, die één ding heel goed en heel snel kunnen. Ook allerlei huidige gebruiksvoorwerpen zullen zo steeds intelligenter worden door ingebouwde chips, zoals magnetrons, tv's, koelkasten, hele huiskamers etc.
Echte, algemene, kwalitatieve intelligentie creeeren zal veel lastiger zijn, omdat we totaal geen idee hebben hoe we ons eigen soort integrale cognitie en intelligentie zouden moeten programmeren. AI research is al tientallen jaren aan de gang en toch zijn de resultaten heel mager. Er zijn baanbrekende nieuwe theoretische inzichten nodig en het is volstrekt onzeker of en zo ja wanneer die zullen komen. Het enge hieraan is dat als na lange tijd van progressie wat betreft techniek en hardware dat inzicht plotseling komt, je in één keer een superintelligentie kan creeeren, die je vervolgens niet meer onder controle hebt. Bij een geleidelijker ontwikkeling hebben we de gelegenheid om standaard voldoende controle mechanismes in te bouwen die er voor zorgen dat zoiets niet uit de hand loopt. Die kans krijgen we waarschijnlijk maar één keer. Het is een eenmalig strategisch voordeel.
De vraag blijft ook altijd of zo’n superintelligentie echt weet wat hij/het doet, of dat zoiets altijd in feite een soort superrekenmachine blijft, die op hol kan slaan (en is dat voor ons niet goed of juist wel?).
Ook als het wel besef heeft zal zo'n intelligentie voor ons denk ik volslagen onherkenbaar alien zijn omdat het alle menselijke emoties en drijfveren mist.
En hoe zit het met vrije wil?
En wat betreft een bewuste, subjectieve ervaring of wat men noemt qualia, dat is al helemaal onduidelijk. Of dat aanwezig is kan je nooit vaststellen, maar is wel de meest interessante kwestie vanuit filosofisch, ethisch en menselijk perspectief.
Een andere weg naar AI (anders dan programmeren) is die van brein emulatie. Het idee is hier dat die nieuwe theoretische inzichten niet nodig zijn. Wat slechts nodig is is de kennis en techniek om neuronen en al hun interacties na te bouwen, en dat dan een miljard keer of zo te kopieeren (omdat een brein, zoals zoveel in de natuur, fractaal van aard is), en dan te kijken wat er gebeurt. Dit lijkt makkelijker haalbaar, maar aan de andere kant is het moeilijk te zien hoe intelligentie dan op een gegeven moment spontaan zou verschijnen, als het met programmeren al niet lukt.
https://en.wikipedia.org/wiki/How_to_Create_a_Mind
https://en.wikipedia.org/wiki/Blue_Brain_Project
Nog een andere weg naar AI is die van integrale netwerken zoals internet. De Google zoekmachine wordt vaak beschouwd als de meest geavanceerde AI die we nu hebben. Het is voorstelbaar dat bij een toename van communicatie en coordinatie van steeds meer algoritmes in allerlei industrieen en de financiele wereld het gehele netwerk uiteindelijk een soort overkoepelende intelligentie verwerft. Maar of dat ooit werkelijk een onafhankelijk, rationeel denkende intelligentie kan worden?
Vooralsnog denk ik nog steeds aan die beursprogramma's, die geprogrammeerd waren met intelligente regels om te kopen en te verkopen, maar op een gegeven moment, onder bepaalde omstandigheden, op hol sloegen, geheel volgens de geprogrammeerde regels, maar totaal niet meer rationeel. Een mens ziet zoiets maar een programma niet.
Heel veel zaken die bij mensen zijn geevolueerd, zoals empathie, zijn mechanismes die moeten compenseren voor een gebrek aan intelligentie.quote:Op zaterdag 25 juli 2015 13:36 schreef MarcusViridis het volgende:
[..]
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.
Dingen als empathie bijvoorbeeld.
Waarom?quote:Op zaterdag 25 juli 2015 13:57 schreef Discombobulate het volgende:
Wat zou de innerlijke beleving van een A.I. verschrikkelijk eenzijdig en saai zijn dan.
Een rijk intellectueel leven maakt iemand zoals jij toch ook blij? Ik zie niet in hoe iemand niet een gezond emotioneel innerlijk leven kan hebben en tegelijkertijd intellectueel kan zijn. Het hoeft toch niet zo zwart-wit te zijn als het over emotie en intellect gaat?quote:Op zaterdag 25 juli 2015 13:59 schreef Molurus het volgende:
[..]
Waarom?
Ik zou juist het tegenovergestelde verwachten. Het beperkte setje primitieve instincten en emoties maakt plaats voor een zeer rijk intellectueel leven.
Er vanuit gaande dat we het hebben over een AI die substantieel intelligenter is dan de mens uiteraard.
Dat geldt zeker voor geprogrammeerde AI. Die mist zowel de genetische instincten als de hele opvoeding en socialisatie in een menselijke samenleving. Dat zou je dus allemaal moeten programmeren, als je dat zou willen, anders zal zo'n intelligentie onherkenbaar alien zijn. Ik betwijfel daarom ook dat zoiets ooit tot echte AI kan leiden.quote:Op zaterdag 25 juli 2015 13:36 schreef MarcusViridis het volgende:
[..]
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.
Dingen als empathie bijvoorbeeld.
Het lijkt hier of je de mens ook als een AI ziet. Intelligent design.quote:Op zaterdag 25 juli 2015 13:50 schreef Molurus het volgende:
Heel veel zaken die bij mensen zijn geevolueerd, zoals empathie, zijn mechanismes die moeten compenseren voor een gebrek aan intelligentie.
Empathie is niet persé een goede strategie voor de soort. In het neo-darwinisme is het juist concurrentie, the survival of the fittest, dat goed is voor de soort. Dus ik weet niet tot welke conclusie AI zou komen.quote:Op zaterdag 25 juli 2015 13:50 schreef Molurus het volgende:
Als een AI intelligent genoeg is zal hij uitstekend begrijpen waarom empathie een goede strategie is voor een soort. En dan heb je het instinct niet meer nodig.
De noodzaak voor gevoel van emotie neemt gradueel af naarmate je intelligenter wordt. Dat het in mensen die intelligenter worden ook gradueel afneemt is niet vanzelfsprekend. Het kan ook gewoon achterblijven als een rudimentair verschijnsel.quote:Op zaterdag 25 juli 2015 14:12 schreef Discombobulate het volgende:
[..]
Een rijk intellectueel leven maakt iemand zoals jij toch ook blij? Ik zie niet in hoe iemand niet een gezond emotioneel innerlijk leven kan hebben en tegelijkertijd intellectueel kan zijn. Het hoeft toch niet zo zwart-wit te zijn als het over emotie en intellect gaat?
Het is toch niet zo dat naarmate intelligentie toe neemt gevoel van emotie gradueel afneemt?
Ehhh, precies het tegenovergestelde volgens mij.quote:Op zaterdag 25 juli 2015 14:12 schreef Discombobulate het volgende:
Als dit wel zo zou zijn zou de uitspraak 'ignorance is bliss' wel van toepassing zijn voor een A.I.
Dat is jouw interpretatie ervan. Zoals wel vaker is jouw interpretatie volledig onjuist.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
[..]
Het lijkt hier of je de mens ook als een AI ziet. Intelligent design.
Dit is een populaire doch incorrecte uitleg van de evolutietheorie. Het gaat vrijwel nooit uitsluitend om het succes van individuen. Zelfs niet bij niet-sociale diersoorten.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
[..]
Empathie is niet persé een goede strategie voor de soort. In het neo-darwinisme is het juist concurrentie, the survival of the fittest, dat goed is voor de soort.
Samenwerking is de essentie. Samen sta je sterker dan alleen. Dat is evengoed voor een AI waar.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
Bovenal, waarom zou een AI in iets als 'soort' geinteresseerd zijn?
Goeie film wel! Van genoten.quote:Op donderdag 23 juli 2015 20:45 schreef Kijkertje het volgende:
                                                                      WHEN ROBOTS KILL
A recent robot-related death in Germany highlights broader dilemmas in the design of safe autonomous systems.
[ afbeelding ]
In the Channel 4 series Humans, Niska, played by Emily Berrington, is a conscious synth who kills to survive. Photograph: Channel 4
http://www.theguardian.co(...)/23/when-robots-kill
Jij kan niet een gevoel van blijdschap ervaren als je bijvoorbeeld naar een mooie zonsondergang kijkt, want je weet immers hoe een zonsondergang volgens de natuurwetten werkt wat op eens die ervaring minder mooi maakt?quote:Op zaterdag 25 juli 2015 16:59 schreef Molurus het volgende:
[..]
De noodzaak voor gevoel van emotie neemt gradueel af naarmate je intelligenter wordt. Dat het in mensen die intelligenter worden ook gradueel afneemt is niet vanzelfsprekend. Het kan ook gewoon achterblijven als een rudimentair verschijnsel.
Het punt is: dat soort zaken zijn wellicht helemaal niet noodzakelijk voor een AI. Ieg niet als die een stuk intelligenter is dan ons.
Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt? Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.quote:Ehhh, precies het tegenovergestelde volgens mij.
Daar zit wel iets in..quote:Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt? Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.
Dit is dus ook precies wat ik bedoel eigenlijk.quote:Op zaterdag 25 juli 2015 17:20 schreef I-care het volgende:
[..]
Daar zit wel iets in..
Niet in de zin van waardigheid, moraal of wat dan ook, want dat zijn subjectieve ervaringen en onderdeel van de evolutie als mens. Die niet perse met tijd beter of slechter worden.
Wel in de zin van gevoelens zoals plezier, blijdschap, sensorische ervaringen etc.. Zonder al die ervaringen wordt het heel erg saai en is er weinig meer om het voor te doen.
Er is namelijk geen existentieel doel of iets..
Mooi, dan kunnen we weer verder daarmeequote:Op zaterdag 25 juli 2015 17:31 schreef Discombobulate het volgende:
[..]
Dit is dus ook precies wat ik bedoel eigenlijk.
Goed dat je die dingen die ik benoemde even corrigeerde.
Er zijn zoveel dierlijke gevoelens die jij niet kunt ervaren omdat ze niet gewoon zijn voor onze soort. Jij kunt niet ervaren hoe het is om te voelen waar het noorden en het zuiden zijn zoals sommige vogels dat kunnen. Jij kunt niet ervaren hoe het is om te voelen wat een haai voelt als zijn ampullen van Lorenzini in werking treden.quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
[..]
Jij kan niet een gevoel van blijdschap ervaren als je bijvoorbeeld naar een mooie zonsondergang kijkt, want je weet immers hoe een zonsondergang volgens de natuurwetten werkt wat op eens die ervaring minder mooi maakt?![]()
Ik zie dit eerder als een mentale belemmering, maar dit kun je ook trainen hé, meditatie is er o.a. een van.![]()
Ik geloof niet dat ik iets van deze strekking heb gezegd? Als (de waarde van) dierlijke instincten komen te vervallen betekent dat toch niet dat zaken zoals waarde en moraliteit ineens niet meer bestaan? Waarom zou dat zo zijn?quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
[..]
Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt?
Ik denk dat zo'n A.I. ons zou zien als een hersendodend saaie en primitieve wezens.quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.quote:Op zaterdag 25 juli 2015 17:01 schreef Molurus het volgende:
Samenwerking is de essentie. Samen sta je sterker dan alleen. Dat is evengoed voor een AI waar.
Met wie die maar wil.. Creëert die dan zelf wel.quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
[..]
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.
Maar om terug te komen bij het topic: met wie is een AI dan samen?
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.quote:Op zaterdag 25 juli 2015 17:38 schreef Molurus het volgende:
[..]
Er zijn zoveel dierlijke gevoelens die jij niet kunt ervaren omdat ze niet gewoon zijn voor onze soort. Jij kunt niet ervaren hoe het is om te voelen waar het noorden en het zuiden is zoals sommige vogels dat kunnen. Jij kunt niet ervaren hoe het is om te voelen wat een haai voelt als zijn ampullen van Lorenzini in werking treden.
Zie jij dat als mentale beperkingen? Ik niet namelijk.
Ook hier geven de boeken van Asimov wel een leuk beeld van hoe dat kan uitpakken. Als je robots uitrust met de wetten der robotica dan zou dat wel eens kunnen uitmonden in het soort maatschappij waarin robots eigenlijk alle werk doen, zowel fysiek als mentaal. En waarin mensen - geheel in hun eigen belang en voor hun eigen bescherming - worden gekweekt door die robots en als een soort kasplantjes leven in een absurd streng beschermde omgeving.quote:Op zaterdag 25 juli 2015 17:55 schreef I-care het volgende:
De vraag is eigenlijk meer of we wel een A.I willen. We kunnen in principe best zonder als we alleen slim gebruik maken van de rekenkracht.
Het is een beetje spelen met vuur in principe. In een wereld waarin alle essentiële systemen door computers gereguleerd worden en ook nog eens een zelfbewuste superintelligentie de touwtjes in handen heeft.. Tja, ik weet het niet..
Een poedel is nog schattig, maar als we dan als nutteloze mieren gezien worden die de planeet in gevaar brengen met hun onleerbaarheid. Tja, wat doe je dan als A.I?
Waarom zou het?quote:Op zaterdag 25 juli 2015 17:58 schreef I-care het volgende:
[..]
Met wie die maar wil.. Creëert die dan zelf wel.
Maar waarom begin je erover?quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
[..]
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.
In principe zijn gehele omgeving, net als wij. En net als voor ons zijn sommige elementen in de omgeving belangrijker en van meer invloed dan andere elementen.quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
Maar om terug te komen bij het topic: met wie is een AI dan samen?
Geen idee, maar stel dat het een wens zou zijn dan is het een mogelijkheid.quote:Op zaterdag 25 juli 2015 18:05 schreef JerryWesterby het volgende:
[quote][ afbeelding ] Op zaterdag 25 juli 2015 17:58 schreef I-care het volgende:
[..]
Met wie die maar wil.. Creëert die dan zelf wel.
[/quoe]
Waarom:?
Als je weet hoe een zonsondergang werkt dan vind jij een zonsondergang minder mooi? Dat vind ik nogal vreemd. Voor mij is dat zeker niet het geval. Hoe meer ik leer en hoe meer ik begrijp van het universum, hoe mooier ik het vind.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
[..]
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.![]()
Ik denk het niet. Ik denk dat zijn wereld wellicht meer vragen oproept dan de onze.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
Als dat wel het geval zou zijn, laten we zeggen een A.I. leert evenveel in 2 minuten als de mens in tweeduizend jaar en lossen bij wijze van spreken opeens alle onbekende vragen op van het universum. Ik denk dat ze dan snel genoeg zullen denken "fuck it, waar doen we het eigenlijk voor?" *bleep* *system offline*
Menselijke emotie verschilt niet noemenswaardig van de emoties in andere zoogdieren hoor. Geen enkele menselijke emotie.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
En betreft dierlijke instincten, emotie hoeft niet per se ook een instinct te zijn. Ik zie instinct vooral als een stimuli-respons mechanisme, veelal volledig onbewust. Menselijke (bewuste) emotie lijkt mij dan ook vele malen complexer om simpelweg als instinct af te doen.
Het impliceert een onvermogen van de A.I om het menszijn te hebben kunnen ontleden en begrijpen, dat is dus een tekortkoming die niet overwonnen is.quote:Op zaterdag 25 juli 2015 18:05 schreef Molurus het volgende:
[..]
Ook hier geven de boeken van Asimov wel een leuk beeld van hoe dat kan uitpakken. Als je robots uitrust met de wetten der robotica dan zou dat wel eens kunnen uitmonden in het soort maatschappij waarin robots eigenlijk alle werk doen, zowel fysiek als mentaal. En waarin mensen - geheel in hun eigen belang en voor hun eigen bescherming - worden gekweekt door die robots en als een soort kasplantjes leven in een absurd streng beschermde omgeving.
En dat roept de vraag op: het is natuurlijk een veilig bestaan voor die mensen, maar is het ook werkelijk in het belang van die mensen?
Ik zie niet helemaal hoe je tot deze conclusie komt? Althans, ik zie daar geen strijdigheid in.quote:Op zaterdag 25 juli 2015 18:11 schreef I-care het volgende:
[..]
Het impliceert een onvermogen van de A.I om het menszijn te hebben kunnen ontleden en begrijpen, dat is dus een tekortkoming die niet overwonnen is.![]()
Dat is volledig in overeenstemming met de wensen van die mensen hoor.quote:Op zaterdag 25 juli 2015 18:11 schreef I-care het volgende:
Daarbij is het nogal een vreemde voorstelling van zaken, omdat de mens als zodanig dus niet geraadpleegd is, of zijn eigen wensen niet overtuigend kenbaar heeft kunnen maken. Het is dus op eigen initiatief opgezet door die A.I.
Kasplantjes en kweken deden het Molurus!quote:Ik zie niet helemaal hoe je tot deze conclusie komt? Althans, ik zie daar geen strijdigheid in.
[..]
Dat is volledig in overeenstemming met de wensen van die mensen hoor.In elk geval in de verhalen van Asimov, want het blijft puur hypothetisch.
Nee, dat heb ik ook niet, maar omdat je zei dat de noodzaak voor emotie afneemt naarmate intelligent hoger wordt. Of interpreteer ik dit verkeerd?quote:Op zaterdag 25 juli 2015 18:09 schreef Molurus het volgende:
[..]
Als je weet hoe een zonsondergang werkt dan vind jij een zonsondergang minder mooi? Dat vind ik nogal vreemd. Voor mij is dat zeker niet het geval. Hoe meer ik leer en hoe meer ik begrijp van het universum, hoe mooier ik het vind.
Kan natuurlijk ook, als een mier tegen jou zou zeggen dat zijn doel is het universum volledig te ontrafelen zou je raar opkijken. Wellicht denkt die A.I. dan precies hetzelfde over ons, als een hoopje mieren dat eigenlijk nergens verstand van heeft, tja ze zijn net begonnen met dingen zoals de snaartheorie, maar dat is eigenlijk groep 1 stof.quote:Ik denk het niet. Ik denk dat zijn wereld wellicht meer vragen oproept dan de onze.
De bewuste respons of het bewuster kunnen ervaren van die emoties wel. Ooit MDMA gedaan toevallig?quote:Menselijke emotie verschilt niet noemenswaardig van de emoties in andere zoogdieren hoor. Geen enkele menselijke emotie.
Relevante Feynman:quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
[..]
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.![]()
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |