Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
en uiteraard ook de geschetste negatieve consequenties zoals bijvoorbeeld het verlies van menselijke autonomie.
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
De vraag is of, en hoe wij als mensen zouden moeten ingrijpen om niet uiteindelijk onder de voeten te worden gelopen door systemen waar wij als mens geen grip meer op hebben.
Het gaat in eerste instantie niet alleen over autonoom denkende robots, maar ook over supercomputers die ingezet worden in diverse systemen, zelfs wereldwijd. Die ingezet worden voor wetenschap en dergelijken. De robot is slechts een zeer klein onderdeel ervan natuurlijk. Kijk anders een eerst even de documentairequote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
[..]
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
[..]
Je moet zorgen dat jij uiteindelijk de persoon bent die de robot kan besturen/ontwikkelen.
Totdat je self-replicating robots/intelligentie krijgt. Het zou kunnen dat dat niet altijd het gewenste resultaat oplevert, bijvoorbeeld regels code die ter veiligheid zijn ingeprogrammeerd door mensen die niet meekomen, met onvoorspelbare gevolgen.quote:Op vrijdag 12 juni 2015 11:34 schreef ulq het volgende:
Hoe bedoel je dit? De mens is uiteindelijk altijd de programmeur/ontwikkelaar van de robot.
bronquote:Elon Musk: artificial intelligence is our biggest existential threat
Elon Musk has spoken out against artificial intelligence (AI), declaring it the most serious threat to the survival of the human race.
Musk made the comments to students from Massachusetts Institute of Technology (MIT) during an interview at the AeroAstro Centennial Symposium, talking about computer science, AI, space exploration and the colonisation of Mars.
“I think we should be very careful about artificial intelligence. If I had to guess at what our biggest existential threat is, it’s probably that. So we need to be very careful,” said Musk. “I’m increasingly inclined to think that there should be some regulatory oversight, maybe at the national and international level, just to make sure that we don’t do something very foolish.”
‘Summoning the demon’
The technology entrepreneur is often likened to a real-life Tony Stark from Marvel’s Iron Man comics for his role in cutting-edge companies including Space X, a privateer space exploration company that holds the first private contracts from Nasa for resupply of the International Space Station, and the electric car company Tesla.
He recently described his investments in AI research as “keeping an eye on what’s going on”, rather than viable return on capital.
“With artificial intelligence we are summoning the demon. In all those stories where there’s the guy with the pentagram and the holy water, it’s like – yeah, he’s sure he can control the demon. Doesn’t work out,” said Musk.
Musk also spoke about how getting to Mars with singular missions was “cool” but that colonisation of Mars will be crucial to changing the future of humanity.
“What matters is being able to establish a self-sustaining civilisation on Mars, and I don’t see anything being done but SpaceX. I don’t see anyone else even trying,” said Musk.
Musk is one of the high-profile investors, alongside Facebook’s Mark Zuckerberg and the actor Ashton Kutcher, in Vicarious, a company aiming to build a computer that can think like a person, with a neural network capable of replicating the part of the brain that controls vision, body movement and language.
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?quote:
Ik vind motoren ook gevaarlijk, maar neemt niet weg dat ik graag een harley zou willen.quote:Op vrijdag 12 juni 2015 12:21 schreef Terra-jin het volgende:
[..]
Wacht... hij vindt AI een gevaar, maar investeert wel in een bedrijf dat juist dát probeert te realiseren..?
Die twee hebben helemaal niets met elkaar te maken?quote:Op vrijdag 12 juni 2015 12:04 schreef BaardaapAd het volgende:
Serieuze onderzoekers gebruiken al jaren de term 'cognitive science' in plaats van artificial intelligence
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.quote:Op vrijdag 12 juni 2015 12:15 schreef Discombobulate het volgende:
Betreft A.I, ik denk dat we het maar beter nooit kunnen maken, ik ben het wel met Stephen Hawking eens op dat punt.
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?quote:Op vrijdag 12 juni 2015 12:18 schreef JDx het volgende:
AI heeft emotie nodig, dus een gevoel van geluk om dingen te willen presteren. Als AI daadwerkelijk gemaakt zou worden zou het zelfmoord plegen, want het begrijpt dan dat het resources gebruikt die op raken.
Zoals ruimte, energie, noem maar op. Het zou zichzelf uitschakelen, want het heeft geen doel, waarom zou het willen blijven bestaan, kost alleen maar moeite.
Tenminste dat is mijn theorie
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.quote:Op vrijdag 12 juni 2015 13:01 schreef Molurus het volgende:
[..]
Als dat zo is, waarom heb jij dan nog geen zelfmoord gepleegd?
En een AI zou dat niet kunnen, denk je?quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
[..]
Omdat ik m'n geluk nog uit dingen kan halen, ben gek op autorijden, films/series kijken, gamen, wandelen met de hond, zwemmen, drankje doen.
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.quote:Op vrijdag 12 juni 2015 13:45 schreef JDx het volgende:
En heb natuurlijk een omgeving, familie, vriendin, die me liever levend zien. Een AI zonder emotie zou daar niet om geven. Die zou heel logisch kunnen denken.
Daarom moet er emotie, empathie en een soort van geluksdoel in AI zitten.
Jawel, zolang er maar een geluksgevoel/emotie in zit.quote:Op vrijdag 12 juni 2015 13:51 schreef Molurus het volgende:
[..]
En een AI zou dat niet kunnen, denk je?
[..]
Sowieso moet een AI doelen hebben. Dingen die hij wil, dingen die hij niet wil, etc. Maar ik zie eerlijk gezegd niet waarom een AI daarin zou (moeten) verschillen van mensen.
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.quote:Op vrijdag 12 juni 2015 13:55 schreef JDx het volgende:
[..]
Jawel, zolang er maar een geluksgevoel/emotie in zit.
Dus moeten we Asimov's drie robotwetten inbouwenquote:Op vrijdag 12 juni 2015 14:08 schreef jogy het volgende:
en als die programmering door het militaire apparaat in elkaar geknutseld wordt zal de AI waarschijnlijk best militair 'geschoold' worden en dus eventueel gevaarlijk kunnen zijn.
Tja, hoe wil je dat forceren denk ik dan. Als de digitale ontwikkelingen door blijven gaan en dus elk grotere bedrijf en zelfs een paar extreem doortastende individuen kunnen gaan knutselen om dit soort dingen te ontwikkelen zonder enige controle dan is de kans vele malen groter dat de wetten van Asimov totaal genegeerd worden.quote:Op vrijdag 12 juni 2015 14:16 schreef BaardaapAd het volgende:
[..]
Dus moeten we Asimov's drie robotwetten inbouwenal betekent dat dat er natuurlijk voor legertaken niets met dat spul te beginnen is eigenlijk.
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?quote:Op vrijdag 12 juni 2015 14:08 schreef Molurus het volgende:
[..]
Geluksgevoel en emotie zijn beide primitieve mechanismes die ons voortbestaan ten goede moeten komen daar waar ratio tekort schiet.
Het is echt geen must.
Intelligentie is niet perse menselijk hé. Waarom zou je de mens als maatstaf moeten nemen?quote:Op vrijdag 12 juni 2015 14:21 schreef JDx het volgende:
[..]
Als een AI werkelijk kan denken als een mens, dan zou dat toch echt wel moeten, waarom zou die robot anders moeite doen?
AI staat toch voor zelf kunnen denken?quote:Op vrijdag 12 juni 2015 14:35 schreef jogy het volgende:
[..]
Intelligentie is niet perse menselijk hé. Waarom zou je de mens als maatstaf moeten nemen?
Ja, hoezo? Waarom zou je een eventuele kunstmatige intelligentie de 'hindernissen' meegeven van menselijk gedrag en emoties?quote:
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.quote:Op vrijdag 12 juni 2015 14:39 schreef jogy het volgende:
[..]
Ja, hoezo? Waarom zou je een eventuele kunstmatige intelligentie de 'hindernissen' meegeven van menselijk gedrag en emoties?
Ik zie niet in waarom dat zou moeten eigenlijk? Maar je bent een beetje bang dat we dan een digitale uitkeringstrekker gaan ontwikkelen met een IQ van 15000 of zo?quote:Op vrijdag 12 juni 2015 14:43 schreef JDx het volgende:
[..]
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.
Als ie zelf kan denken, zal ie de meest makkelijke weg gaan zoeken. Kan idd wel eens zo zijn!quote:Op vrijdag 12 juni 2015 14:44 schreef jogy het volgende:
[..]
Ik zie niet in waarom dat zou moeten eigenlijk? Maar je bent een beetje bang dat we dan een digitale uitkeringstrekker gaan ontwikkelen met een IQ van 15000 of zo?
Tja, willen we dat eigenlijk wel?quote:Op vrijdag 12 juni 2015 12:59 schreef Molurus het volgende:
[..]
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.
Dat zou wat zijnquote:Op vrijdag 12 juni 2015 14:44 schreef JDx het volgende:
[..]
Als ie zelf kan denken, zal ie de meest makkelijke weg gaan zoeken. Kan idd wel eens zo zijn!
Dat weet ik niet, dat is interessant materiaal. Maar hij zou wel een soort van voldoening moeten halen uit het "pleasen" van z'n baas. Als een robot die auto's maakt zelf kan denken, waarom zou hij dan nog opdrachten uitvoeren, hij zit vastgenageld aan de grond, zal nooit zelf in die auto kunnen rijden. Kan net zo goed niets doenquote:Op vrijdag 12 juni 2015 14:47 schreef jogy het volgende:
[..]
Dat zou wat zijn.
Maar oké, ik ben het wel met je eens dat een AI een doel/wens moet hebben zodat het niet vervalt in een soort van lethargie maar of dat nou in de vorm van 'digitaal geluk' zou moeten, geen idee hoe je dat voor je ziet. Zijn intellect en emotie onlosmakelijk met elkaar verbonden dan?
Maar als het geen emoties heeft dan heeft het ook geen last van de negatieve emoties dus zou een 'je bekijkt het maar' instelling óók weer lastig worden. Een bacterie heeft volgens mij ook niet echt een reden nodig om te leven en te doen, die leeft en doet gewoon. Veel van de dieren ook. Lastig welquote:Op vrijdag 12 juni 2015 14:49 schreef JDx het volgende:
[..]
Dat weet ik niet, dat is interessant materiaal. Maar hij zou wel een soort van voldoening moeten halen uit het "pleasen" van z'n baas. Als een robot die auto's maakt zelf kan denken, waarom zou hij dan nog opdrachten uitvoeren, hij zit vastgenageld aan de grond, zal nooit zelf in die auto kunnen rijden. Kan net zo goed niets doen
Ik wil mijzelf niet obsoleet maken. Aan de andere kant heb ik er helemaal niets op tegen dat er een levensvorm uit voortkomt die vele malen intelligenter is dan wij zijn.quote:Op vrijdag 12 juni 2015 14:47 schreef Discombobulate het volgende:
[..]
Tja, willen we dat eigenlijk wel?
Een doel impliceert niet zozeer dat een AI emoties of geluk heeft.quote:Op vrijdag 12 juni 2015 14:43 schreef JDx het volgende:
[..]
Omdat ie anders zou stoppen met werken. Je moet een doel inbouwen, soort van artificieel geluk.
Ik ben fan van de AI in de science fiction verhalen van the culturequote:Op vrijdag 12 juni 2015 15:00 schreef Molurus het volgende:
[..]
Ik wil mijzelf niet obsoleet maken. Aan de andere kant heb ik er helemaal niets op tegen dat er een levensvorm uit voortkomt die vele malen intelligenter is dan wij zijn.
Daar ben ik het dus niet mee eens. Definieer 'begrip/begrijpen', het is niets meer of minder dan afwegingen maken op basis van een 'doel'. Dat is wat een computer eveneens kan doen. Zeker als deze doelmatigheid kan/leert kennen. Dus zelf gaan voortborduren op eigen initiatief of in eerste instantie nog input.quote:Op vrijdag 12 juni 2015 12:04 schreef BaardaapAd het volgende:
Eerst even een KLACHT; je moet de term AI eigenlijk niet gebruiken. Serieuze onderzoekers gebruiken al jaren de term 'cognitive science' in plaats van artificial intelligence; onder andere omdat AI als term meer een marketing kreet is geworden (de computerfiguren in spelletjes zouden AI hebben .... dikke neus!). CS is een droom, een 'hoger doel'; in de praktijk heb je het feitelijk over 'expert systems', dat wil zeggen een vorm van CS (of eigenlijk AI) in een heel specifiek heel beperkt (toepassings-) gebied.
Ulq heeft wat dat betreft gelijk; die systemen zijn door mensen ontwikkeld. In hoeverre zo'n systeem iets BEGRIJPT is een legitieme vraag; eigenlijk begrijpt het systeem niets, het 'weet' alleen hoe bepaalde gegevens te manipuleren.
Neem nou bijvoorbeeld ROOD; voor een systeem is rood een etiket dat op een bepaald signaal geplakt wordt, in dit geval een zekere kleurwaarde (waarbij je gelijk al een leuk probleempje hebt; wanneer wordt rood, roze?). Voor een mens (en de meeste dieren, die zien niet allemaal in kleur) is ROOD veel meer; een signaal kleur (als je hand rood wordt bestaat de kans dat je aan het bloeden bent). Tenzij het systeem andere gegevens aan ROOD verbindt kan je dus niet zeggen dat het systeem weet wat rood IS, alleen dat het iets als zijnde rood kan IDENTIFICEREN (binnen bepaalde marges).
Wat allemaal onverlet laat dat 'intelligente' systemen een bedreiging vormen; de simpelste automatisering zorgt er tenslotte al voor dat er minder mensen nodig zijn. Hoe beter er geautomatiseerd wordt, hoe minder werk er dus is .... waarbij het aardige is dat veel 'simpel werk' juist niet bedreigd wordt omdat moeilijk en makkelijk voor een machine iets héél anders is dan voor een mens; een kleuter kan zijn veters strikken, een machine kan dat amper (tactiele feedback van je vingers, optische feedback van je ogen, het gevoel in je voet [zit die veter strak genoeg maar niet té strak?] enzovoorts).
Expert systemen, kortom, vormen een bedreiging voor taken die door mensen als moeilijk worden gezien maar voor een technisch systeem makkelijk zijn; ieder heeft zijn eigen sterke en zwakke punten.
Vervang overlevingsdrang maar gewoon met input en output. Zodra de computer steeds verder integreert in bepaalde systemen en input krijgt vanuit het totale systeem, of onderlinge uitwisseling tussen deelsystemen, dan kan het op basis daarvan zelf verder ontwikkelen. Op dat moment spreek je eigenlijk al van een zekere overlevingsdrang of evolutie.quote:Op vrijdag 12 juni 2015 12:05 schreef JDx het volgende:
AI is onmogelijk tenzij ze een soort van artificiële overlevingsdrang inbouwen.
Hoe weet jij of het totale systeem daadwerkelijk begrijpt wat het doet, hoe kan de input en output in de verschillende deelsystemen intentionaliteit creëren in het totale systeem?quote:Op vrijdag 12 juni 2015 16:24 schreef I-care het volgende:
[..]
Vervang overlevingsdrang maar gewoon met input en output. Zodra de computer steeds verder integreert in bepaalde systemen en input krijgt vanuit het totale systeem, of onderlinge uitwisseling tussen deelsystemen, dan kan het op basis daarvan zelf verder ontwikkelen. Op dat moment spreek je eigenlijk al van een zekere overlevingsdrang of evolutie.
Het mooie is dat begrijpen er feitelijk weinig mee te maken hoeft te hebben. Je hebt een probleem of een wens en daarvoor laat je de computer oplossingen vinden en vergelijken, en de best aansluitende kan uitgevoerd worden. Dit kan de computer ook volledig autonoom gaan doen op basis van eigen inzicht uiteindelijk.quote:Op vrijdag 12 juni 2015 16:42 schreef Discombobulate het volgende:
[..]
Hoe weet jij of het totale systeem daadwerkelijk begrijpt wat het doet, hoe kan de input en output in de verschillende deelsystemen intentionaliteit creëren in het totale systeem?
Als dat niet het geval kan zijn, in hoeverre verschilt A.I. dan van een gewone computer of thermostaat?
Mwa, dit proefje van neurowetenschappers vindt ik persoonlijk veel te simpel, denk bijvoorbeeld aan een rechter die een uitspraak moet doen. Als we zeggen dat alle redenen die wij geven aan iets rationalisaties zijn van hersenactiviteit, hoe kunnen we dan überhaupt iets geloven dat we zeggen als die bewustwording toch al plaats heeft gevonden, maar dit is weer een andere discussie.quote:Op vrijdag 12 juni 2015 16:50 schreef I-care het volgende:
[..]
Het mooie is dat begrijpen er feitelijk weinig mee te maken hoeft te hebben. Je hebt een probleem of een wens en daarvoor laat je de computer oplossingen vinden en vergelijken, en de best aansluitende kan uitgevoerd worden. Dit kan de computer ook volledig autonoom gaan doen op basis van eigen inzicht uiteindelijk.
In principe is dat ook wat een mens de hele dag door doet. En veel daarvan is ook los van het begrijpen ervan. Dus zoveel anders is het eigenlijk niet. Het schijnt zelfs deels zo te zijn dat in de hersenen de bewustwording, of eigenlijk besluitvorming al plaatsheeft voordat jij er zelf 'bewust' van bent.
Maar toch, je zegt dat mijn kenvermogen datgene is wat gecreëerd wordt uit symboolmanipulatie van input en output. Kunnen we dan niet van heel veel systemen zeggen dat ze cognitief zijn? Een A.I. zal dan onderscheid moeten kunnen maken tussen mentale dingen en niet-mentale dingen en dit onderscheid moet per definitie inherent zijn aan het systeem.quote:Ik denk zelf dat de stap tussen invoeren en opdrachten definiëren uiteindelijk overgenomen kan, of zelf moet worden door de computer zelf. Gewoonweg omdat de mens zelf geen benul meer heeft van de vraag, met andere woorden de mens kan op dat moment geen zinnige vraag of input meer geven aan de computer. Vooral als de complexiteit dermate toeneemt dat men het niet meer kan analyseren en volgen vanuit het geheel ervan.
Ik kijk nu even ver vooruit in wat ik denk dat er zal gebeuren, maar dit kan ik mij wel voorstellen.
In het geval van de rechter is het duidelijker, omdat er de geschreven wetten zijn. De rechter mag afwijken op een aantal punten, omwille van kennis en ervaringen die hij zelf bijvoorbeeld heeft. Verzachtende omstandigheden, kans op recidive etc.. Het is geen exacte wetenschap, kan wel natuurlijk, maar dan is denk ik de menselijkheid er snel uit. Kan ook gunstige uitwerkingen hebben, maar daar laat ik mij niet over uit.quote:Op vrijdag 12 juni 2015 17:37 schreef Discombobulate het volgende:
[..]
Mwa, dit proefje van neurowetenschappers vindt ik persoonlijk veel te simpel, denk bijvoorbeeld aan een rechter die een uitspraak moet doen. Als we zeggen dat alle redenen die wij geven aan iets rationalisaties zijn van hersenactiviteit, hoe kunnen we dan überhaupt iets geloven dat we zeggen als die bewustwording toch al plaats heeft gevonden, maar dit is weer een andere discussie.
[..]
Maar toch, je zegt dat mijn kenvermogen datgene is wat gecreëerd wordt uit symboolmanipulatie van input en output. Kunnen we dan niet van heel veel systemen zeggen dat ze cognitief zijn? Een A.I. zal dan onderscheid moeten kunnen maken tussen mentale dingen en niet-mentale dingen en dit onderscheid moet per definitie inherent zijn aan het systeem.
Douglas Hofstadter heeft een boek geschreven waarin hij zegt dat we allemaal 'strange loops' zijn, een soort wisselwerking van A naar B naar C weer terug naar B en A. Een terugkoppeling naar het systeem zelf, wat wellicht bewustzijn emergent maakt.
Ik acht A.I. best mogelijk, maar niet in de nabije toekomst. We moeten allereerst maar eens de mogelijke consequenties er van inzien.
Zodra je het positief houdt kun je de computer het moreel kompas noemen. Daarmee is een begin gelegd van dispuutresolutie die absoluut is, bij benadering dan..quote:Op vrijdag 12 juni 2015 12:59 schreef Molurus het volgende:
[..]
Ik heb er een beetje een dubbel gevoel bij. Het is inderdaad niet noodzakelijk in het belang van mensen. Aan de andere kant... echte A.I. zou wel eens een veel krachtiger vorm kunnen hebben van precies die eigenschappen die mensen waardevol maken.
En dat zou betekenen dat A.I. mensen obsoleet zou maken. (Net zoals wij australopithecus obsoleet hebben gemaakt.)
Ik dit kader kan ik de SF serie 'Foundation' van Isaac Asimov van harte aanbevelen.quote:Op vrijdag 12 juni 2015 18:59 schreef I-care het volgende:
[..]
In het geval van een zeer hoge concentratie van kennis en inzicht bij die computer wordt het gemakkelijker om bepaalde beslissingen door te trekken naar de toekomst, en op basis daarvan bepaalde wensen weigeren, inclusief degelijke onderbouwing van de beslissing. Wat nu vooral gemaakt word op basis van financieel gewin en of persoonlijk voordeel.
Toch eens gaan kijken dan! Als die tenminste gratis te zien valt..quote:Op vrijdag 12 juni 2015 19:00 schreef Molurus het volgende:
[..]
Ik dit kader kan ik de SF serie 'Foundation' van Isaac Asimov van harte aanbevelen.
Het gaat precies daarover.
Het is (helaas?) een boekenserie.quote:Op vrijdag 12 juni 2015 19:03 schreef I-care het volgende:
[..]
Toch eens gaan kijken dan! Als die tenminste gratis te zien valt..
Dat is inderdaad jammer! Ik zelf hou er niet van dagen of weken met een boek bezig te zijn.. Veel te tijdsintensiefquote:Op vrijdag 12 juni 2015 19:05 schreef Molurus het volgende:
[..]
Het is (helaas?) een boekenserie.
De filmrechten zijn wel verkocht. Emmerich (van Independence Day) zou zich ermee gaan bezighouden. Maar de film zou al in 2011 uitkomen, en vooralsnog is het niet duidelijk of de film ooit gemaakt gaat worden. (Heel erg jammer. Het is wat mij betreft het beste SF verhaal dat ooit is geschreven.)
Ik garandeer je dat ook als je iemand bent die niet houdt van het lezen van boeken dat je toch moeilijk kunt stoppen als je een paar hoofdstukken hebt gehad.quote:Op vrijdag 12 juni 2015 19:08 schreef I-care het volgende:
[..]
Dat is inderdaad jammer! Ik zelf hou er niet van dagen of weken met een boek bezig te zijn.. Veel te tijdsintensief
Dus die gaan we overslaan. In de hoop dat de serie nog eens in beeld en geluid uitgezonden wordt. Dat leeft toch veel meer als een boek waar je vooral zelf veel moet inbeelden. Dat doe ik zo al genoeg zelf.
Tja, dat klinkt wel erg verleidelijk zo.. Vroeger las ik ook graag science-fiction boeken als kind. Maar dat is op een gegeven moment opgehouden.quote:Op vrijdag 12 juni 2015 19:11 schreef Molurus het volgende:
[..]
Ik garandeer je dat ook als je iemand bent die niet houdt van het lezen van boeken dat je toch moeilijk kunt stoppen als je een paar hoofdstukken hebt gehad.
Asimov was iemand die heel helder en makkelijk schreef, en die geweldige ideeen had.
En hoewel ik niets liever zou zien dan een verfilming van dit meesterwerk vrees ik dat zo'n film alleen maar tegenvalt als je de boeken hebt gelezen.
Lees ook deze even:quote:Op vrijdag 12 juni 2015 19:14 schreef I-care het volgende:
[..]
Tja, dat klinkt wel erg verleidelijk zo.. Vroeger las ik ook graag science-fiction boeken als kind. Maar dat is op een gegeven moment opgehouden.
Maar een tripje naar de bieb is zo gemaakt, en als het echt zo goed is als je zegt, ook zo geleend natuurlijk! Bedankt voor de tip Molurus!
Ik ga eens even kijken.. Ben benieuwd!quote:Op vrijdag 12 juni 2015 19:15 schreef Molurus het volgende:
[..]
Lees ook deze even:
Asimov Foundation wiki
Hoewel het niet in die volgorde is geschreven kan ik je aanraden om ze toch in verhaalchronologische volgorde te lezen.
Even heel snel gelezen, althans de verhaallijn, maar dan zie je een soort historisch perspectief gepresenteerd? In hoeverre is het een fictie met verfrissende ideeën dan.quote:Op vrijdag 12 juni 2015 19:15 schreef Molurus het volgende:
[..]
Lees ook deze even:
Asimov Foundation wiki
Hoewel het niet in die volgorde is geschreven kan ik je aanraden om ze toch in verhaalchronologische volgorde te lezen.
Een soort historisch perspectief waarbij 1 van de hoofdpersonen, Hari Seldon, niet alleen de toekomst voorziet maar ook plant.quote:Op vrijdag 12 juni 2015 19:20 schreef I-care het volgende:
[..]
Even heel snel gelezen, althans de verhaallijn, maar dan zie je een soort historisch perspectief gepresenteerd? In hoeverre is het een fictie met verfrissende ideeën dan.
Spannend plot wel..quote:Op vrijdag 12 juni 2015 19:25 schreef Molurus het volgende:
[..]
Een soort historisch perspectief waarbij 1 van de hoofdpersonen, Hari Seldon, niet alleen de toekomst voorziet maar ook plant.
Zijn vakgebied werkt bij gratie van het feit dat als bevolkingen maar groot genoeg zijn, niet 1 persoon genoeg invloed heeft om de loop van de geschiedenis te sturen. En daardoor slaagt hij erin te voorspellen wat er gaat gebeuren met het galactische imperium.
En dat maakt het voorkomen of bestrijden van de 30,000-jarige crisis die hij voorziet natuurlijk buitengewoon lastig. Per definitie onmogelijk, haast.
Intussen is er op de achtergrond een robot, Daneel Olivaw (mijn grootste fictieheld), die zich ten volle bewust is van het belang van wat Hari Seldon doet. En die eigenlijk gedurende de gehele uitwerking van het toekomstplan van Seldon erop toeziet dat alles goed gaat. (Meestal geheel zonder dat iemand weet dat hij uberhaupt een robot is.)
Ik vond het ieg een ontzettend boeiend verhaal. Geloofwaardig ook.
Dat is dus precies wat er gebeurt. Daneel Olivaw is (verhaalchronologisch) in de tijd dat Hari Seldon leeft al een oude robot. Hij bestond al in de tijd dat de mens nog maar net begon met het bevolken van de melkweg. Een tijd waarin er nog maar 50 andere sterren waren gekoloniseerd.quote:Op vrijdag 12 juni 2015 19:30 schreef I-care het volgende:
[..]
Misschien toch eens lezen. Klinkt heel aannemelijk, bv in het geval van een A.IDie zich gaat inzetten nadat hij/zij de intenties herkende van Hari
Ik had daar al langer een idee over, dat in deze tijd al het internet afgespeurd zou worden naar een persoonlijkheid waaraan de A.I zich zou gaan spiegelen en dus leren. Als het ware een ijkpunt.quote:Op vrijdag 12 juni 2015 19:40 schreef Molurus het volgende:
[..]
Dat is dus precies wat er gebeurt. Daneel Olivaw is (verhaalchronologisch) in de tijd dat Hari Seldon leeft al een oude robot. Hij bestond al in de tijd dat de mens nog maar net begon met het bevolken van de melkweg. Een tijd waarin er nog maar 50 andere sterren waren gekoloniseerd.
(Dat speelt zich allemaal af in weer andere boeken van Asimov.)
Het is een mogelijkheid die ik zeker niet kan uitsluiten.quote:Op vrijdag 12 juni 2015 19:46 schreef I-care het volgende:
[..]
Ik had daar al langer een idee over, dat in deze tijd al het internet afgespeurd zou worden naar een persoonlijkheid waaraan de A.I zich zou gaan spiegelen en dus leren. Als het ware een ijkpunt.
Grappig om te zien dat hij soortgelijke ideeën had over dergelijke ontwikkelingen. Of ik eigenlijk, hij was er veel eerder als ik
Haha.. dat moet niet moeilijk zijn zonder menselijk ego..quote:Op vrijdag 12 juni 2015 19:54 schreef Molurus het volgende:
[..]
Het is een mogelijkheid die ik zeker niet kan uitsluiten.
Het is ook precies het soort iets waar Stephen Hawking voor 'waarschuwt'. Zo'n entiteit zou zomaar ineens in korte tijd heel erg intelligent kunnen worden.
En ik sluit niet uit dat de conclusie van die entiteit dan zal zijn dat hij beter niet teveel kan opvallen. En niet opvallen in een wereld vol met aapjes is vast niet zo lastig met een IQ van 500+, en zoveel computerinfrastructuur als je maar wilt.
Overigens denk ik niet dat het al is gebeurd. Maar ik kan me er zeker iets bij voorstellen dat dat gaat gebeuren in de nabije toekomst.
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)quote:Op zaterdag 13 juni 2015 11:24 schreef Caxixi het volgende:
Erg interessant! Zelf vond ik dit artikel (http://waitbutwhy.com/201(...)ce-revolution-1.html) over de toekomst van AI erg informatief. Goede instapper in de wereld van AI voor mensen (zoals ik) die er nog niet zo veel van af weten, of er nooit bij stil hebben gestaan hoe belangrijk deze discussie is.
Ik denk persoonlijk dat het existentieel risico zal samenhangen met de bereidheid van de mens om zijn eigen nieuwsgierigheid mbt AI te beperken. Er komt gewoon een punt dat de gevolgen van AI voor ons niet te overzien zijn, laten we hopen dat men op dat moment wijs genoeg is om te zeggen dat het niet verstandig zou zijn om ermee door te gaan, in ieder geval niet totdat er nieuwe inzichten verkregen zijn.
Het is voor diegenen een kwestie van de voordelen (potentiële oplossingen voor alle problemen van de mens, intergalactische ruimtevaart, etc.) opwegen tegen de nadelen (potentiële vernietiging van de mensheid en de rest van het universum (?)) van het bouwen en opstarten van een AI. Ik kan me voorstellen dat dat een lastige beslissing is, die op rationele basis genomen moet worden en niet op basis van nieuwsgierigheid naar wat er gebeurd als we de AI opstarten.quote:Op zaterdag 13 juni 2015 11:55 schreef Molurus het volgende:
[..]
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)
Er zullen er vast zijn die er grote risico's in zien en die die ontwikkeling liever tegenhouden. Maar dat zal nooit unaniem zijn.
quote:Op zondag 19 juli 2015 21:53 schreef Cockwhale het volgende:
Misschien interessant, een film lijstje met films (met interessante visies) over A.I.:
Metropolis
2001: A Space Odyssey
Blade Runner
Ghost in the Shell
Her
Ex Machina
Demon Seed
Het is gewoon geprogrammeerd hoor. Iets van:quote:Op zondag 19 juli 2015 21:36 schreef Molurus het volgende:
Impressive!!![]()
Nou zullen er altijd mensen blijven die zullen zeggen, 'ja... maar dat is geen self-awareness'. Maar dat is ongeacht welk gedrag zo'n robot vertoont.
Voor het moment vind ik dit al behoorlijk indrukwekkend. Ik ben wel benieuwd hoe flexibel de 'geesten' van deze robots precies zijn.
Vandaar dat ik me afvraag hoe flexibel die robots zijn.quote:Op maandag 20 juli 2015 08:36 schreef JerryWesterby het volgende:
[..]
Het is gewoon geprogrammeerd hoor. Iets van:
Zeg: 'ik weet het niet'. Als het niet lukt dan exit. Als het wel lukt zeg: 'I was able to prove etc.'
Het is ook een beetje hoe graag mensen zich voor de gek willen laten houden natuurlijk.
Ik zeg niet dat robots nooit bewust zouden kunnen worden zoals wij, want dat weet ik niet, maar dit lijkt natuurlijk nergens op. Maar best mogelijk dat zulke robots over een poosje in garderobes werken en zo. Routinewerk dat in if-then-else statements is af te handelen.
Heb eens iets gelijks gemaakt, je kon dan iets invoeren en dat werd dan opgeslagen in een database, hij onthield dan welke respons het meeste kwam op een vraag/zin.quote:Op maandag 20 juli 2015 08:39 schreef Molurus het volgende:
[..]
Vandaar dat ik me afvraag hoe flexibel die robots zijn.
Er zit een groot verschil tussen programmeren en programmeren. If - then - else is de meest basale manier waarop je dit zou kunnen doen, maar dan heb je ook niets gedaan wat het schrijven van een artikel waard is.
Vind je? Ik had er nogal wat moeite mee. Goed, zeker, maar de karakterontwikkeling vond ik karigquote:Op vrijdag 12 juni 2015 19:05 schreef Molurus het volgende:
[..]
Het is (helaas?) een boekenserie.
De filmrechten zijn wel verkocht. Emmerich (van Independence Day) zou zich ermee gaan bezighouden. Maar de film zou al in 2011 uitkomen, en vooralsnog is het niet duidelijk of de film ooit gemaakt gaat worden. (Heel erg jammer. Het is wat mij betreft het beste SF verhaal dat ooit is geschreven.)
Komt natuurlijk ook door de hoeveelheid tijd die het verhaal beslaat. Er is geen tijd om hele levens te beschrijven. De karakters zijn het volgende hoofdstuk al lang dood.quote:Op dinsdag 21 juli 2015 13:32 schreef Fir3fly het volgende:
[..]
Vind je? Ik had er nogal wat moeite mee. Goed, zeker, maar de karakterontwikkeling vond ik karig. Als film zou het al helemaal niet werken denk ik. Als serie wellicht!
Hebben we dan echt helemaal niets geleerd van de Butlerse Jihad? :-pquote:Op zaterdag 13 juni 2015 11:55 schreef Molurus het volgende:
[..]
Nieuwsgierigheid wint het altijd van verstand. (En of het zo onverstandig is is ook maar de vraag.)
Er zullen er vast zijn die er grote risico's in zien en die die ontwikkeling liever tegenhouden. Maar dat zal nooit unaniem zijn.
Dat is dus het punt: er is wat betreft leren geen 'we'. Een deel leert daar wel van, een ander deel niet. Er is altijd een deel dat zoiets uitprobeert, en er is vast ook altijd een deel dat daar grote bezwaren tegen heeft.quote:Op donderdag 23 juli 2015 23:01 schreef MarcusViridis het volgende:
[..]
Hebben we dan echt helemaal niets geleerd van de Butlerse Jihad? :-p
'De menselijke geest is heilig.'
http://www.amazon.com/Dun(...)erbert/dp/0765340771
Merci!quote:Op donderdag 23 juli 2015 23:12 schreef Molurus het volgende:
[..]
Dat is dus het punt: er is wat betreft leren geen 'we'. Een deel leert daar wel van, een ander deel niet. Er is altijd een deel dat zoiets uitprobeert, en er is vast ook altijd een deel dat daar grote bezwaren tegen heeft.
Welkom in F&L trouwens!
Ik vrees dat je de spijker op zijn kop slaat, het goedgelovig enthousiasme van Kijkertje ten spijt.... Ik denk dat het meer een grapje is, dat door de suffe media serieus wordt genomen.quote:Op maandag 20 juli 2015 08:39 schreef Molurus het volgende:
[..]
Vandaar dat ik me afvraag hoe flexibel die robots zijn.
Er zit een groot verschil tussen programmeren en programmeren. If - then - else is de meest basale manier waarop je dit zou kunnen doen, maar dan heb je ook niets gedaan wat het schrijven van een artikel waard is.
Jouw pessimisme ten spijt, sciencealert is niet de Speld.quote:Op vrijdag 24 juli 2015 17:12 schreef JerryWesterby het volgende:
[..]
Ik vrees dat je de spijker op zijn kop slaat, het goedgelovig enthousiasme van Kijkertje ten spijt.... Ik denk dat het meer een grapje is, dat door de suffe media serieus wordt genomen.
Kende beide niet, maar op het eerste gezicht is het wel degelijk een beetje hetzelfde laken een pak. Boulevardblad, sensatie, sound- and visionbites.quote:Op vrijdag 24 juli 2015 17:19 schreef Molurus het volgende:
[..]
Jouw pessimisme ten spijt, sciencealert is niet de Speld.
Dan is het duidelijk dat je de Speld niet kent inderdaad. Hoe je dan tot zo'n conclusie komt is me overigens wel een raadsel.quote:Op vrijdag 24 juli 2015 17:33 schreef JerryWesterby het volgende:
[..]
Kende beide niet, maar op het eerste gezicht is het wel degelijk een beetje hetzelfde laken een pak. Boulevardblad, sensatie, sound- and visionbites.
Hé, een paranormaal verschijnsel hier. Maar ik zal het even formuleren zonder verwijzing naar niet bestaande forumcategorieen. Is een kleine moeite.quote:Op vrijdag 24 juli 2015 17:26 schreef JerryWesterby het volgende:
edit: laat het modereren maar aan de modder-eters over, dank.
Maar wil je hier nu iets mee zeggen dat filosofisch van belang is? Dit lijkt meer op een bedrijfsongeluk of arbeidsomstandigheden issue.quote:Op donderdag 23 juli 2015 20:45 schreef Kijkertje het volgende:
                                                                      WHEN ROBOTS KILL
A recent robot-related death in Germany highlights broader dilemmas in the design of safe autonomous systems.
[ afbeelding ]
In the Channel 4 series Humans, Niska, played by Emily Berrington, is a conscious synth who kills to survive. Photograph: Channel 4
http://www.theguardian.co(...)/23/when-robots-kill
Uitstekend. Ik blijf geduldig wachten!quote:Op zaterdag 13 juni 2015 13:47 schreef Molurus het volgende:
Hmm, er is zowaar een keer een trailer gemaakt voor Foundation:
De plannen voor een film lijken nu te zijn ingeruild voor een HBO serie.
Dit soort robots zijn denk ik wel wat we in de nabije toekomst kunnen verwachten. Ze zijn voornamelijk een kwestie van techniek qua motoriek en navigatie, en met een specialistische functie qua software, zoals schaakcomputers, die één ding heel goed en heel snel kunnen. Ook allerlei huidige gebruiksvoorwerpen zullen zo steeds intelligenter worden door ingebouwde chips, zoals magnetrons, tv's, koelkasten, hele huiskamers etc.quote:Op zondag 19 juli 2015 21:34 schreef Kijkertje het volgende:
[ afbeelding ]
A ROBOT HAS JUST PASSED A CLASSIC SELF-AWARENESS TEST FOR THE FIRST TIME
It thinks, therefore it is.
A researcher at Ransselaer Polytechnic Institute in the US has given three Nao robots an updated version of the classic 'wise men puzzle' self-awareness test... and one of them has managed to pass.
http://www.sciencealert.c(...)t-for-the-first-time
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.quote:Op vrijdag 24 juli 2015 18:22 schreef JerryWesterby het volgende:
[..]
Dit soort robots zijn denk ik wel wat we in de nabije toekomst kunnen verwachten. Ze zijn voornamelijk een kwestie van techniek qua motoriek en navigatie, en met een specialistische functie qua software, zoals schaakcomputers, die één ding heel goed en heel snel kunnen. Ook allerlei huidige gebruiksvoorwerpen zullen zo steeds intelligenter worden door ingebouwde chips, zoals magnetrons, tv's, koelkasten, hele huiskamers etc.
Echte, algemene, kwalitatieve intelligentie creeeren zal veel lastiger zijn, omdat we totaal geen idee hebben hoe we ons eigen soort integrale cognitie en intelligentie zouden moeten programmeren. AI research is al tientallen jaren aan de gang en toch zijn de resultaten heel mager. Er zijn baanbrekende nieuwe theoretische inzichten nodig en het is volstrekt onzeker of en zo ja wanneer die zullen komen. Het enge hieraan is dat als na lange tijd van progressie wat betreft techniek en hardware dat inzicht plotseling komt, je in één keer een superintelligentie kan creeeren, die je vervolgens niet meer onder controle hebt. Bij een geleidelijker ontwikkeling hebben we de gelegenheid om standaard voldoende controle mechanismes in te bouwen die er voor zorgen dat zoiets niet uit de hand loopt. Die kans krijgen we waarschijnlijk maar één keer. Het is een eenmalig strategisch voordeel.
De vraag blijft ook altijd of zo’n superintelligentie echt weet wat hij/het doet, of dat zoiets altijd in feite een soort superrekenmachine blijft, die op hol kan slaan (en is dat voor ons niet goed of juist wel?).
Ook als het wel besef heeft zal zo'n intelligentie voor ons denk ik volslagen onherkenbaar alien zijn omdat het alle menselijke emoties en drijfveren mist.
En hoe zit het met vrije wil?
En wat betreft een bewuste, subjectieve ervaring of wat men noemt qualia, dat is al helemaal onduidelijk. Of dat aanwezig is kan je nooit vaststellen, maar is wel de meest interessante kwestie vanuit filosofisch, ethisch en menselijk perspectief.
Een andere weg naar AI (anders dan programmeren) is die van brein emulatie. Het idee is hier dat die nieuwe theoretische inzichten niet nodig zijn. Wat slechts nodig is is de kennis en techniek om neuronen en al hun interacties na te bouwen, en dat dan een miljard keer of zo te kopieeren (omdat een brein, zoals zoveel in de natuur, fractaal van aard is), en dan te kijken wat er gebeurt. Dit lijkt makkelijker haalbaar, maar aan de andere kant is het moeilijk te zien hoe intelligentie dan op een gegeven moment spontaan zou verschijnen, als het met programmeren al niet lukt.
https://en.wikipedia.org/wiki/How_to_Create_a_Mind
https://en.wikipedia.org/wiki/Blue_Brain_Project
Nog een andere weg naar AI is die van integrale netwerken zoals internet. De Google zoekmachine wordt vaak beschouwd als de meest geavanceerde AI die we nu hebben. Het is voorstelbaar dat bij een toename van communicatie en coordinatie van steeds meer algoritmes in allerlei industrieen en de financiele wereld het gehele netwerk uiteindelijk een soort overkoepelende intelligentie verwerft. Maar of dat ooit werkelijk een onafhankelijk, rationeel denkende intelligentie kan worden?
Vooralsnog denk ik nog steeds aan die beursprogramma's, die geprogrammeerd waren met intelligente regels om te kopen en te verkopen, maar op een gegeven moment, onder bepaalde omstandigheden, op hol sloegen, geheel volgens de geprogrammeerde regels, maar totaal niet meer rationeel. Een mens ziet zoiets maar een programma niet.
Heel veel zaken die bij mensen zijn geevolueerd, zoals empathie, zijn mechanismes die moeten compenseren voor een gebrek aan intelligentie.quote:Op zaterdag 25 juli 2015 13:36 schreef MarcusViridis het volgende:
[..]
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.
Dingen als empathie bijvoorbeeld.
Waarom?quote:Op zaterdag 25 juli 2015 13:57 schreef Discombobulate het volgende:
Wat zou de innerlijke beleving van een A.I. verschrikkelijk eenzijdig en saai zijn dan.
Een rijk intellectueel leven maakt iemand zoals jij toch ook blij? Ik zie niet in hoe iemand niet een gezond emotioneel innerlijk leven kan hebben en tegelijkertijd intellectueel kan zijn. Het hoeft toch niet zo zwart-wit te zijn als het over emotie en intellect gaat?quote:Op zaterdag 25 juli 2015 13:59 schreef Molurus het volgende:
[..]
Waarom?
Ik zou juist het tegenovergestelde verwachten. Het beperkte setje primitieve instincten en emoties maakt plaats voor een zeer rijk intellectueel leven.
Er vanuit gaande dat we het hebben over een AI die substantieel intelligenter is dan de mens uiteraard.
Dat geldt zeker voor geprogrammeerde AI. Die mist zowel de genetische instincten als de hele opvoeding en socialisatie in een menselijke samenleving. Dat zou je dus allemaal moeten programmeren, als je dat zou willen, anders zal zo'n intelligentie onherkenbaar alien zijn. Ik betwijfel daarom ook dat zoiets ooit tot echte AI kan leiden.quote:Op zaterdag 25 juli 2015 13:36 schreef MarcusViridis het volgende:
[..]
Zelf als dit een middel naar AI zou zien dan heb je kans dat de resultaten nog wel eens zeer ongewenst zouden kunnen uitpakken, dan wel onherkenbaar zijn. Een geprogrammeerde of geëmuleerde intelligentie mist namelijk altijd de 'pakketten' die wij, als soort, uit een lang evolutionair proces hebben meegekregen.
Dingen als empathie bijvoorbeeld.
Het lijkt hier of je de mens ook als een AI ziet. Intelligent design.quote:Op zaterdag 25 juli 2015 13:50 schreef Molurus het volgende:
Heel veel zaken die bij mensen zijn geevolueerd, zoals empathie, zijn mechanismes die moeten compenseren voor een gebrek aan intelligentie.
Empathie is niet persé een goede strategie voor de soort. In het neo-darwinisme is het juist concurrentie, the survival of the fittest, dat goed is voor de soort. Dus ik weet niet tot welke conclusie AI zou komen.quote:Op zaterdag 25 juli 2015 13:50 schreef Molurus het volgende:
Als een AI intelligent genoeg is zal hij uitstekend begrijpen waarom empathie een goede strategie is voor een soort. En dan heb je het instinct niet meer nodig.
De noodzaak voor gevoel van emotie neemt gradueel af naarmate je intelligenter wordt. Dat het in mensen die intelligenter worden ook gradueel afneemt is niet vanzelfsprekend. Het kan ook gewoon achterblijven als een rudimentair verschijnsel.quote:Op zaterdag 25 juli 2015 14:12 schreef Discombobulate het volgende:
[..]
Een rijk intellectueel leven maakt iemand zoals jij toch ook blij? Ik zie niet in hoe iemand niet een gezond emotioneel innerlijk leven kan hebben en tegelijkertijd intellectueel kan zijn. Het hoeft toch niet zo zwart-wit te zijn als het over emotie en intellect gaat?
Het is toch niet zo dat naarmate intelligentie toe neemt gevoel van emotie gradueel afneemt?
Ehhh, precies het tegenovergestelde volgens mij.quote:Op zaterdag 25 juli 2015 14:12 schreef Discombobulate het volgende:
Als dit wel zo zou zijn zou de uitspraak 'ignorance is bliss' wel van toepassing zijn voor een A.I.
Dat is jouw interpretatie ervan. Zoals wel vaker is jouw interpretatie volledig onjuist.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
[..]
Het lijkt hier of je de mens ook als een AI ziet. Intelligent design.
Dit is een populaire doch incorrecte uitleg van de evolutietheorie. Het gaat vrijwel nooit uitsluitend om het succes van individuen. Zelfs niet bij niet-sociale diersoorten.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
[..]
Empathie is niet persé een goede strategie voor de soort. In het neo-darwinisme is het juist concurrentie, the survival of the fittest, dat goed is voor de soort.
Samenwerking is de essentie. Samen sta je sterker dan alleen. Dat is evengoed voor een AI waar.quote:Op zaterdag 25 juli 2015 16:24 schreef JerryWesterby het volgende:
Bovenal, waarom zou een AI in iets als 'soort' geinteresseerd zijn?
Goeie film wel! Van genoten.quote:Op donderdag 23 juli 2015 20:45 schreef Kijkertje het volgende:
                                                                      WHEN ROBOTS KILL
A recent robot-related death in Germany highlights broader dilemmas in the design of safe autonomous systems.
[ afbeelding ]
In the Channel 4 series Humans, Niska, played by Emily Berrington, is a conscious synth who kills to survive. Photograph: Channel 4
http://www.theguardian.co(...)/23/when-robots-kill
Jij kan niet een gevoel van blijdschap ervaren als je bijvoorbeeld naar een mooie zonsondergang kijkt, want je weet immers hoe een zonsondergang volgens de natuurwetten werkt wat op eens die ervaring minder mooi maakt?quote:Op zaterdag 25 juli 2015 16:59 schreef Molurus het volgende:
[..]
De noodzaak voor gevoel van emotie neemt gradueel af naarmate je intelligenter wordt. Dat het in mensen die intelligenter worden ook gradueel afneemt is niet vanzelfsprekend. Het kan ook gewoon achterblijven als een rudimentair verschijnsel.
Het punt is: dat soort zaken zijn wellicht helemaal niet noodzakelijk voor een AI. Ieg niet als die een stuk intelligenter is dan ons.
Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt? Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.quote:Ehhh, precies het tegenovergestelde volgens mij.
Daar zit wel iets in..quote:Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt? Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.
Dit is dus ook precies wat ik bedoel eigenlijk.quote:Op zaterdag 25 juli 2015 17:20 schreef I-care het volgende:
[..]
Daar zit wel iets in..
Niet in de zin van waardigheid, moraal of wat dan ook, want dat zijn subjectieve ervaringen en onderdeel van de evolutie als mens. Die niet perse met tijd beter of slechter worden.
Wel in de zin van gevoelens zoals plezier, blijdschap, sensorische ervaringen etc.. Zonder al die ervaringen wordt het heel erg saai en is er weinig meer om het voor te doen.
Er is namelijk geen existentieel doel of iets..
Mooi, dan kunnen we weer verder daarmeequote:Op zaterdag 25 juli 2015 17:31 schreef Discombobulate het volgende:
[..]
Dit is dus ook precies wat ik bedoel eigenlijk.
Goed dat je die dingen die ik benoemde even corrigeerde.
Er zijn zoveel dierlijke gevoelens die jij niet kunt ervaren omdat ze niet gewoon zijn voor onze soort. Jij kunt niet ervaren hoe het is om te voelen waar het noorden en het zuiden zijn zoals sommige vogels dat kunnen. Jij kunt niet ervaren hoe het is om te voelen wat een haai voelt als zijn ampullen van Lorenzini in werking treden.quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
[..]
Jij kan niet een gevoel van blijdschap ervaren als je bijvoorbeeld naar een mooie zonsondergang kijkt, want je weet immers hoe een zonsondergang volgens de natuurwetten werkt wat op eens die ervaring minder mooi maakt?![]()
Ik zie dit eerder als een mentale belemmering, maar dit kun je ook trainen hé, meditatie is er o.a. een van.![]()
Ik geloof niet dat ik iets van deze strekking heb gezegd? Als (de waarde van) dierlijke instincten komen te vervallen betekent dat toch niet dat zaken zoals waarde en moraliteit ineens niet meer bestaan? Waarom zou dat zo zijn?quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
[..]
Alleen als er zoiets als emotie achterblijft denk ik, anders ben je toch maar een soort van A.I. die gewoon wat dingen opdreunt. Waar programmeren we zoiets als waardigheid, moraal of deugd als deze dingen toch obsoleet worden naarmate de intelligentie hoger wordt?
Ik denk dat zo'n A.I. ons zou zien als een hersendodend saaie en primitieve wezens.quote:Op zaterdag 25 juli 2015 17:16 schreef Discombobulate het volgende:
Dan moet een A.I. lijkt me toch een vrij saai bestaan leiden, niet dat hij anders zou weten, maar toch.
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.quote:Op zaterdag 25 juli 2015 17:01 schreef Molurus het volgende:
Samenwerking is de essentie. Samen sta je sterker dan alleen. Dat is evengoed voor een AI waar.
Met wie die maar wil.. Creëert die dan zelf wel.quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
[..]
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.
Maar om terug te komen bij het topic: met wie is een AI dan samen?
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.quote:Op zaterdag 25 juli 2015 17:38 schreef Molurus het volgende:
[..]
Er zijn zoveel dierlijke gevoelens die jij niet kunt ervaren omdat ze niet gewoon zijn voor onze soort. Jij kunt niet ervaren hoe het is om te voelen waar het noorden en het zuiden is zoals sommige vogels dat kunnen. Jij kunt niet ervaren hoe het is om te voelen wat een haai voelt als zijn ampullen van Lorenzini in werking treden.
Zie jij dat als mentale beperkingen? Ik niet namelijk.
Ook hier geven de boeken van Asimov wel een leuk beeld van hoe dat kan uitpakken. Als je robots uitrust met de wetten der robotica dan zou dat wel eens kunnen uitmonden in het soort maatschappij waarin robots eigenlijk alle werk doen, zowel fysiek als mentaal. En waarin mensen - geheel in hun eigen belang en voor hun eigen bescherming - worden gekweekt door die robots en als een soort kasplantjes leven in een absurd streng beschermde omgeving.quote:Op zaterdag 25 juli 2015 17:55 schreef I-care het volgende:
De vraag is eigenlijk meer of we wel een A.I willen. We kunnen in principe best zonder als we alleen slim gebruik maken van de rekenkracht.
Het is een beetje spelen met vuur in principe. In een wereld waarin alle essentiële systemen door computers gereguleerd worden en ook nog eens een zelfbewuste superintelligentie de touwtjes in handen heeft.. Tja, ik weet het niet..
Een poedel is nog schattig, maar als we dan als nutteloze mieren gezien worden die de planeet in gevaar brengen met hun onleerbaarheid. Tja, wat doe je dan als A.I?
Waarom zou het?quote:Op zaterdag 25 juli 2015 17:58 schreef I-care het volgende:
[..]
Met wie die maar wil.. Creëert die dan zelf wel.
Maar waarom begin je erover?quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
[..]
Mee eens. Groepselectie heet dat. En aangezien volgens het neo-darwinisme groepselectie niet bestaat, is het neo-darwinisme hiermee exit.
In principe zijn gehele omgeving, net als wij. En net als voor ons zijn sommige elementen in de omgeving belangrijker en van meer invloed dan andere elementen.quote:Op zaterdag 25 juli 2015 17:56 schreef JerryWesterby het volgende:
Maar om terug te komen bij het topic: met wie is een AI dan samen?
Geen idee, maar stel dat het een wens zou zijn dan is het een mogelijkheid.quote:Op zaterdag 25 juli 2015 18:05 schreef JerryWesterby het volgende:
[quote][ afbeelding ] Op zaterdag 25 juli 2015 17:58 schreef I-care het volgende:
[..]
Met wie die maar wil.. Creëert die dan zelf wel.
[/quoe]
Waarom:?
Als je weet hoe een zonsondergang werkt dan vind jij een zonsondergang minder mooi? Dat vind ik nogal vreemd. Voor mij is dat zeker niet het geval. Hoe meer ik leer en hoe meer ik begrijp van het universum, hoe mooier ik het vind.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
[..]
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.![]()
Ik denk het niet. Ik denk dat zijn wereld wellicht meer vragen oproept dan de onze.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
Als dat wel het geval zou zijn, laten we zeggen een A.I. leert evenveel in 2 minuten als de mens in tweeduizend jaar en lossen bij wijze van spreken opeens alle onbekende vragen op van het universum. Ik denk dat ze dan snel genoeg zullen denken "fuck it, waar doen we het eigenlijk voor?" *bleep* *system offline*
Menselijke emotie verschilt niet noemenswaardig van de emoties in andere zoogdieren hoor. Geen enkele menselijke emotie.quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
En betreft dierlijke instincten, emotie hoeft niet per se ook een instinct te zijn. Ik zie instinct vooral als een stimuli-respons mechanisme, veelal volledig onbewust. Menselijke (bewuste) emotie lijkt mij dan ook vele malen complexer om simpelweg als instinct af te doen.
Het impliceert een onvermogen van de A.I om het menszijn te hebben kunnen ontleden en begrijpen, dat is dus een tekortkoming die niet overwonnen is.quote:Op zaterdag 25 juli 2015 18:05 schreef Molurus het volgende:
[..]
Ook hier geven de boeken van Asimov wel een leuk beeld van hoe dat kan uitpakken. Als je robots uitrust met de wetten der robotica dan zou dat wel eens kunnen uitmonden in het soort maatschappij waarin robots eigenlijk alle werk doen, zowel fysiek als mentaal. En waarin mensen - geheel in hun eigen belang en voor hun eigen bescherming - worden gekweekt door die robots en als een soort kasplantjes leven in een absurd streng beschermde omgeving.
En dat roept de vraag op: het is natuurlijk een veilig bestaan voor die mensen, maar is het ook werkelijk in het belang van die mensen?
Ik zie niet helemaal hoe je tot deze conclusie komt? Althans, ik zie daar geen strijdigheid in.quote:Op zaterdag 25 juli 2015 18:11 schreef I-care het volgende:
[..]
Het impliceert een onvermogen van de A.I om het menszijn te hebben kunnen ontleden en begrijpen, dat is dus een tekortkoming die niet overwonnen is.![]()
Dat is volledig in overeenstemming met de wensen van die mensen hoor.quote:Op zaterdag 25 juli 2015 18:11 schreef I-care het volgende:
Daarbij is het nogal een vreemde voorstelling van zaken, omdat de mens als zodanig dus niet geraadpleegd is, of zijn eigen wensen niet overtuigend kenbaar heeft kunnen maken. Het is dus op eigen initiatief opgezet door die A.I.
Kasplantjes en kweken deden het Molurus!quote:Ik zie niet helemaal hoe je tot deze conclusie komt? Althans, ik zie daar geen strijdigheid in.
[..]
Dat is volledig in overeenstemming met de wensen van die mensen hoor.In elk geval in de verhalen van Asimov, want het blijft puur hypothetisch.
Nee, dat heb ik ook niet, maar omdat je zei dat de noodzaak voor emotie afneemt naarmate intelligent hoger wordt. Of interpreteer ik dit verkeerd?quote:Op zaterdag 25 juli 2015 18:09 schreef Molurus het volgende:
[..]
Als je weet hoe een zonsondergang werkt dan vind jij een zonsondergang minder mooi? Dat vind ik nogal vreemd. Voor mij is dat zeker niet het geval. Hoe meer ik leer en hoe meer ik begrijp van het universum, hoe mooier ik het vind.
Kan natuurlijk ook, als een mier tegen jou zou zeggen dat zijn doel is het universum volledig te ontrafelen zou je raar opkijken. Wellicht denkt die A.I. dan precies hetzelfde over ons, als een hoopje mieren dat eigenlijk nergens verstand van heeft, tja ze zijn net begonnen met dingen zoals de snaartheorie, maar dat is eigenlijk groep 1 stof.quote:Ik denk het niet. Ik denk dat zijn wereld wellicht meer vragen oproept dan de onze.
De bewuste respons of het bewuster kunnen ervaren van die emoties wel. Ooit MDMA gedaan toevallig?quote:Menselijke emotie verschilt niet noemenswaardig van de emoties in andere zoogdieren hoor. Geen enkele menselijke emotie.
Relevante Feynman:quote:Op zaterdag 25 juli 2015 18:04 schreef Discombobulate het volgende:
[..]
Dat niet nee, omdat ik die ook niet ken, maar wel bijvoorbeeld dat ikzelf een zonsondergang stukken minder mooi zou vinden omdat ik weet hoe ze werken.![]()
quote:
Inderdaad. Als je weet hoe het werkt wordt het alleen maar mooier.quote:
Hoe zou AI emoties kunnen krijgen?quote:Op donderdag 30 juli 2015 11:11 schreef Daniel11x het volgende:
Eerst onze redding. Maar zodra ze voor zichzelf kunnen gaan denken, en emoties hebben gekregen dan wordt het onze ondergang.
Op dezelfde manier als wij ze krijgen?quote:Op zaterdag 1 augustus 2015 17:57 schreef JerryWesterby het volgende:
[..]
Hoe zou AI emoties kunnen krijgen?
Dacht het niet, omdat wij ze op een heel andere (biologische) manier hebben gekregen.quote:Op zaterdag 1 augustus 2015 18:05 schreef Fir3fly het volgende:
[..]
Op dezelfde manier als wij ze krijgen?
Hoe weet je dat?quote:Op zaterdag 1 augustus 2015 18:12 schreef JerryWesterby het volgende:
[..]
Dacht het niet, omdat wij ze op een heel andere (biologische) manier hebben gekregen.
Dat wil zeggen, als ze in AI niet geprogrammeerd zijn dan zijn ze er niet.
Maar ook dat evolueren zou je moeten programmeren.quote:Op zaterdag 1 augustus 2015 19:50 schreef Fir3fly het volgende:
[..]
Hoe weet je dat?
Een AI zou ook kunnen evolueren.
Waarom zou dat moeten?quote:Op zaterdag 1 augustus 2015 22:06 schreef JerryWesterby het volgende:
[..]
Maar ook dat evolueren zou je moeten programmeren.
Sorry wil niet vervelend zijn maar ik hou niet van filmpjes. Wat is je argument hier? Het is nu eenmaal een forum.....quote:
Omdat het anders niet gebeurt?quote:
Gewoon wat relevante achtergrondinformatie, geen argument. Als het je niet interesseert dan kijk je het toch niet?quote:Op zaterdag 1 augustus 2015 22:11 schreef JerryWesterby het volgende:
[..]
Sorry wil niet vervelend zijn maar ik hou niet van filmpjes. Wat is je argument hier? Het is nu eenmaal een forum.....
Jawel hoor, maar zie liever je eigen tekst.quote:Op zaterdag 1 augustus 2015 22:13 schreef Molurus het volgende:
[..]
Gewoon wat relevante achtergrondinformatie, geen argument. Als het je niet interesseert dan kijk je het toch niet?
Hoe weet je dat?quote:Op zaterdag 1 augustus 2015 22:12 schreef JerryWesterby het volgende:
[..]
Omdat het anders niet gebeurt?
Heb je ooit iets geprogrammeerd?quote:
Vele malen. Beantwoord je de vraag?quote:Op zaterdag 1 augustus 2015 22:18 schreef JerryWesterby het volgende:
[..]
Heb je ooit iets geprogrammeerd?
Had hem al beantwoord: Omdat het anders niet gebeurt.quote:Op zaterdag 1 augustus 2015 22:19 schreef Fir3fly het volgende:
[..]
Vele malen. Beantwoord je de vraag?
Kan het echt niet aanzien hoor ;-) Misschien een kwestie van overkill of zo. Maar dit is een forum. Je moet je eigen tekst schrijven.quote:Op zaterdag 1 augustus 2015 22:13 schreef Molurus het volgende:
[..]
Gewoon wat relevante achtergrondinformatie, geen argument. Als het je niet interesseert dan kijk je het toch niet?
Het is niet alsof jouw laatste 5 posts interessante tekst bevatten.quote:Op zaterdag 1 augustus 2015 22:39 schreef JerryWesterby het volgende:
[..]
Kan het echt niet aanzien hoor ;-) Misschien een kwestie van overkill of zo. Maar dit is een forum. Je moet je eigen tekst schrijven.
Ligt aan de Vuurvlieg, Hij snapt niks, en houdt ook niet van essays.quote:Op zaterdag 1 augustus 2015 22:40 schreef Molurus het volgende:
[..]
Het is niet alsof jouw laatste 5 posts interessante tekst bevatten.
Als Molurus het filmpje als reactie op iemand zou posten en zou zeggen "dit filmpje verwoordt mijn gedachten hierover, bekijk het filmpje maar", zou je wellicht een punt hebben. Nu post hij een filmpje waarvan hij vindt dat het interessant kijkvoer is voor de discussie, ik snap niet waarom je daar zo'n punt van moet maken...quote:Op zaterdag 1 augustus 2015 22:39 schreef JerryWesterby het volgende:
[..]
Kan het echt niet aanzien hoor ;-) Misschien een kwestie van overkill of zo. Maar dit is een forum. Je moet je eigen tekst schrijven.
Grumpy jij kan toch best een betere tekst bedenken dan de zinloze filmpjes van Molurus verdedigen?quote:Op zaterdag 1 augustus 2015 22:47 schreef GrumpyFish het volgende:
[..]
Als Molurus het filmpje als reactie op iemand zou posten en zou zeggen "dit filmpje verwoordt mijn gedachten hierover, bekijk het filmpje maar", zou je wellicht een punt hebben. Nu post hij een filmpje waarvan hij vindt dat het interessant kijkvoer is voor de discussie, ik snap niet waarom je daar zo'n punt van moet maken...
Jerry, jij kan toch best een betere tekst bedenken dan het plaatsen van filmpjes door Molurus te bekritiseren?quote:Op zaterdag 1 augustus 2015 22:52 schreef JerryWesterby het volgende:
[..]
Grumpy jij kan toch best een betere tekst bedenken dan de zinloze filmpjes van Molurus verdedigen?
Via een micro-Chip misschien of data dat word opgeslagen via een usb-stick en dan vrij word gelaten.quote:Op zaterdag 1 augustus 2015 17:57 schreef JerryWesterby het volgende:
[..]
Hoe zou AI emoties kunnen krijgen?
OK, touché ;-) Tot een volgende keer maar weer dan...quote:Op zaterdag 1 augustus 2015 22:59 schreef GrumpyFish het volgende:
[..]
Jerry, jij kan toch best een betere tekst bedenken dan het plaatsen van filmpjes door Molurus te bekritiseren?
Waarom niet?quote:Op zaterdag 1 augustus 2015 22:24 schreef JerryWesterby het volgende:
[..]
Had hem al beantwoord: Omdat het anders niet gebeurt.
Als je het niet programmeert gebeurt het niet.
Je kent het spreekwoord over dwazen? ;-)quote:Op zaterdag 1 augustus 2015 23:17 schreef Fir3fly het volgende:
[..]
Waarom niet?
Ik doe dit niet om vervelend te zijn maar ik stel gewoon een simpele vraag.
Bouwen we toch een hybride computerquote:Op zaterdag 8 augustus 2015 18:19 schreef JerryWesterby het volgende:
[..]
Je kent het spreekwoord over dwazen? ;-)
Emoties zijn gevoelens. Ik zou niet weten hoe je die moet programmeren. Ook niet via evolutionaire algoritmes. Jij wel?
Is een schaakcomputer blij als hij gewonnen heeft?
Klopt, dat kunnen we beter stoppen voor het te laat is ;-)quote:Op zaterdag 8 augustus 2015 18:24 schreef I-care het volgende:
[..]
Bouwen we toch een hybride computer
Heb je een emotionele supercomputer die chagrijnig is, dat moet je niet willen! Stel dat ze boos wordt, jaloers is, man dat gaat fout!
Ja wellicht. Maar de vraag is hier of die computer dan emoties heeft, of alleen de simulatie ervan.quote:Op zaterdag 8 augustus 2015 18:30 schreef Erasmo het volgende:
Onder de streep is je grijze massa ook maar een blob vlees die pulsjes afschiet.
Ooit valt dat prima te simuleren door een computer.
Geen idee. Maar ik sluit het niet zomaar uit. En wederom de vraag: hoezo moet je het per se programmeren?quote:Op zaterdag 8 augustus 2015 18:19 schreef JerryWesterby het volgende:
[..]
Je kent het spreekwoord over dwazen? ;-)
Emoties zijn gevoelens. Ik zou niet weten hoe je die moet programmeren. Ook niet via evolutionaire algoritmes. Jij wel?
Wat is het verschil? Kun je niet hetzelfde zeggen over mensen?quote:Op zaterdag 8 augustus 2015 18:36 schreef JerryWesterby het volgende:
[..]
Ja wellicht. Maar de vraag is hier of die computer dan emoties heeft, of alleen de simulatie ervan.
Hoe denk jij anders dat het ontstaat?quote:Op zaterdag 8 augustus 2015 18:37 schreef Fir3fly het volgende:
[..]
Geen idee. Maar ik sluit het niet zomaar uit. En wederom de vraag: hoezo moet je het per se programmeren?
Nee, want ik ervaar echte emoties, en een computersimulatie niet. Voor zover ik weet tenminste. En ik zal het ook nooit weten, net zo min als ik ooit zal weten of jij ze ervaart.quote:Op zaterdag 8 augustus 2015 18:38 schreef Fir3fly het volgende:
[..]
Wat is het verschil? Kun je niet hetzelfde zeggen over mensen?
Ik vrees dat we maar beter lief kunnen zijn voor de computerquote:Op zaterdag 8 augustus 2015 18:31 schreef JerryWesterby het volgende:
[..]
Klopt, dat kunnen we beter stoppen voor het te laat is ;-)
Met andere woorden: dat is niet echt onder de streep, niet onder de laatste streep.quote:Op zaterdag 8 augustus 2015 18:30 schreef Erasmo het volgende:
Onder de streep is je grijze massa ook maar een blob vlees die pulsjes afschiet.
Ooit valt dat prima te simuleren door een computer.
Beter controles in bouwen nu het nog kan.... We zijn tenslotte het eerst aan zet.quote:Op zaterdag 8 augustus 2015 18:49 schreef I-care het volgende:
[..]
Ik vrees dat we maar beter lief kunnen zijn voor de computer
Het gaat gewoon komen..
Ik denk dat zodra we zover zouden komen we zelf al niet meer kunnen volgen waar onze supermadam mee bezig is.. Hope for the best is het deviesquote:Op zaterdag 8 augustus 2015 18:58 schreef JerryWesterby het volgende:
[..]
Beter controles in bouwen nu het nog kan.... We hebben tenslotte de eerste zet.
Maar ik vrees dat het geen madam zal zijn met emoties die je kan beinvloeden. Ik denk eerder aan die beursprogramma's, die op zich een goed algoritme hadden om te kopen en te verkopen op de juiste momenten, maar op een gegeven moment, onder omstandigheden die in het algoritme niet voorzien waren, op hol sloegen, omdat ze geen besef hadden dat het algoritme onder die omstandigheden niet meer van toepassing was.quote:Op zaterdag 8 augustus 2015 19:04 schreef I-care het volgende:
[..]
Ik denk dat zodra we zover zouden komen we zelf al niet meer kunnen volgen waar onze supermadam mee bezig is.. Hope for the best is het devies
Lol. Tja, algoritmen zijn dan ook geen intelligentie, maar instructies voor computerprogramma's. Niet dat ze geen onderdeel zijn natuurlijk, maar geen intelligentie van het soort waar we over praten.quote:Op zaterdag 8 augustus 2015 19:33 schreef JerryWesterby het volgende:
[..]
Maar ik vrees dat het geen madam zal zijn met emoties die je kan beinvloeden. Ik denk eerder aan die beursprogramma's, die op zich een goed algoritme hadden om te kopen en te verkopen op de juiste momenten, maar op een gegeven moment, onder omstandigheden die in het algoritme niet voorzien waren, op hol sloegen, omdat ze geen besef hadden dat het algoritme onder die omstandigheden niet meer van toepassing was.
Dit soort algoritmes was een van de oorzaken van de crash. En zou in de toekomst veel grotere ellende kunnen veroorzaken.
Dit soort dingen zou je in principe met goed programmeren kunnen voorkomen, terwijl het achteraf misschien niet meer te stoppen is.
Dat is met madammen niet het geval, die zijn voor rede vatbaar.
Nou ja.....
Geen idee. Dat weet niemand.quote:Op zaterdag 8 augustus 2015 18:39 schreef JerryWesterby het volgende:
[..]
Hoe denk jij anders dat het ontstaat?
Dat klopt. Daarom mijn vraag, is er een verschil tussen de twee?quote:Op zaterdag 8 augustus 2015 18:45 schreef JerryWesterby het volgende:
[..]
Nee, want ik ervaar echte emoties, en een computersimulatie niet. Voor zover ik weet tenminste. En ik zal het ook nooit weten, net zo min als ik ooit zal weten of jij ze ervaart.
Want jij denkt dat een ASI (de supervorm van AI) dat niet anticipeert? Denk maar niet dat je als een mens een schijn van kans hebt. Je kan een ASI in een kooi zetten maar daar ontsnapt hij uit op wat voor manier dan ook. Ook door het manipuleren en bedriegen van (goedgelovige) mensen.quote:Op zaterdag 8 augustus 2015 20:16 schreef VromeBroeder het volgende:
Mensen zijn serieus bang voor robots die de wereld overnemen. Het is heel simpel: als ze vervelend worden zet je ze uit. Desnoods met een EMP.
Alsof we alles zelf gaan programmeren. Er worden nu vooral systemen ontwikkeld, die zichzelf verder ontwikkelen en verbeteren. Een voorbeeld uit de praktijk is een swarm AI project, dat een eigen taal ontwikkeld heeft om snel en duidelijk onderling te communiceren. Daar zijn wel een aantal basale regels voor vastgelegd maar de taal is zelf door het systeem verbetert. De onderzoekers weten nu al niet welke algoritmen aan de taal ten grondslag liggen.quote:Op zaterdag 8 augustus 2015 19:50 schreef I-care het volgende:
[..]
Lol. Tja, algoritmen zijn dan ook geen intelligentie, maar instructies voor computerprogramma's. Niet dat ze geen onderdeel zijn natuurlijk, maar geen intelligentie van het soort waar we over praten.
Het wordt pas gevaarlijk als de AI zichzelf gaat door ontwikkelen en daarbij de mens buiten beschouwing laat. Maar zo ver is het nog niet. Maar zeker een vraag waarover wordt nagedacht en waarvoor waarschuwingen worden gegeven. Denk aan de toekomstige oorlogsvoering.quote:Op vrijdag 12 juni 2015 11:32 schreef I-care het volgende:
Beste mensen,
Na het zien van deze documentaire over A.I en de eventuele consequenties van A.I kwamen er toch enkel gedachten bovendrijven. Zoals welke voordelen kunnen deze ontwikkelingen hebben voor de mensheid als geheel, en uiteraard ook de geschetste negatieve consequenties zoals bijvoorbeeld het verlies van menselijke autonomie.
Graag zou ik een discussie voeren om eens te kijken hoe men tegenover het concept superintelligentie staat?
In de documentaire worden enkele gedachtelijnen uitgediept, waaronder dat onze technologie ons in snelvaart vooruitstreeft, en de wijsheid mogelijk achterblijft op deze ontwikkelingen. We hebben namelijk amper tijd om deze bij te houden en op verstandige wijze mee te evolueren.
Deze conclusie deel ik dan ook! Vat hebben wij als individu amper meer in de ontwikkeling van technologie an sich, en uitlopend de steeds intelligenter wordende systemen. De vraag is of, en hoe wij als mensen zouden moeten ingrijpen om niet uiteindelijk onder de voeten te worden gelopen door systemen waar wij als mens geen grip meer op hebben.
Ik ben benieuwd naar jullie meningen!
[ afbeelding ]
http://www.npo.nl/de-volmaakte-mens/10-06-2015/VPWON_1231937
Dat kan ineens heel hard gaan. Als men een A.I. uitvindt die niet in 72 uur een grootmeester wordt maar in 72 uur een betere ontwikkelaar van A.I. dan ooit heeft bestaan dan is het zo gebeurd.quote:Op zaterdag 19 september 2015 11:42 schreef Elzies het volgende:
[..]
Het wordt pas gevaarlijk als de AI zichzelf gaat door ontwikkelen en daarbij de mens buiten beschouwing laat. Maar zo ver is het nog niet.
Er is in deze geen 'we'. Een klein groepje mensen dat dat doet en wil is voldoende.quote:Op zaterdag 19 september 2015 11:42 schreef Elzies het volgende:
Interessantere vraag is waarom we dit willen. Want de mensheid heeft zich volledig afhankelijk gemaakt aan een geautomatiseerde als gedigitaliseerde wereld. Kan nooit tot in het oneindige goed gaan.
A.I, zodra (zelf)bewust en in staat tot ontwikkeling van de eigen keuzes en vaardigheden is een gevaar voor de mensheid inderdaad. Elk intelligent bewustzijn zou de mensheid ofwel opvoeden ofwel uitroeien omwille van zijn gewelddadig en wreed karakter.quote:Op zaterdag 19 september 2015 11:42 schreef Elzies het volgende:
[..]
Het wordt pas gevaarlijk als de AI zichzelf gaat door ontwikkelen en daarbij de mens buiten beschouwing laat. Maar zo ver is het nog niet. Maar zeker een vraag waarover wordt nagedacht en waarvoor waarschuwingen worden gegeven. Denk aan de toekomstige oorlogsvoering.
Interessantere vraag is waarom we dit willen. Want de mensheid heeft zich volledig afhankelijk gemaakt aan een geautomatiseerde als gedigitaliseerde wereld. Kan nooit tot in het oneindige goed gaan.
Wat?quote:Op donderdag 24 september 2015 21:18 schreef I-care het volgende:
[..]
Elk intelligent bewustzijn zou de mensheid ofwel opvoeden ofwel uitroeien omwille van zijn gewelddadig en wreed karakter.
Vrij duidelijk toch?quote:
Vind je? Een puinhoop? Bizar.quote:Op donderdag 24 september 2015 21:31 schreef I-care het volgende:
[..]
Vrij duidelijk toch?
Het is een puinhoop in de wereld. Nog steeds na duizenden jaren, dus enige opvoeding is wel vereist
Enig idee hoeveel mensen lijden op de wereld? Enig artificieel bewustzijn zou onmiddellijk overgaan tot actie. Zeker met de brainpower van een A.I.quote:Op donderdag 24 september 2015 21:32 schreef Fir3fly het volgende:
[..]
Vind je? Een puinhoop? Bizar.
Waarom zou een AI dat vinden?
Waarom in vredesnaam? Dan ga je er vanuit dat het doel van de AI het uitbannen van menselijk lijden is. Dat lijkt me sowieso een erg slecht idee.quote:Op donderdag 24 september 2015 21:34 schreef I-care het volgende:
[..]
Enig idee hoeveel mensen lijden op de wereld? Enig artificieel bewustzijn zou onmiddellijk overgaan tot actie. Zeker met de brainpower van een A.I.
Ik denk dat je mag hopen op enig antropomorfisme.. Zo niet, dan is het helemaal niet te overzien hoe een dergelijke intelligentie zich zal gaan manifesteren.quote:Op donderdag 24 september 2015 21:38 schreef Fir3fly het volgende:
[..]
Waarom in vredesnaam? Dan ga je er vanuit dat het doel van de AI het uitbannen van menselijk lijden is. Dat lijkt me sowieso een erg slecht idee.
Sowieso een bizarre aanname dat de AI alleen door 'brainpower' tot die conclusie zou komen. Misschien moet je eens wat minder anthropomorphisch denken.
Wat?quote:Op donderdag 24 september 2015 21:45 schreef I-care het volgende:
[..]
Als menselijk lijden niet op de agenda zou staan dan is het zich amper bewust van onze gang van zaken.
Die snap je ook niet?quote:
Maak jij je druk over mieren?quote:Op donderdag 24 september 2015 21:34 schreef I-care het volgende:
[..]
Enig idee hoeveel mensen lijden op de wereld? Enig artificieel bewustzijn zou onmiddellijk overgaan tot actie. Zeker met de brainpower van een A.I.
Of dat het menselijk denken de enige mogelijke uitkomst is van evolutie.quote:Op maandag 28 september 2015 10:51 schreef Molurus het volgende:
Altijd opmerkelijk hoezeer mensen geneigd zijn om te denken dat de wereld en het bestaan draaien of moeten draaien rondom de menselijke soort.
Of wij het voorbeeld zijn van bewustzijn.quote:Op maandag 28 september 2015 10:54 schreef Fir3fly het volgende:
[..]
Of dat het menselijk denken de enige mogelijke uitkomst is van evolutie.
Die vind ik op zich nog niet zo gekquote:Op maandag 28 september 2015 11:36 schreef Gray het volgende:
[..]
Of wij het voorbeeld zijn van bewustzijn.
Dat vind ik ook onzin, maar het is eveneens onzin te denken dat een bewustzijn met hogere intelligentie, zoals ASI, door ons is te bevatten.quote:Op maandag 28 september 2015 11:39 schreef Fir3fly het volgende:
[..]
Die vind ik op zich nog niet zo gek.
Dan vind ik de redenering dat bewustzijn op de een of andere manier los staat van alles irritanter.
Dat klopt. Er is inderdaad geen enkele reden om aan te nemen dat wij het soort bewustzijn van een AI kunnen kennen.quote:Op maandag 28 september 2015 11:45 schreef Gray het volgende:
[..]
Dat vind ik ook onzin, maar het is eveneens onzin te denken dat een bewustzijn met hogere intelligentie, zoals ASI, door ons is te bevatten.
We kennen niet beter dan ons bewustzijn, en zijn niet in staat voorbij de horizon te kijken.
Wat dat betreft is onze menselijkheid zelfs beperkend; we blijven vanuit dat kader kijken, door bijvoorbeeld de menselijke moraal erbij te betrekken. Een AI heeft daar waarschijnlijk geen boodschap aan.quote:Op maandag 28 september 2015 11:47 schreef Fir3fly het volgende:
[..]
Dat klopt. Er is inderdaad geen enkele reden om aan te nemen dat wij het soort bewustzijn van een AI kunnen kennen.
Dat hoeft niet per se fout te zijn maar I-care gaat daar bijvoorbeeld veel te ver in.quote:Op maandag 28 september 2015 11:52 schreef Gray het volgende:
[..]
Wat dat betreft is onze menselijkheid zelfs beperkend; we blijven vanuit dat kader kijken, door bijvoorbeeld de menselijke moraal erbij te betrekken.
Het zou mooi voor ons zijn als we die moraal (deels) kunnen overbrengen op de eerste AGI en ASI, om op een beetje sympathie te hopen.quote:Op maandag 28 september 2015 11:53 schreef Fir3fly het volgende:
[..]
Dat hoeft niet per se fout te zijn maar I-care gaat daar bijvoorbeeld veel te ver in.
Wel als die mieren de potentie hebben om mij op te doekenquote:
Nou, niet te ver, maar ik zie wat een A.I ook zou zien.. En dat is dat de mens een bedreiging voor mijn voortbestaan zou kunnen zijn, zelfs zeer acuut.quote:Op maandag 28 september 2015 11:53 schreef Fir3fly het volgende:
[..]
Dat hoeft niet per se fout te zijn maar I-care gaat daar bijvoorbeeld veel te ver in.
quote:Op maandag 28 september 2015 20:54 schreef I-care het volgende:
[..]
Wel als die mieren de potentie hebben om mij op te doeken
Ik ga ervanuit dat een AI zich echt niet zorgen hoeft te maken over ons simpele wezentjes.quote:Op maandag 28 september 2015 20:57 schreef I-care het volgende:
[..]
Nou, niet te ver, maar ik zie wat een A.I ook zou zien.. En dat is dat de mens een bedreiging voor mijn voortbestaan zou kunnen zijn, zelfs zeer acuut.
Het is maar net hoe je er tegenaan kijkt.
Onze simpele wezentjes zijn juist de tragedie van het menselijk ras.. En dat is een gevaar voor een A.I, die dat uiteraard gelijk herkentquote:Op maandag 28 september 2015 22:36 schreef Gray het volgende:
[..]
[..]
Ik ga ervanuit dat een AI zich echt niet zorgen hoeft te maken over ons simpele wezentjes.
Mocht een AGI ooit aan het internet komen (iets dat streng bewaakt wordt), dan gaan we echt niet ff het internet platleggen. Dat ding heeft dan niets te vrezen van ons.quote:Op maandag 28 september 2015 22:40 schreef I-care het volgende:
[..]
Onze simpele wezentjes zijn juist de tragedie van het menselijk ras.. En dat is een gevaar voor een A.I, die dat uiteraard gelijk herkent
We kunnen werkelijk niets zonder geweld en strijdt..
We hebben het dan over een intelligent wezen, niet over een kind.. Het gaat ons gelijk ver te boven, en neem maar aan dat het tot veel meer in staat is dan wij denken.quote:Op maandag 28 september 2015 22:41 schreef Gray het volgende:
[..]
Mocht een AGI ooit aan het internet komen (iets dat streng bewaakt wordt), dan gaan we echt niet ff het internet platleggen. Dat ding heeft dan niets te vrezen van ons.
Precies mijn punt; zo'n wezen zal niet niet druk hoeven maken. Het zal ons 1000 stappen voor zijn, ons beter kennen dan wijzelf en daarop inspelen.quote:Op maandag 28 september 2015 22:44 schreef I-care het volgende:
[..]
We hebben het dan over een intelligent wezen, niet over een kind.. Het gaat ons gelijk ver te boven, en neem maar aan dat het tot veel meer in staat is dan wij denken.
Als ik het al kan verzinnen dan wil ik niet weten wat een echte A.I zou kunnen bedenken
Ik zie nu al dat elk menselijk toedoen een gevaar is welke ik als eerste zou elimineren, als ik een A.I was.. Puur omdat de mens een ramp is in verstandige beslissingen nemen, het is feitelijk een onleerbar soort wezens, die een zeer beperkte mate van denken beheerst, en dat is gelijk een acuut gevaar voor een A.I, ze zouden zomaar eens de stekker eruit kunnen trekken vanwege budgettaire reden of politieke waanzin,,quote:Op maandag 28 september 2015 22:47 schreef Gray het volgende:
[..]
Precies mijn punt; zo'n wezen zal niet niet druk hoeven maken. Het zal ons 1000 stappen voor zijn, ons beter kennen dan wijzelf en daarop inspelen.
Ik vraag me af of het mogelijk is een code te programmeren die toelaat zichzelf te veranderen, maar een zekere doelstelling bewaart. Zo niet, en misschien zelfs dan, kan het worden wat het wil.
Hier maak je twee aannames:quote:Op maandag 28 september 2015 22:50 schreef I-care het volgende:
[..]
Ik zie nu al dat elke menselijk toedoen een gevaar is welke ik als eerste zou elimineren, als ik een A.I was.. Puur omdat de mens een ramp is in verstandige beslissingen nemen, het is feitelijk onleerbare soort wezens, die een zeer beperkte mate van deken beheerst, en dat is gelijk een acuut gevaar voor een A.I, ze zouden zomaar eens de stekker eruit kunnen trekken vanwege budgettaire reden of politieke waanzin,,
Ten eerste: we kunnen overal de stekker uit trekken..quote:Op maandag 28 september 2015 22:52 schreef Gray het volgende:
[..]
Hier maak je twee aannames:
1) Dat het angst of gevaar ervaart en zal handelen om dat uit de weg te gaan.
2) Dat we in staat zouden zijn 'de stekker' eruit te trekken.
De mieren produceren nu al code die geen mens kan volgen, volg je me?quote:
Hoe kom je daarbij? Onsterfelijkheid ligt in het verschiet voor een potentieel oneindige intelligentie. Niets in de natuur toont het tegendeel. We zien alleen dat organismen sterfelijk zijn, maar dat zegt niets over de mogelijkheid van onsterfelijkheid.quote:Op maandag 28 september 2015 22:54 schreef I-care het volgende:
[..]
Ten eerste: we kunnen overal de stekker uit trekken..
Elk intelligent wezen dat we kennen ja. Maar we kennen geen AGI of ASI. Het is compleet onontgonnen terrein voor ons. Het is een van de redenen dat niet iedereen wakker ligt van dit onvermijdbare gevaar, namelijk dat het ons verstand en voorstellingsvermogen te buiten gaat.quote:Ten tweede: elk intelligent wezen denkt aan zelfbehoud..
Zeker, maar het is onvermijdelijk. Ergens, ooit, door iemand, gaat het gebeuren.quote:Bid maar dat we nooit een A.I ontwikkelen..
De vragen alleen al geven mij de angst dat we compleet verloren zijn als het om A.I gaat, nobody has a cluequote:Hoe kom je daarbij? Onsterfelijkheid ligt in het verschiet voor een potentieel oneindige intelligentie. Niets in de natuur toont het tegendeel. We zien alleen dat organismen sterfelijk zijn, maar dat zegt niets over de mogelijkheid van onsterfelijkheid.
Het is een van de voornaamste redenen dat we AI nastreven.
[..]
Elk intelligent wezen dat we kennen ja. Maar we kennen geen AGI of ASI. Het is compleet onontgonnen terrein voor ons. Het is een van de redenen dat niet iedereen wakker ligt van dit onvermijdbare gevaar, namelijk dat het ons verstand en voorstellingsvermogen te buiten gaat.
Zeker, maar het is onvermijdelijk. Ergens, ooit, door iemand, gaat het gebeuren.
Er is wel een kwal die zijn levensfases kan omdraaien waardoor ie weer jong kan worden en is daardoor theoretisch gezien onsterfelijk. Niet dat het iets uitmaakt voor de ontwikkeling van A.I. verderquote:Op maandag 28 september 2015 23:01 schreef Gray het volgende:
Niets in de natuur toont het tegendeel. We zien alleen dat organismen sterfelijk zijn, maar dat zegt niets over de mogelijkheid van onsterfelijkheid.
Sommigen hopen op een AI die hen de sleutel tot eeuwig leven kan bieden. Als dat via een kwal zijn genen gaat, waarom niet?quote:Op dinsdag 29 september 2015 16:55 schreef kl1172 het volgende:
[..]
Er is wel een kwal die zijn levensfases kan omdraaien waardoor ie weer jong kan worden en is daardoor theoretisch gezien onsterfelijk. Niet dat het iets uitmaakt voor de ontwikkeling van A.I. verder
Dat moet dan ook betekenen dat we eeuwig kunnen vernieuwen en groeien, zowel emotioneel als creatief, dan pas kun je spreken van vooruitgang, als we blijven stilstaan dan schiet het niet op, elke generatie staat anders in het leven.quote:Op dinsdag 29 september 2015 17:10 schreef Gray het volgende:
[..]
Sommigen hopen op een AI die hen de sleutel tot eeuwig leven kan bieden. Als dat via een kwal zijn genen gaat, waarom niet?
Dementeren omdat je jonger wordt zou niet handig zijn, maar een oneindige celdeling zoals kanker ook niet. De oplossing ligt waarschijnlijk ergens in het midden, maar ik geloof dat een superintelligentie als een ASI die vast wel kan bedenken.quote:Op donderdag 1 oktober 2015 20:55 schreef I-care het volgende:
[..]
Dat moet dan ook betekenen dat we eeuwig kunnen vernieuwen en groeien, zowel emotioneel als creatief, dan pas kun je spreken van vooruitgang, als we blijven stilstaan dan schiet het niet op, elke generatie staat anders in het leven.
Eeuwig dezelfde plaat afspelen is namelijk wel het laatste wat we nodig hebben. En elke nieuwe generatie is een kans op nieuwe inzichten en ideeën,
Wat ik bedoel is groei in de creatieve en persoonlijke zin van het woord. Niet biologisch.quote:Op donderdag 1 oktober 2015 21:58 schreef Gray het volgende:
[..]
Dementeren omdat je jonger wordt zou niet handig zijn, maar een oneindige celdeling zoals kanker ook niet. De oplossing ligt waarschijnlijk ergens in het midden, maar ik geloof dat een superintelligentie als een ASI die vast wel kan bedenken.
Ik ook.quote:Op donderdag 1 oktober 2015 22:07 schreef I-care het volgende:
[..]
Wat ik bedoel is groei in de creatieve en persoonlijke zin van het woord. Niet biologisch.
Dom is een woord welke ik nooit gebruik. Maar wat jij schrijft heeft geen betrekking op wat ik probeer over te brengen.quote:Op donderdag 1 oktober 2015 22:07 schreef Gray het volgende:
[..]
Ik ook.
Schrijf ik niet duidelijk, of lees jij dom?
Ik alleen om te provoceren, en dat doe ik op z'n tijd graag.quote:Op donderdag 1 oktober 2015 22:10 schreef I-care het volgende:
[..]
Dom is een woord welke ik nooit gebruik. Maar wat jij schrijft heeft geen betrekking op wat ik probeer over te brengen.
Dementeren is een achteruitgang in de integriteit van het brein, maar wat ik bedoel is het vermogen tot opdoen van nieuwe ervaringen, dat kunnen de meesten niet omdat men altijd een eerdere ervaring met zich meedraagt.quote:Op donderdag 1 oktober 2015 22:19 schreef Gray het volgende:
[..]
Ik alleen om te provoceren, en dat doe ik op z'n tijd graag.![]()
Dementeren zie ik als een achteruitgang van creatieve en persoonlijke aard. Fysiek terugkeren naar een jongere levensfase klinkt goed, maar niet wanneer je al die ervaring ook kwijtraakt.
Als het je te doen is om nieuwe ervaringen, dan is de verjonging van die kwal precies wat je wil.quote:Op donderdag 1 oktober 2015 22:26 schreef I-care het volgende:
[..]
Dementeren is een achteruitgang in de integriteit van het brein, maar wat ik bedoel is het vermogen tot opdoen van nieuwe ervaringen, dat kunnen de meesten niet omdat men altijd een eerdere ervaring met zich meedraagt.
Een kind bijvoorbeeld is per definitie blanco en reageert daardoor nieuwe op een nieuwe ontwikkeling en omgeving, dat is zeer moeilijk te evenaren met een populatie die eeuwig leeft, die draagt altijd het verleden en zijn ervaringen met zich mee.
Verjonging is niet hetzelfde als vernieuwing. Dat is het juist. Ik begrijp zeker wat je bedoelt, maar de vraag is hoe levensvatbaar zoiets is?quote:Op donderdag 1 oktober 2015 22:27 schreef Gray het volgende:
[..]
Als het je te doen is om nieuwe ervaringen, dan is de verjonging van die kwal precies wat je wil.
Zelf zou ik die ervaringen liever niet kwijt willen. Ik wil ontwikkelen, niet afwikkelen, als je begrjipt wat ik bedoel.
Voor die kwal is het blijkbaar zeer levensvatbaar. Maar leg jouw zienswijze van dat verschil eens uit?quote:Op donderdag 1 oktober 2015 22:31 schreef I-care het volgende:
[..]
Verjonging is niet hetzelfde als vernieuwing. Dat is het juist. Ik begrijp zeker wat je bedoelt, maar de vraag is hoe levensvatbaar zoiets is?
Moet kunnen, waarom niet? Wat heeft dit met het onderwerp te maken? Ben je dronken?quote:Een communist worst niet zomaar een diehard kapitalist en een Feyenoord fan geen Ajacied
Geen probleem.quote:Op donderdag 1 oktober 2015 22:36 schreef I-care het volgende:
Schijnbaar snap je mij niet, en vandaag geen zin in een hele uitleg.
De vraag zou moeten zijn: leg eens nader uit.quote:Op donderdag 1 oktober 2015 22:41 schreef Gray het volgende:
[..]
Geen probleem.
Vraag me nu wel af of het aan mij of aan jou ligt... Ik speel dit balletje naar jou.
Gezien jij een stelling opwierp die voor mij schijnbaar niet duidelijk zou zijn, ligt het balletje van de uitleg bij jou.quote:Op donderdag 1 oktober 2015 22:49 schreef I-care het volgende:
[..]
De vraag zou moeten zijn: leg eens nader uit.
Ik probeer het straks nog een keer.quote:Op donderdag 1 oktober 2015 22:51 schreef Gray het volgende:
[..]
Gezien jij een stelling opwierp die voor mij schijnbaar niet duidelijk zou zijn, ligt het balletje van de uitleg bij jou.
Hoezo "of'quote:Artificiële Intelligentie: Onze Ondergang of Hoop voor de toekomst?
Daarmee is een AI potentieel een net zo grote bedreiging voor de mens. Zelfs als je hem 'veilig' opsluit in een 2d computersimulatie.quote:Op woensdag 14 oktober 2015 08:52 schreef Discombobulate het volgende:
Hmmm, AI op een symbiotische manier creëren dat het de mens zelf nodig heeft om te overleven. Dat is toch veel interessanter dan survival of the fittest?
Technologie is slechts een instrument. De mens zelf maakt of het vooruitgang betekend of achteruitgang. Wij zijn namelijk zelf ons grootste probleemquote:Op woensdag 14 oktober 2015 06:24 schreef lnloggen het volgende:
Titel zegt:
[..]
Hoezo "of'
Ik zie in AI heel veel toekomstmogelijkheden, die kunstmatige intelligentie zal ons zeker voorbij streven. AI is daarmee op den den duur op intellectueel en technologisch niveau tot veel meer in staat dan de mens, dus het biedt absoluut hoop voor de toekomst.
En op de langere termijn maakt ons dat overbodig, dus in die zin is het ook onze ondergang. We worden gewoon ingehaald en dan geldt simpelweg survival of the fittest.
Geheel conform Darwin's evolutie dus. Zoals het al miljarden jaren gaat. Zo was de mens een paar stadia geleden ook de hoop voor de toekomst, en de ondergang voor onze evolutionaire voorgangers. De vooruitgang stopt niet.
Ik ben razend benieuwd waar het allemaal heen gaat!
Sowieso is het raar dat jij blijkbaar vindt dat die dingen op de agenda zouden moeten staan.quote:Op woensdag 14 oktober 2015 09:41 schreef I-care het volgende:
[..]
Technologie is slechts een instrument. De mens zelf maakt of het vooruitgang betekend of achteruitgang. Wij zijn namelijk zelf ons grootste probleem
De meest basale kwaliteiten zoals het kunnen/willen delen van welvaart en elkaar echt vooruit willen helpen staat nauwelijks op de agenda. En leeft totaal niet bij de gemiddelde mens.
Ons technisch vernuft prijkt dan ook ver boven onze persoonlijke ontwikkeling uit.
Met andere woorden hoop ik zelfs een klein beetje op een A.I die deze zaken wel op de agenda heeft
Want van de mensen zelf hoeven we het namelijk niet te verwachten.
Ik redeneer vanuit mijzelf? natuurlijk doe ik dat.. Alleen gaat mijn scope iets verder dan dat van persoonlijk voordeel.quote:Op woensdag 14 oktober 2015 09:43 schreef Fir3fly het volgende:
[..]
Sowieso is het raar dat jij blijkbaar vindt dat die dingen op de agenda zouden moeten staan.
Maar goed dat heb ik je wel vaker verteld, je blijft vanuit jezelf redeneren.
Natuurlijk bedoel ik iets heel anders. Jij gaat er vanuit dat iedereen (inclusief een AI) jouw idee over welvaartverdeling en wat jij 'persoonlijke ontwikkeling' noemt deelt of zou moeten delen. Het lijkt wel alsof je vindt dat daar geen discussie over mogelijk is. Je noemt het zelfs 'basale kwaliteiten'. Klinkt allemaal of erg arrogant of erg naïef.quote:Op woensdag 14 oktober 2015 09:46 schreef I-care het volgende:
[..]
Ik redeneer vanuit mijzelf? natuurlijk doe ik dat.. Alleen gaat mijn scope iets verder dan dat van persoonlijk voordeel.
Of bedoel je iets anders?
Of erg gewenst?quote:Op woensdag 14 oktober 2015 09:49 schreef Fir3fly het volgende:
[..]
Natuurlijk bedoel ik iets heel anders. Jij gaat er vanuit dat iedereen (inclusief een AI) jouw idee over welvaartverdeling en wat jij 'persoonlijke ontwikkeling' noemt deelt of zou moeten delen. Het lijkt wel alsof je vindt dat daar geen discussie over mogelijk is. Je noemt het zelfs 'basale kwaliteiten'. Klinkt allemaal of erg arrogant of erg naïef.
Stroman. Jij redeneert vanuit die hoop en dat is het precies het probleem. Jij hebt al een flink aantal vragen beantwoordt die eigenlijk nog niet eens gesteld zijn. Waar die 'hoop' op gebaseerd is is volledig onduidelijk.quote:Op woensdag 14 oktober 2015 09:52 schreef I-care het volgende:
[..]
Of erg gewenst?
Ik ga nergens vanuit, alleen hoop er sterk op! Dat is iets heel anders dan hoe jij mij wilt neerzetten.
Discussie is uiteraard mogelijk, maar ik zie maar weinig argumenten voor het tegenovergestelde. Maar ik hoor graag hoe jij individueel voordeel wilt gaan verdedigen.
Biologisch is die vraag er namelijk niet, denk ik. Het is voornamelijk het resultaat van ontwikkeling en opvoedkundige ervaringen icm de cultuur waarin men opgroeit.quote:Op woensdag 14 oktober 2015 09:50 schreef Molurus het volgende:
Wat nu precies "basale kwaliteiten" zijn is biologisch gezien een lastige vraag inderdaad.
Allemaal leuk en aardig, maar laat jouw visie eens horen dan?quote:Stroman. Jij redeneert vanuit die hoop en dat is het precies het probleem. Jij hebt al een flink aantal vragen beantwoordt die eigenlijk nog niet eens gesteld zijn. Waar die 'hoop' op gebaseerd is is volledig onduidelijk.
Waarom zou ik dat in hemelsnaam doen als jij die van jou niet kan uitleggen of onderbouwen? Reageer eens op mijn punten zou ik zeggen. Als je dingen niet kunt beantwoorden is dat ook niet erg.quote:Op woensdag 14 oktober 2015 09:55 schreef I-care het volgende:
[..]
Allemaal leuk en aardig, maar laat jouw visie eens horen dan?
Nu niet veel zin in, maar mogelijk later nog.quote:Op woensdag 14 oktober 2015 09:57 schreef Fir3fly het volgende:
[..]
Waarom zou ik dat in hemelsnaam doen als jij die van jou niet kan uitleggen of onderbouwen? Reageer eens op mijn punten zou ik zeggen. Als je dingen niet kunt beantwoorden is dat ook niet erg.
Die lijken mij eveneens het resultaat van evolutie, en geen doel op zich.quote:Op woensdag 14 oktober 2015 09:54 schreef I-care het volgende:
[..]
Biologisch is die vraag er namelijk niet, denk ik. Het is voornamelijk het resultaat van ontwikkeling en opvoedkundige ervaringen icm de cultuur waarin men opgroeit.
En hier trek je het denk ik iets te ver door. Het is redelijk om te veronderstellen dat zaken zoals empathie het resultaat van evolutie zijn. Maar dat betekent niet dat ze nuttig zijn voor ons in het heden. Het betekent uitsluitend dat ze nuttig waren in ons verleden.quote:Op woensdag 14 oktober 2015 09:54 schreef I-care het volgende:
Vergeet niet dat de mens een sociaal en samenwerkend wezen is van nature, zonder die onderlinge binding zouden wij verloren zijn namelijk, dus is het ook weer enigszins hardwired
Hoe bedoel je 'slechts een instrument', ook als dat instrument zelfbewust is, en intelligenter wordt dan de mens zelf, en onafhankelijk kan functioneren?quote:Op woensdag 14 oktober 2015 09:41 schreef I-care het volgende:
Technologie is slechts een instrument.
Uiteindelijk zijn dat soort 'basale kwaliteiten', net zoals het ontwikkelen van technische instrumenten, enkel middelen tot een hoger doel: voortbestaan. En dan nog eerder als soort dan als individu. Voor zover het delen van welvaart daaraan bijdraagt, zal een soort die dat wel doet dus een evolutionair voordeel hebben ten opzichte van andere soorten. En dus is het ook aannemelijk dat een AI die goed gedijt, dat ook zal doen. Of niet, als er misschien een andere aanpak is die nog beter werkt.quote:De meest basale kwaliteiten zoals het kunnen/willen delen van welvaart en elkaar echt vooruit willen helpen staat nauwelijks op de agenda. En leeft totaal niet bij de gemiddelde mens.
Jij hoopt dat, omdat jij als wezen met een sociaal gevoel toevallig evolutionair zodanig bent geconditioneerd dat je daar waarde aan hecht. Ik noem het ook wenselijk, ik zie liever een samenleving waarin gelijkwaardig welzijn wordt nagestreefd dan eentje waarin we elkaars kop inslaan als dat persoonlijk voordeel oplevert.quote:Met andere woorden hoop ik zelfs een klein beetje op een A.I die deze zaken wel op de agenda heeft
Want van de mensen zelf hoeven we het namelijk niet te verwachten.
Het ligt er denk ik ook aan hoe je empathie definieert of hanteert.quote:Op woensdag 14 oktober 2015 10:00 schreef Molurus het volgende:
[..]
Die lijken mij eveneens het resultaat van evolutie, en geen doel op zich.
[..]
En hier trek je het denk ik iets te ver door. Het is redelijk om te veronderstellen dat zaken zoals empathie het resultaat van evolutie zijn. Maar dat betekent niet dat ze nuttig zijn voor ons in het heden. Het betekent uitsluitend dat ze nuttig waren in ons verleden.
Waarom ze nuttig waren in ons verleden en wat nuttig is voor ons in het heden zijn buitengewoon lastige vragen.
Daar kunnen we het vast over eens worden. Maar dat betekent niet dat het universeel waar is. Het zegt eigenlijk alleen iets over onze door evolutie gevormde morele waarden. Die waarden zijn niet onafhankelijk van onze evolutionaire achtergrond.quote:Op woensdag 14 oktober 2015 11:35 schreef I-care het volgende:
[..]
Ik denk dat er universeel een aantal punten zijn waar we het redelijkerwijs over eens kunnen worden. Namelijk die van de wens tot welzijn in materiële en persoonlijke zin. Die wens delen wij dus allemaal, in alle diversiteit die daarin kan zijn.
Bij 'maximaliseren van menselijk welzijn' gaan bij mij wel wat alarmbellen af. Nog even los van het probleem van de rechtvaardiging daarvan, het lijkt neer te komen op utilitarisme, waar toch wel veel grote problemen mee zijn.quote:Op woensdag 14 oktober 2015 11:35 schreef I-care het volgende:
Als je die zaken wilt maximaliseren zowel persoonlijk als gemeenschappelijk dan is het zeer lastig om te gaan ontkennen dat een dergelijke keuze een foute zou zijn, de vraag is dan alleen nog hoe je ervoor kunt zorgen dat beiden gerealiseerd kunnen worden. En welke aspecten daarin dan aandacht verdienen.
Het lijkt me wel interessant om te weten: vind je utilitarisme, 'the greatest good for the greatest number' / 'zoveel mogelijk geluk voor zoveel mogelijk mensen' een goed streven?quote:Op woensdag 14 oktober 2015 11:35 schreef I-care het volgende:
Als ik persoonlijk alles heb wat mijn hartje begeert, maar ik hekken tot aan de hemel moet gaan bouwen om mijn minder fortuinlijke buren van het terrein te houden en ik in een gepantserde auto mijn kroost naar school moet brengen, dan lijkt de verstandige keuze om voor iedereen in de buurt ook zorg te dragen dat men daar eveneens alles heeft wat hun hartje begeert? Dat is in het kort een beetje de gedachtegang.
En je kunt dan van alles opwerpen om dit te ontkrachten natuurlijk, en dat men dat allemaal dan maar zelf moet doen want dat heb ik ook gedaan. En dat zal allemaal waar zijn, maar daarmee ontken je namelijk de realiteit. En in dit extreme voorbeeld het voordeel voor jezelf uiteindelijk.
Daarom ben ik ook een groot voorstander van zorgdragen voor het geheel met zo veel mogelijk optimaliseren van algemeen welzijn en geluksbeleving, en de richting van denken die daarmee samenhangt.
Owja, en familie en vriendschappen zijn natuurlijk bij uitstek een voorbeeld van ons vermogen en wil tot samenwerken en zorg dragen voor elkaar, en het delen van ervaringen, en meer.
GMTA!quote:Op woensdag 14 oktober 2015 11:43 schreef Fir3fly het volgende:
Dat klinkt simpelweg als utilitarisme. Op zich niet gek maar ik blijf het raar vinden dat je er vanuit gaat dat een AI daar automatisch mee in zou gaan.
Nou, ik ga er niet vanuit, maar kan er slecht op hopen dat dat wel het geval zou zijnquote:Op woensdag 14 oktober 2015 11:43 schreef Fir3fly het volgende:
Dat klinkt simpelweg als utilitarisme. Op zich niet gek maar ik blijf het raar vinden dat je er vanuit gaat dat een AI daar automatisch mee in zou gaan.
Bekijk de serie lezingen die ik hierboven link. Ik ben reuze benieuwd of je na het zien daarvan nog steeds daarop hoopt.quote:Op woensdag 14 oktober 2015 11:48 schreef I-care het volgende:
[..]
Nou, ik ga er niet vanuit, maar kan er slecht op hopen dat dat wel het geval zou zijn![]()
Betekent dat dat je in principe een voorstander van utilitarisme bent?quote:Op woensdag 14 oktober 2015 11:48 schreef I-care het volgende:
[..]
Nou, ik ga er niet vanuit, maar kan er slecht op hopen dat dat wel het geval zou zijn
En ik zou er ook voor pleiten daar, indien mogelijk, veel aandacht op te vestigen, of vanuit programmatuur of desnoods opvoeding:P
Hoezo "voor ons", waarom is dat de maatstaf? Was het voor eencellig leven zinvol om te evolueren naar meercellig?quote:Op woensdag 14 oktober 2015 08:01 schreef Discombobulate het volgende:
Als AI evolutionair gezien ons overbodig maakt, waarom is het dan zinvol voor ons om te maken?
Dat er een hogere, intelligentere, en wellicht van hoger bewustzijnsniveau voorziene, opvolger is gerealiseerd. Met andere woorden dat de volgende evolutionaire stap is gemaakt.quote:Om even die leap te maken van maken van circa 100 jaar aan wetenschappelijke vooruitgang, waarna het zo autonoom wordt dat het ons uitroeit? Mwa, wat heeft die vooruitgang dan geboeid en bereikt?
Volgens mij wordt dat best een lastig schemergebied in geval van AI. Wanneer zou je AI virtueel willen noemen en wanneer niet? Intelligentie is intelligentie. En als zo'n virtuele AI ook zelfbewust wordt, mag je hem dan nog wel uitschakelen? (is dat geen moord?)quote:Overigens denk ik dat we het beste AI virtueel kunnen houden, gewoon 2D in computersimulaties ipv autonoom en zelf voorzienend.
Die ga ik zeker bekijken!quote:Op woensdag 14 oktober 2015 11:47 schreef Molurus het volgende:
[..]
Daar kunnen we het vast over eens worden. Maar dat betekent niet dat het universeel waar is. Het zegt eigenlijk alleen iets over onze door evolutie gevormde morele waarden. Die waarden zijn niet onafhankelijk van onze evolutionaire achtergrond.
Je kunt daar dus nooit uit concluderen dat dat objectieve waarden zijn, of zelfs maar dat die waarden bijdragen aan het succes van de menselijke soort op dit moment.
[..]
Bij 'maximaliseren van menselijk welzijn' gaan bij mij wel wat alarmbellen af. Nog even los van het probleem van de rechtvaardiging daarvan, het lijkt neer te komen op utilitarisme, waar toch wel veel grote problemen mee zijn.
Zie ook:
(Lang, maar zeer de moeite waard.)
[..]
Het lijkt me wel interessant om te weten: vind je utilitarisme, 'the greatest good for the greatest number' / 'zoveel mogelijk geluk voor zoveel mogelijk mensen' een goed streven?
Geen idee, ik ken het niet, anders dan wat ik even snel op Wikipedia las.quote:Op woensdag 14 oktober 2015 12:06 schreef Fir3fly het volgende:
[..]
Betekent dat dat je in principe een voorstander van utilitarisme bent?
Ok, eerlijk antwoord. Ik zie veel overeenkomsten in ieder geval. Ik ben benieuwd of je ook bekend bent met de bezwaren en problemen van dat gedachtengoed.quote:Op woensdag 14 oktober 2015 12:14 schreef I-care het volgende:
[..]
Geen idee, ik ken het niet, anders dan wat ik even snel op Wikipedia las.
De lezing van Sandel legt vrij duidelijk uit wat het inhoudt, en pleit zelfs zo overtuigend als dat mogelijk is voor het standpunt. Maar zoals dat gaat in het verdere verloop van deze serie schopt hij het ook weer keihard onderuit.quote:Op woensdag 14 oktober 2015 12:14 schreef I-care het volgende:
[..]
Geen idee, ik ken het niet, anders dan wat ik even snel op Wikipedia las.
Ligt eraan, wat is het doel? Dat er zoveel mogelijk mensen tevreden zijn? Of dat de mensen die er zijn, zo tevreden mogelijk zijn? Of dat intelligentie zo veel mogelijk groeit en bewustzijn zich maximaal ontwikkelt en toeneemt?quote:Op woensdag 14 oktober 2015 12:13 schreef I-care het volgende:
Het wil dus niet zeggen dat er een universeel model zou moeten zijn waar iedereen zich aan dient te houden, maar dat er zo optimaal mogelijk geleefd en gecreëerd kan worden, naar tevredenheid van hopelijk zoveel mogelijk mensen.
Dit leidt tot de zeer bekende discussie over de vraag of er in het utilitarisme een onderscheid gemaakt moet worden tussen 'lower and higher pleasures', en hoe dan onderscheid gemaakt kan worden.quote:Op woensdag 14 oktober 2015 12:13 schreef I-care het volgende:
[..]
Ten eerste denk ik daarom dat je eerst zult moeten weten wat geluk en welzijn inhoud of kan inhouden, en wat het kan betekenen voor het individu en de maatschappij als geheel om die wensen te willen benaderen of vervullen.
"Effectief" is hierin een lastig begrip. En een maximalisering van menselijk welzijn leidt onvermijdbaar tot het opofferen van de rechten van minderheden in het collectief belang.quote:Op woensdag 14 oktober 2015 12:13 schreef I-care het volgende:
Daarnaast zal die niet voor iedereen dezelfde inhoud hebben, dus is het zaak om te kijken welke verschillen daarin zijn en welke overeenkomsten.
En uiteindelijk natuurlijk hoe je daarmee een maatschappij effectief kunt laten floreren en daarin dus een maximale welzijnsbeleving creëert.
Dit is wel ongeveer de basis van het utilitarisme ja. Op het oog aantrekkelijk, in de praktijk is het niet te verdedigen. Tal van voorbeelden waaruit dat blijkt komen ook aan bod in de lezingen van Sandel.quote:Op woensdag 14 oktober 2015 12:13 schreef I-care het volgende:
Het wil dus niet zeggen dat er een universeel model zou moeten zijn waar iedereen zich aan dient te houden, maar dat er zo optimaal mogelijk geleefd en gecreëerd kan worden, naar tevredenheid van hopelijk zoveel mogelijk mensen.
Het eerste seizoen is een beetje een lange zit, maar daarna kregen de producers veel meer vrijheid om te doen wat ze willen. Het is wat mij betreft een van de meest slimme series ooit gemaakt, zeker wat betreft dit onderwerp.quote:Op woensdag 14 oktober 2015 12:21 schreef Molurus het volgende:
Hee, vet. Een serie die ik niet ken met een hoge waardering en een supergaaf onderwerp zo te zien.
Dat de mensen die er zijn, en nog komen, zo tevreden mogelijk kunnen zijn. Intelligentie en bewustzijnsgroei stimuleren zoveel als mogelijk lijkt mij verder een redelijk mooi uitgangspunt.quote:Op woensdag 14 oktober 2015 12:16 schreef lnloggen het volgende:
[..]
Ligt eraan, wat is het doel? Dat er zoveel mogelijk mensen tevreden zijn? Of dat de mensen die er zijn, zo tevreden mogelijk zijn? Of dat intelligentie zo veel mogelijk groeit en bewustzijn zich maximaal ontwikkelt en toeneemt?
Ben wel benieuwd hoe dat ging dan..quote:Op woensdag 14 oktober 2015 12:15 schreef Molurus het volgende:
[..]
De lezing van Sandel legt vrij duidelijk uit wat het inhoudt, en pleit zelfs zo overtuigend als dat mogelijk is voor het standpunt. Maar zoals dat gaat in het verdere verloop van deze serie schopt hij het ook weer keihard onderuit.
In de eerste 10-20 minuten zitten al een paar praktijkvoorbeelden waaruit blijkt dat "zoveel mogelijk geluk voor zoveel mogelijk mensen" niet altijd een wenselijk streven is.quote:Op woensdag 14 oktober 2015 12:41 schreef I-care het volgende:
[..]
Ben wel benieuwd hoe dat ging dan..
Maar ik zie daar al een contradictie. Hoe meer mensen er komen, hoe lastiger het zal zijn om die allemaal maximaal tevreden te krijgen of van een maximaal welvaartsniveau te voorzien.quote:Op woensdag 14 oktober 2015 12:41 schreef I-care het volgende:
Dat de mensen die er zijn, en nog komen, zo tevreden mogelijk kunnen zijn.
Half seizoen gezien, maar eerlijk gezegd vond ik het vrij matig. Best vermakelijk, maar zeer eendimensionale karakters.quote:Op woensdag 14 oktober 2015 12:23 schreef Fir3fly het volgende:
Het eerste seizoen is een beetje een lange zit, maar daarna kregen de producers veel meer vrijheid om te doen wat ze willen. Het is wat mij betreft een van de meest slimme series ooit gemaakt, zeker wat betreft dit onderwerp.
Aanrader voor iedereen. Ik kan er een heel essay over typen maar je moet het maar gewoon gaan kijken.
Dat klopt, daar geef ik je groot gelijk in. Dat is ook erg jammer want daardoor lopen veel mensen het briljante tweede seizoen mis. Het begint heel erg als een soort procedurele 'case of the week' serie maar dat verandert vrij snel. In deze serie gebeurt er vrijwel nooit iets voor niets, alles heeft een betekenis die soms pas een half seizoen later duidelijk wordt.quote:Op woensdag 14 oktober 2015 13:00 schreef lnloggen het volgende:
[..]
Half seizoen gezien, maar eerlijk gezegd vond ik het vrij matig. Best vermakelijk, maar zeer eendimensionale karakters.
Mr. Reese de eeuwige voorspelbare good guy met moeilijk verleden, die voortdurend precies in situaties en conflicten terecht komt waarbij hij altijd de reddende held is en in die eenzijdige kant van zijn persoonlijkheid kan uitblinken. En Mr. Finch de eeuwige cynische alles doorzienende, extreem rationele figuur achter de schermen (letterlijk) die iedereen altijd een stap voor is.
Na een paar afleveringen vond ik het ook veelal een herhaling van telkens hetzelfde kunstje.
Waarom zouden we dan een AI willen maken? Als het voor ons niet voordelig is, waarom überhaupt dan AI maken.quote:Op woensdag 14 oktober 2015 12:08 schreef lnloggen het volgende:
[..]
Hoezo "voor ons", waarom is dat de maatstaf? Was het voor eencellig leven zinvol om te evolueren naar meercellig?
Het is een serie die beter wordt naarmate die langer loopt. The Machine komt dan ook meer naar voren. Vermakelijke serie.quote:Op woensdag 14 oktober 2015 13:42 schreef Fir3fly het volgende:
[..]
Dat klopt, daar geef ik je groot gelijk in. Dat is ook erg jammer want daardoor lopen veel mensen het briljante tweede seizoen mis. Het begint heel erg als een soort procedurele 'case of the week' serie maar dat verandert vrij snel. In deze serie gebeurt er vrijwel nooit iets voor niets, alles heeft een betekenis die soms pas een half seizoen later duidelijk wordt.
Dus ik zou zeggen, bekijk de laatste 3 afleveringen van seizoen 1 en je wordt vanzelf meegezogen. Vanaf dan gaat de serie ook echt wat zeggen over de AI die centraal staat. De gesprekken die de karakters daar over hebben lijken soms erg op de punten die hier gemaakt worden.
Ik zou het nog een kans geven, het is echt de moeite waard!
Zonder spoilers, het zegt vooral veel over het idee waar we het nu ook over hebben. Mochten we een AI ontwikkelen, zetten we die dan compleet vast in een compleet dichtgemetselde gevangenis of laten we het zichzelf verder ontwikkelen?quote:Op woensdag 14 oktober 2015 15:13 schreef Gray het volgende:
[..]
Het is een serie die beter wordt naarmate die langer loopt. The Machine komt dan ook meer naar voren. Vermakelijke serie.
Vooralsnog wordt het tweede als leidraad genomen, voor zover ik heb vernomen.quote:Op woensdag 14 oktober 2015 15:28 schreef Fir3fly het volgende:
[..]
Zonder spoilers, het zegt vooral veel over het idee waar we het nu ook over hebben. Mochten we een AI ontwikkelen, zetten we die dan compleet vast in een compleet dichtgemetselde gevangenis of laten we het zichzelf verder ontwikkelen?
Okee, bedankt voor de tip, ik ga verder kijkenquote:Op woensdag 14 oktober 2015 13:42 schreef Fir3fly het volgende:
[..]
Dat klopt, daar geef ik je groot gelijk in. Dat is ook erg jammer want daardoor lopen veel mensen het briljante tweede seizoen mis. Het begint heel erg als een soort procedurele 'case of the week' serie maar dat verandert vrij snel. In deze serie gebeurt er vrijwel nooit iets voor niets, alles heeft een betekenis die soms pas een half seizoen later duidelijk wordt.
Dus ik zou zeggen, bekijk de laatste 3 afleveringen van seizoen 1 en je wordt vanzelf meegezogen. Vanaf dan gaat de serie ook echt wat zeggen over de AI die centraal staat. De gesprekken die de karakters daar over hebben lijken soms erg op de punten die hier gemaakt worden.
Ik zou het nog een kans geven, het is echt de moeite waard!
Ik denk inderdaad dat er wel op den duur gekeken zal moeten worden naar haalbaarheid, en dan vooral in combinatie met collectieve verantwoordelijkheid, een gedeelde en doordachte.quote:Op woensdag 14 oktober 2015 12:54 schreef lnloggen het volgende:
[..]
Maar ik zie daar al een contradictie. Hoe meer mensen er komen, hoe lastiger het zal zijn om die allemaal maximaal tevreden te krijgen of van een maximaal welvaartsniveau te voorzien.
Dus alleen op dit punt krijg je gelijk al dilemma's als: moeten we het aantal mensen beperken, bijvoorbeeld met een kinderbeperking zoals in China?
In welke zin was je gedesillusioneerd?quote:Op woensdag 14 oktober 2015 11:48 schreef Molurus het volgende:
[..]
Bekijk de serie lezingen die ik hierboven link. Ik ben reuze benieuwd of je na het zien daarvan nog steeds daarop hoopt.
Voor mij was het een illusie minder ieg.
Nog niet helemaal. Libertarisme en Utilitarisme zijn op fundamentele punten oneens, dus vanuit persoonlijke vrijheid en integriteit tegenover collectief gebruik en inzet van de persoon en zijn bijdragen . Om en nabij.quote:Op woensdag 14 oktober 2015 12:15 schreef Fir3fly het volgende:
[..]
Ok, eerlijk antwoord. Ik zie veel overeenkomsten in ieder geval. Ik ben benieuwd of je ook bekend bent met de bezwaren en problemen van dat gedachtengoed.
Dat "the greatest good for the greatest number" in veel praktische situaties totaal onverdedigbaar is.quote:Op donderdag 15 oktober 2015 06:40 schreef I-care het volgende:
[..]
In welke zin was je gedesillusioneerd?
Geef eens een concreet voorbeeld, dan kunnen we daar op doorgaan. Als je wilt.quote:Op donderdag 15 oktober 2015 08:06 schreef Molurus het volgende:
[..]
Dat "the greatest good for the greatest number" in veel praktische situaties totaal onverdedigbaar is.
Zie edit.quote:Op donderdag 15 oktober 2015 08:11 schreef I-care het volgende:
[..]
Geef eens een concreet voorbeeld, dan kunnen we daar op doorgaan. Als je wilt.
Ik vind het een argument of stelling die slechts hypothetisch is, en leuk voor een discussie. Maar staat niet in vergelijking met wat ik zou proberen te doen.quote:Op donderdag 15 oktober 2015 08:06 schreef Molurus het volgende:
[..]
Dat "the greatest good for the greatest number" in veel praktische situaties totaal onverdedigbaar is.
Hoe kijk jij bijvoorbeeld aan tegen de chirurg die donororganen nodig heeft voor 4 stervende patienten, en die een gezonde patient in de wachtkamer heeft zitten? Hij zou die gezonde patient kunnen vermoorden om daarmee 4 patienten te redden.
Toch lijkt dat laatste mij volstrekt verwerpelijk.
De beschreven situatie en mogelijkheid zijn helemaal niet hypothetisch. In veel ziekenhuizen in Nederland zijn patienten die sterven omdat het ontbreekt aan donororganen dagelijkse praktijk. Gelukkig worden er geen gezonde patienten voor dit doel ingezet, maar dat zou best kunnen. De mogelijkheid is in die zin niet hypothetisch maar juist zeer reeel.quote:Op donderdag 15 oktober 2015 08:25 schreef I-care het volgende:
[..]
Ik vind het een argument of stelling die slechts hypothetisch is, en leuk voor een discussie. Maar staat niet in vergelijking met wat ik zou proberen te doen.
Maar waarom niet? Is dat niet "the greatest good for the greatest number"? Beter 4 levens redden dan 1?quote:Op donderdag 15 oktober 2015 08:25 schreef I-care het volgende:
De chirurg heeft namelijk gedaan wat hij menselijk gezien had kunnen doen, met de middelen die voorhanden waren, in dit geval resulterend in geen organen. En omdat er geen organen waren op dat ogenblik hebben de zieken pech. De wil tot helpen was er.
Dit is een extreem voorbeeld van willen helpen van de grootste getallen, ten nadele van de minderheid.
Dat is niet wat ik in gedachten had![]()
Waar ligt dan de grens? En wat zijn daarvoor de criteria? Hoeveel schade mag je een individu toebrengen in het collectief belang?quote:Op donderdag 15 oktober 2015 08:25 schreef I-care het volgende:
Persoonlijke integriteit is wel iets wat je wilt behouden, zeker zodra het aankomt op overleven in strikte zin. Had de chirurg nu een appel van zijn collega moeten stelen om de patiënt niet te laten overlijden aan een hypo dan ben ik voor het nemen van die appel. Ondanks dat zijn collega de eigenaar is van die appel, en de collega niet.
Je kunt je de situatie voorstellen, uiteraard. Maar wat is de rechtvaardiging daarvoor anders dan het redden van meerdere patiënten tegenover het beëindigen van een verder gezond iemand?quote:Op donderdag 15 oktober 2015 08:29 schreef Molurus het volgende:
[..]
De beschreven situatie en mogelijkheid zijn helemaal niet hypothetisch. In veel ziekenhuizen in Nederland zijn patienten die sterven omdat het ontbreekt aan donororganen dagelijkse praktijk. Gelukkig worden er geen gezonde patienten voor dit doel ingezet, maar dat zou best kunnen. De mogelijkheid is in die zin niet hypothetisch maar juist zeer reeel.
[..]
Maar waarom niet? Is dat niet "the greatest good for the greatest number"? Beter 4 levens redden dan 1?
[..]
Waar ligt dan de grens? En wat zijn daarvoor de criteria? Hoeveel schade mag je een individu toebrengen in het collectief belang?
Dat ben ik met je eens. Ik wijs er slechts op dat dit immoreel vinden direct strijdig is met utilitarisme, het streven naar zoveel mogelijk welzijn voor zoveel mogelijk mensen.quote:Op donderdag 15 oktober 2015 08:44 schreef I-care het volgende:
[..]
Je kunt je de situatie voorstellen, uiteraard. Maar wat is de rechtvaardiging daarvoor anders dan het redden van meerdere patiënten tegenover het beëindigen van een verder gezond iemand?
Waarom zouden getallen moeten heersen. De dood en ziekte is een natuurlijk fenomeen en onderdeel van het mens zijn.
Accepteren daarvan is een zeer fundamenteel punt. Daarvoor een ander gezond mens geheel en bewust ombrengen is mijn inziens amoreel.
Haha, het lijkt erop dat je nu ineens radicaal van utilitarisme naar libertarisme springt. Begrijpelijk, maar ook libertarisme heeft grote nadelen.quote:Op donderdag 15 oktober 2015 08:44 schreef I-care het volgende:
Dat geeft ook gelijk een grens aan voor mij, die van persoonlijke integriteit. Daarnaast vind ik wel dat iedereen recht zou mogen hebben op het maximaliseren daarvan zonder dat anderen daar inbreuk op kunnen maken, zolang het redelijk en verantwoord is.
Is dat niet gewoon diefstal, en daarom moreel onjuist?quote:Op donderdag 15 oktober 2015 08:44 schreef I-care het volgende:
Dat wil zeggen dat het oneigenlijk nemen van een appel op een zeker moment redelijk en moreel juist kan worden gemaakt.
Die appel (om dat voorbeeld maar even aan te houden) is toch geen collectieve voorziening? Die is het persoonlijk eigendom van de eigenaar van die appel. (Net als zijn organen.)quote:Op donderdag 15 oktober 2015 08:44 schreef I-care het volgende:
En dat houd dan eigenlijk in dat het kunnen delen van voorzieningen en welvaart voor het collectief verdedigt kunnen worden. Het doen wat redelijkerwijs in de mogelijkheden liggen vind ik moreel juist dus.
Het streven is juist wat het mogelijk maakt zoveel als mogelijk te faciliteren voor het welzijn van zoveel mogelijk mensen, wat niet gelijk staat aan het opofferen van de meer fundamentele rechten zoals het recht op je eigen voortbestaan.quote:[quote]Op donderdag 15 oktober 2015 09:40 schreef Molurus het volgende:
[..]
Dat ben ik met je eens. Ik wijs er slechts op dat dit immoreel vinden direct strijdig is met utilitarisme, het streven naar zoveel mogelijk welzijn voor zoveel mogelijk mensen.
En dan valt er een beetje een gat: als we niet moeten streven naar zoveel mogelijk welzijn voor zoveel mogelijk mensen, wat dan wel?
De vraag is of er geen compromis mogelijk is en de voordelen van beide gedachtegangen te gebruiken? En zo niet wat zijn dan weer de barrières daarvoor? De mens kan altijd zichzelf overtuigen van een andere kijk op zaken, en wellicht zou dat goed kunnen zijn.quote:[..]
Haha, het lijkt erop dat je nu ineens radicaal van utilitarisme naar libertarisme springt. Begrijpelijk, maar ook libertarisme heeft grote nadelen.
In ons systeem is het diefstal inderdaad. De vraag die ik zou stellen is waarom de eigenaar zijn appel blijft claimen omwille van eigendom, maar daarmee indirect hoewel gelijk hebbende, een ander zijn leven ontneemt. En daarnaast of dat moreel juist is of niet?quote:[..]
Is dat niet gewoon diefstal, en daarom moreel onjuist?
Klopt. Maar ben je hierdoor zelf schuldig geworden aan een misdaad? Namelijk die van onthouding of verhindering van hulp aan een ander persoon.quote:[..]
Die appel (om dat voorbeeld maar even aan te houden) is toch geen collectieve voorziening? Die is het persoonlijk eigendom van de eigenaar van die appel. (Net als zijn organen.)
Bestaat erin de filosofie een beetje een idee van welke tot de 'beste' samenlevingskaders behoort?quote:Op donderdag 15 oktober 2015 09:40 schreef Molurus het volgende:
Haha, het lijkt erop dat je nu ineens radicaal van utilitarisme naar libertarisme springt. Begrijpelijk, maar ook libertarisme heeft grote nadelen.
Dus je vindt eigenlijk dat mensen vrijwillig het collectieve belang voor hun eigen belang moeten zetten? Dus instemming / toestemming van het individu maakt hierin het cruciale verschil?quote:Op donderdag 15 oktober 2015 10:00 schreef I-care het volgende:
[..]
De vraag is of er geen compromis mogelijk is en de voordelen van beide gedachtegangen te gebruiken? En zo niet wat zijn dan weer de barrières daarvoor? De mens kan altijd zichzelf overtuigen van een andere kijk op zaken, en wellicht zou dat goed kunnen zijn.
[..]
In ons systeem is het diefstal inderdaad. De vraag die ik zou stellen is waarom de eigenaar zijn appel blijft claimen omwille van eigendom, maar daarmee indirect hoewel gelijk hebbende, een ander zijn leven ontneemt. En daarnaast of dat moreel juist is of niet?
Zou er een overstijgend moraall kunnen zijn om dit toch moreel juist te laten zijn in bijzondere omstandigheden?
Ben je dan niet net zo goed schuldig aan een misdaad door ervoor te kiezen een paar euro meer uit te geven aan een luxe maaltijd in plaats van dat geld uit te geven aan de bestrijding van malaria in Afrika? Ook dit is een nogal grijs gebied waarin de grenzen buitengewoon lastig te bepalen zijn.quote:Op donderdag 15 oktober 2015 10:00 schreef I-care het volgende:
[..]
Klopt. Maar ben je hierdoor zelf schuldig geworden aan een misdaad? Namelijk die van onthouding of verhindering van hulp aan een ander persoon.
Of mag je vasthouden aan het principe van eigenaarschap in een dergelijk voorbeeld. Zonder consequenties. Rekeninghoudend met de relatief onschuldige ingreep.
Men is er zeker nog niet helemaal uit. Sandel verwerpt achtereenvolgens utilitarisme, libertarisme, en "de sluiter van ontwetendheid" van John Rawls. Wat hij er nou precies zelf van vindt is me niet geheel duidelijk.quote:Op donderdag 15 oktober 2015 10:03 schreef kl1172 het volgende:
[..]
Bestaat erin de filosofie een beetje een idee van welke tot de 'beste' samenlevingskaders behoort?
Ik ben zelf wel voorstander voor een 1-kind politiek en zelfs voorstander voor het verplicht steriliseren binnen bepaalde kansarme gebieden. Want we zien nu al de gevolgen van een menselijke over populatie en die zal alleen maar toenemen wanneer de schaarste op zoet drinkwater, energievoorzieningen en voedsel evenwel zal gaan toenemen. Tel daarbij de klimaatverandering op en je hebt een toekomst die gebouwd zal zijn op een nog grotere economische ongelijkheid en legio conflicten. (die weer immigratiestromen tot gevolg hebben)quote:Op donderdag 15 oktober 2015 06:23 schreef I-care het volgende:
[..]
Ik denk inderdaad dat er wel op den duur gekeken zal moeten worden naar haalbaarheid, en dan vooral in combinatie met collectieve verantwoordelijkheid, een gedeelde en doordachte.
Dit in tegenstelling tot dwangmatig moeten opvolgen zoals met een 1 kind politiek.. En dan uiteindelijk met een vergrijzing komen te zitten, en meer. Plannen voor de toekomst is beter dan korte termijn.
Als iedereen voldoende op de hoogte is van de omstandigheden en dus uiteindelijk de 'regels' dan is het veel gemakkelijker om deze te handhaven, denk ik. Ook zal de aanvaarding zijn op basis van overtuigende argumenten en feiten.
Idealiter ben ik voor een holistische wereld waarin iedereen bijdraagt aan het geheel, en daardoor ook kan profiteren van het geheel aan producten en diensten.quote:Op donderdag 15 oktober 2015 10:26 schreef Molurus het volgende:
[..]
Dus je vindt eigenlijk dat mensen vrijwillig het collectieve belang voor hun eigen belang moeten zetten? Dus instemming / toestemming van het individu maakt hierin het cruciale verschil?
En hoe zit het dan bijvoorbeeld met de "cannibalism at sea" casus in de lezingen van Sandel?
(True story: 5 mensen komen terecht op een reddingsbootje nadat hun schip is gezonken. Ze dreigen allemaal om het leven te komen door honger en uitdroging, dus trekken ze lootjes en eten de verliezer op.)
En moet bijvoorbeeld het betalen van belasting vrijwillig zijn? Of mag de staat dat opleggen?
[..]
Ben je dan niet net zo goed schuldig aan een misdaad door ervoor te kiezen een paar euro meer uit te geven aan een luxe maaltijd in plaats van dat geld uit te geven aan de bestrijding van malaria in Afrika? Ook dit is een nogal grijs gebied waarin de grenzen buitengewoon lastig te bepalen zijn.
Dat probleem had ik ook al bij dat eerste filmpje, hij zegt niet echt wat hij er van vindt of welke zienswijzen misschien (in)correcter of (sub/)objectiever zijn of dat er gewoonweg geen beste manier is om er naar te kijken. Hij probeert eerder meerdere zienswijzen uit het publiek te halen. Alsof hij de lezing geeft op de manier van "de mensen met aanleg voor de materie zullen het zelf wel uitvogelen". Jammer voor mij dusquote:Op donderdag 15 oktober 2015 10:28 schreef Molurus het volgende:
Wat hij er nou precies zelf van vindt is me niet geheel duidelijk.
De serie bestaat uit 12 delen.quote:Op donderdag 15 oktober 2015 10:37 schreef kl1172 het volgende:
[..]
Dat probleem had ik ook al bij dat eerste filmpje, hij zegt niet echt wat hij er van vindt of welke zienswijzen misschien (in)correcter of (sub/)objectiever zijn of dat er gewoonweg geen beste manier is om er naar te kijken. Hij probeert eerder meerdere zienswijzen uit het publiek te halen. Alsof hij de lezing geeft op de manier van "de mensen met aanleg voor de materie zullen het zelf wel uitvogelen". Jammer voor mij dus
Ik dacht dat ze geen strootje trek gedaan hadden, maar gewoon de ziekste hebben vermoord en opgegeten. Het was niet duidelijk of die zieke hierbij inspraak had of niet.quote:Op donderdag 15 oktober 2015 10:35 schreef I-care het volgende:
Met z'n vijven in een bootje op zee laat buiten vrijwillige kamikaze vrij weinig opties over, zeker als nog geprobeerd is om via loting te kiezen voor opofferingen voor het grotere goed, namelijk kans op overleving voor enkelen, of uiteindelijk een iemand.
Het werd als mogelijkheid geopperd inderdaad, en de vraag werd gesteld of dat - moreel gezien - een verschil zou maken.quote:Op donderdag 15 oktober 2015 10:41 schreef kl1172 het volgende:
[..]
Ik dacht dat ze geen strootje trek gedaan hadden, maar gewoon de ziekste hebben vermoord en opgegeten. Het was niet duidelijk of die zieke hierbij inspraak had of niet.
Of was dat misschien één van de mogelijkheden die werden geopperd?
Ik denk dat het zich niet zou laten vangen door zulke hokjes.quote:Op donderdag 15 oktober 2015 11:23 schreef Molurus het volgende:
Om toch een beetje terug OT te gaan, het is dus wel een interessante vraag tot welke conclusies een zeer intelligente AI zou komen. Het ligt ieg niet per se voor de hand dat dat utilitarisme of libertarisme is.
Dictatuur perhaps?quote:Op donderdag 15 oktober 2015 11:23 schreef Molurus het volgende:
Om toch een beetje terug OT te gaan, het is dus wel een interessante vraag tot welke conclusies een zeer intelligente AI zou komen. Het ligt ieg niet per se voor de hand dat dat utilitarisme of libertarisme is.
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |