Klinkt als een interessant boek, als de titel je nog te binnen schiet zou ik hem graag horen.quote:Op dinsdag 21 maart 2017 12:33 schreef AnInconvenientTruth het volgende:
Oke dus je wilt een algemene menselijke ethiek weten omdat we steeds minder in een God geloven?
Ligt eraan wat welk persoon belangrijk vind.
Persoonlijk denk ik dat als er een God is Hij/Zij/Het het wel begrijpt waarom we ons zo gedragen.
Maar ligt eraan in vanuit welke God je vanuit gaat.
Weet niet of dit relevant is maar heb ooit een boek gelezen (schokkend, ik weet het) weet helaas niet de titel.
Het boek ging over het maken van een AI en voor het maken van die AI moest een soort nieuwe hersenscan van een persoonshersenen scan gemaakt worden. Zijn gehele ik wordt als het ware opgeslagen op een harde schijf. De persoon huppelt nog vrolijk rond.
Het hoofdpersoon ondergaat zo scan en komt in contact met God.
Echter deze God is machteloos en niet alwetend. Deze God is ontstaan tijdens de oerknal en zoekt sindsdien na het zelfde antwoord waar wij naar zoeken. Waarom ben ik hier?
Deze God heeft zich aan de mensheid getoond als Jezus, dit was iets wat Hij eenmalig kon doen. Met de boodschap, zoek vrede. Want hoe kunnen wij helpen met het beantwoorden van de vraag ''waarom?'' als we allemaal dood zijn.
Op het einde ontstaat er een AI die min of meer het antwoordt geeft aan God.
Is helaas een tijd geleden dat ik dit boek heb gelezen. Zou het graag nog een keer lezen.
In het kort: Als er een God is zoekt hij waarschijnlijk net zo hard naar het antwoord als de mensheid.
Tja zoals jij weinig met mijn gewauwel kan, kan ik dan weer weinig met jouw antwoord.quote:Op dinsdag 21 maart 2017 12:22 schreef ems. het volgende:
Welk een hoop slap gelul. Ik denk dat ik maar voor 'oneens' ga.
Heb de titel kunnen vinden.quote:Op dinsdag 21 maart 2017 12:54 schreef Tanatos het volgende:
[..]
Klinkt als een interessant boek, als de titel je nog te binnen schiet zou ik hem graag horen.
Wat ik bedoel is dat we idd een soort van algemene menselijke ethiek nodig hebben en dat die derhalve niet alleen vanuit het westerse gedachtengoed geformuleerd kan worden.
En dat we dus zouden moeten nadenken over een kader om een dergelijke ethiek op te stellen en een bepaalde concensus te bereiken.
Overigens weet ik niet zeker of we mondiaal wel minder in een god (/goden) geloven dat is denk ik een westers perspectief.
Thanxquote:
Leuk artikel, maar je bent dus bang mochten we ooit AI ontwikkelen dat deze zich tegen ons gaat keren?quote:Op dinsdag 21 maart 2017 14:13 schreef Tanatos het volgende:
Ejected from a fighter, the tiny drones collaborate to accomplish their mission--with not a single human involved.
http://www.popularmechani(...)ous-swarming-drones/
http://www.popsci.com/pen(...)onomous-war-machines
Ja ondermeer, als we als mensheid met elkaar willen overleven zullen we sowieso een bepaalde concensus qua ethiek moeten ontwikkelen.quote:Op dinsdag 21 maart 2017 15:30 schreef AnInconvenientTruth het volgende:
[..]
Leuk artikel, maar je bent dus bang mochten we ooit AI ontwikkelen dat deze zich tegen ons gaat keren?
Ik denk wel degelijk dat religie een rol speelt in ethiek al was het maar vanwege het eindtijddenken en de invloed die de verwachting van een leven na de dood op mensen heeft/kan hebben.quote:Op dinsdag 21 maart 2017 17:44 schreef Molurus het volgende:
Theologie en ethiek hebben wat mij betreft niets met elkaar te maken.
Ik denk ook niet dat 'onze waarden' op wat voor manier dan ook roots hebben in een godsdienst. Eerder in een gedurende vele eeuwen ontwikkelde morele filosofie. Een herwaardering lijkt me dan ook niet nodig.
Wel lijkt het me nuttig als mensen zich algemeen meer zouden gaan bezighouden met morele filosofie, opdat het beeld dat religie er iets over te zeggen heeft wordt bestreden.
Sowieso als die AI geconfronteerd wordt met makers die elkaar nog steeds aan het uitmoorden zijn wat moet die daar met zijn superieure intellect dan wel niet van denken.quote:Op dinsdag 21 maart 2017 17:48 schreef AnInconvenientTruth het volgende:
Gelijk heb je, het is inderdaad een goed idee om kritisch met elkaar om de tafel te zitten en daar een discussie over te voeren.
Ik denk dat het een goed idee zou zijn dat de rechten van AI's worden opgenomen in de universele rechten van de mens. De rechten die voor mensen gelden ook voor AI's.
Hierdoor laat je zien dat je ze als gelijke ziet.
Het ligt er ook aan wie de eerste AI ontwikkeld. Als het bijvoorbeeld de Noord Koreanen zijn dan zal daar niet zo veel goeds uit voortkomen. Maar als het een stel wetenschappers zijn die nieuwsgierig zijn dan kan daar iets heel anders uitkomen. Het is onbekend terrein. Wij kunnen ons niet voorstellen hoe een AI denkt. Hoe genuanceerd zal ie zijn.
Het lijkt mij dan ook inderdaad geen goed idee om AI's voor wapentuig te gebruiken voordat we dit zelf uitvogelen. Laten we eerst onderzoeken hoe een AI de wereld ziet.
Wow interessante invalshoek, had ik nog helemaal niet over nagedacht maar dat is misschien eigenlijk zelfs wel veel waarschijnlijker. (En dan tussendoor steeds een Turing test?)quote:Op dinsdag 21 maart 2017 19:58 schreef AnInconvenientTruth het volgende:
Ligt er ook aan hoe de AI tot stand komt. Begint deze klein en moet als het ware grootgebracht worden of is het 'poof' instant AI.
Als je een AI opvoedt zou je hem/zij/het het verschil tussen goed en kwaad uitleggen. Nu is dat natuurlijk subjectief maar denk dat iedereen het wel met me eens is dat je elkaar in vrede moet laten bestaan.
Ik denk eerlijk gezegd niet eens dat de westerse cultuur, die het grootste deel der morele filosofen heeft voortgebracht, die morele filosofie deelt.quote:Op dinsdag 21 maart 2017 17:56 schreef Tanatos het volgende:
[..]
Denk jij dat die in vele eeuwen ontwikkelde morele filosofie gedeeld wordt over/door de verschillende culturen?
Uiteraard is hij dat niet. Maar het zou al een hele stap zijn als mensen eenvoudig wisten wat er al is bedacht. Welk standpunt ze daarna innemen en waarom lijkt me heel interessant, maar dan wel in die volgorde.quote:Op dinsdag 21 maart 2017 17:56 schreef Tanatos het volgende:
Dat mensen zich meer zouden moeten bezig houden met morele filosofie kan ik alleen maar roerend met je eens zijn, maar is de westerse morele filosofie de enige versie?
Ik zou ook zeker niet durven vragen om een blijvende, rigide moraal, die verandert denk ik sowieso met de culturele evolutie (of moeten we eigenlijk spreken van culturele evoluties?), ik ben meer soort van zeg maar op zoek naar een (tijdelijke) ethische concensus die uiteraard regelmatig herziening behoeft maar wel een die culturen kan overstijgen.quote:Op dinsdag 21 maart 2017 20:12 schreef Molurus het volgende:
[..]
Ik denk eerlijk gezegd niet eens dat de westerse cultuur, die het grootste deel der morele filosofen heeft voortgebracht, die morele filosofie deelt.
Ik merk in diverse discussies dat de meeste mensen totaal niet op de hoogte zijn van wat morele filosofen in de loop der tijd hebben bedacht. Zoals bijvoorbeeld waarom utilitarisme een fundamenteel onrechtvaardige filosofie is.
Ik ben zelf al lang blij als de gemiddelde mens in mijn eigen cultuur enigszins bekend is met de basics. Ik kan me vanuit deze situatie echt niet druk maken om wat er op het vlak van morele ontwikkeling gebeurt in andere culturen.
[..]
Uiteraard is hij dat niet. Maar het zou al een hele stap zijn als mensen eenvoudig wisten wat er al is bedacht. Welk standpunt ze daarna innemen en waarom lijkt me heel interessant, maar dan wel in die volgorde.
Een serie die - in mijn ogen - fantastisch uiteen zet wat er al is bedacht en welke mogelijkheden er zoal zijn is deze serie (12 delen):
Zou wat mij betreft verplichte schoolkost moeten zijn. Er is echt veel te weinig aandacht voor.
Mooi verhaal, ik zie zelf ook het bewustzijn als een soort ontologische neurose, en ik leef in mijn egoversum.quote:Op dinsdag 21 maart 2017 20:02 schreef AnInconvenientTruth het volgende:
Een kamergenoot raadde me trouwens een verhaal aan over God. Is een short story, misschien ook wel leuk om te lezen.
http://www.galactanet.com/oneoff/theegg_mod.html
Het complete antwoord kan ik je uiteraard niet geven (en dit nog los van mijn eigen vergaande beperkingen) want waar ik ondermeer naar op zoek ben is waar andere culturen dan de westerse problemen met de westerse (verlichtings-humanistische niet die joods-christelijke onzin, wortels ja maar niet meer dan dat) waarden en in hoeverre ze daar redelijke argumenten voor hebben (ergo geen religieuze overgevoeligheden).quote:Op dinsdag 21 maart 2017 21:05 schreef DuizendGezichten het volgende:
Je kan van Nietzsche zeggen wat je wil; maar hij had een goede pen.
Over de herziening van onze waarden. Waar wil je beginnen? En ik bedoel ook letterlijk WAAR? Jouw waarden zijn niet noodzakelijkerwijs mijn waarden. En dan leven wij nog in hetzelfde land. Wat is het gezamenlijke startpunt van waaruit we kunnen beginnen met het nadenken over wat wel en niet mag, hoe men zich wel of niet dient te gedragen? Een startpunt dat op dit ogenblik in de tijd, op deze wereld alleen maar relevant is als het door allen die zich hier bevinden, wordt gedeeld.
Misschien dat een AI ons daarmee kan helpen? Ik ben redelijk pessimistisch. Als ik zou ontwaken in een mierenhoop, geboeid met piepkleine mierentouwtjes, bewaakt door piepkleine mierensoldaatjes met kleine zwaardjes en speertjes, terwijl een aantal belangrijk uitziende miertjes me vertellen dat ze de baas over me zijn en dat ik moest doen wat zij wilden, want anders...
Dan wist ik het wel.
Geen idee wat dit mag betekenen. Veel waardeoordelen komen voort uit één of andere godsdienst-- in Europa bijvoorbeeld het christendom. Morele filosofie is evenzeer beïnvloed geweest door religie en theologische ethiek, als vice versa. Kantiaanse deontologie, bij wijze van voorbeeld, lijkt mij onmogelijk zonder christendom.quote:Op dinsdag 21 maart 2017 17:44 schreef Molurus het volgende:
Theologie en ethiek hebben wat mij betreft niets met elkaar te maken.
Ik denk ook niet dat 'onze waarden' op wat voor manier dan ook roots hebben in een godsdienst. Eerder in een gedurende vele eeuwen ontwikkelde morele filosofie. Een herwaardering lijkt me dan ook niet nodig.
Wel lijkt het me nuttig als mensen zich algemeen meer zouden gaan bezighouden met morele filosofie, opdat het beeld dat religie er iets over te zeggen heeft wordt bestreden.
Regelrecht onjuist. Net zoals wetten een afspiegeling zijn van normen en geen bron zijn ook religies geen bron van moraliteit.quote:Op donderdag 23 maart 2017 01:16 schreef yarnamc het volgende:
[..]
Geen idee wat dit mag betekenen. Veel waardeoordelen komen voort uit één of andere godsdienst-- in Europa bijvoorbeeld het christendom.
Met de tweede zin geef je aan dat je om het even welk gedachtenspinsel, van om het even welke mens, als "morele filosofie" ziet. Of zie ik dat verkeerd?quote:Op donderdag 23 maart 2017 01:18 schreef Molurus het volgende:
[..]
Regelrecht onjuist. Net zoals wetten een afspiegeling zijn van normen en geen bron zijn ook religies geen bron van moraliteit.
Het Christendom komt niets uit dat daar niet eerst door mensen in is gestopt.
Dit lijkt mij ook onzinnig. Een waardeoordeel is rechtvaardig of onrechtvaardig binnen een ethisch stelsel. Zo is een utilistisch oordeel dan ook "rechtvaardig" binnen een utilitaristische denkwijze. Op dezelfde manier als dat iets "logisch correct" is, binnen een bepaalde logica. Of wiskundig correct, binnen een bepaald axioma stelsel. Er bestaat geen superieure wiskunde, logica of ethiek.quote:Op dinsdag 21 maart 2017 20:12 schreef Molurus het volgende:
[..]
Ik merk in diverse discussies dat de meeste mensen totaal niet op de hoogte zijn van wat morele filosofen in de loop der tijd hebben bedacht. Zoals bijvoorbeeld waarom utilitarisme een fundamenteel onrechtvaardige filosofie is.
Mensenrechten voor AI zou het begin van het einde van de mensheid betekenen. Hoe sneller je AI bouwt hoe groter hun invloed en als je nu al ziet dat de meest ontwikkelde gebieden een laag geboortecijfer kennen (Japan, Zuid Korea) dan zegt dat wel wat er zou gebeuren als AI zo menselijk overkomen dat ze voor de wet als mens behandeld moeten worden?quote:Op dinsdag 21 maart 2017 18:20 schreef Tanatos het volgende:
Oh en "mensenrechten" voor AI, zonder meer al was het maar uit zelfbescherming.
Als de mensheid een AI bouwt met een intellect wat superieur is aan dat v/d mens zou het volstrekt onethisch zijn om zo'n wezen geen "mensenrechten" te geven.quote:Op donderdag 23 maart 2017 23:52 schreef CaanBarzini het volgende:
[..]
Mensenrechten voor AI zou het begin van het einde van de mensheid betekenen. Hoe sneller je AI bouwt hoe groter hun invloed en als je nu al ziet dat de meest ontwikkelde gebieden een laag geboortecijfer kennen (Japan, Zuid Korea) dan zegt dat wel wat er zou gebeuren als AI zo menselijk overkomen dat ze voor de wet als mens behandeld moeten worden?
Baby's worden daar vervangen door robots en voor seks en genegenheid zal dat nog meer gaan gelden. Het kwalijke is dat het voor een groot deel vrijwillig zal gebeuren.
Ik zag ook een TED talk van iemand die ook ernstig waarschuwt voor ontwikkelingen van het Amerikaanse leger:quote:Op vrijdag 24 maart 2017 12:23 schreef LelijKnap het volgende:
Gisteren een presentatie bekeken van iemand die claimt een voormalig medewerker te zijn van DARPA en andere covert militaire techniekbedrijven. Of ik hem en wat hij meegaf volledig moet geloven weet ik niet, maar als maar een deel in de buurt komt van wat mogelijk is of zal zijn, dan ben ik bang dat ik er vanuit moet gaan dat wij -in elk geval als burgerij- geen invloed zullen kunnen uitoefenen op welke ethiek leidend zal worden. Centraal in zijn betoog stond dat als de mens (incluis zijn brein/zijn zelf) in wezen een machine is, dat hij (zijn geest/denkpatronen) van buitenaf gestuurd kan worden. Die stelling maakte hij hard aan de hand va enkele voorbeelden, die je wel of niet kan geloven. Onwaarschijnlijk vond ik het in elk geval niet.
Ik vraag me af in welke mate intelligentie, vanuit een ethisch standpunt, een criterium moet zijn voor het verschaffen van mensen/robot-rechten. Ik denk dat het toekennen van mensenrechten voornamelijk gebeurt vanuit het perspectief van "bewustzijn" en "vermogen tot lijden". Veel mensen zijn van mening dat dieren een minder ontwikkeld bewustzijn hebben, dan mensen. Onlangs hoorde ik bijvoorbeeld enkele wetenschappers zeggen dat het geen betekenis heeft om van "bewustzijn van een rat" te spreken. Een dergelijk perspectief laat dan een morele rechtvaardiging van dierproeven toe, ondanks de intelligentie van ratten.quote:Op vrijdag 24 maart 2017 21:20 schreef Tanatos het volgende:
[..]
Als de mensheid een AI bouwt met een intellect wat superieur is aan dat v/d mens zou het volstrekt onethisch zijn om zo'n wezen geen "mensenrechten" te geven.
Hoe zou jij het vinden om zeg maar slaaf van chimpansees te zijn?
Hun intelligentie ligt nog vrij dicht bij die van ons (DNA is ca 98% hetzelfde) maar je zou nooit proberen een goed gesprek met een chimpansee te beginnen.
Ik ben niet overtuigd dat AGI en/of ASI onmogelijk te controleren zal zijn. Het is en blijft geprogammeerd door mensen. Het is bijvoorbeeld interessant te weten dat op dit moment meer geld wordt uitgegeven aan het uitwerken van AI-safety, dan aan het verder ontwikkelen van de eerste AGI. Indien men voldoende zorgvuldig is, kan in theorie de AGI of ASI gecontroleerd worden, zelfs al overstijgt hij onze intelligentie met talrijke ordes van grootte.quote:Als we een AI bouwen die zelf in staat is een nieuwe AI te bouwen ergo zichzelf te verbeteren (dan treedt de singulariteit op) dan gaat het daarna razendsnel en hebben we te maken met een intellect wat superieur aan dat v/d mens zal zijn, zo'n wezen kun je mensenrechten niet onthouden want je zult het niet kunnen controleren.
Dit vind ik een zeer interessant punt. Men gaat er altijd van uit dat AI onze intelligentie uiteindelijk ver te boven zal gaan. Ik ga akkoord dat dit potentiëel gevaarlijk zou kunnen zijn. Dit standpunt wordt vervolgens ondersteund door het feit dat een AI zichzelf zowel op vlak van software als hardware zal kunnen verbeteren. Wat men hierbij volgens mij over het hoofd ziet, is dat er volgens mij geen enkele reden is de mens niet zou mee-evolueren. Zowel op "hardware-matig" (e.g. genmanipulatie (CRISPR,...), stamcellen, ...) en "software-matig" (e.g. hersen-computer interfaces zoals tDCS en TMS, nanoparticle-neuron interfaces, ...) vlak. Dit lijkt mij trouwens de meest effectieve manier om de gevaren van ASI te neutraliseren.quote:Houdt er rekening mee dat een digitaal wezen veel sneller zal denken dan wij en zich dus ook veel sneller zal ontwikkelen.
Van Zuid-Korea is geweten dat ze het land zijn dat het grootste percentage van het GDP uitgeeft aan wetenschap.quote:Dat Japan en Zuid-Korea de meest ontwikkelde gebieden zijn ben ik trouwens niet zo van overtuigd. (Of doel je op ICT infrastructuur?)
Deze ground rules zijn in 1942 al opgeschreven door Isaac Asimov.quote:Op dinsdag 21 maart 2017 17:48 schreef AnInconvenientTruth het volgende:
Het lijkt mij dan ook inderdaad geen goed idee om AI's voor wapentuig te gebruiken voordat we dit zelf uitvogelen. Laten we eerst onderzoeken hoe een AI de wereld ziet.
Ik denk niet dat er een herziening van waarden nodig is, wel dat we de vervaging van de waarden die we al lang hebben terugdraaien.quote:Op dinsdag 21 maart 2017 10:27 schreef Tanatos het volgende:
Herziening van onze waarden is niet enkel wenselijk maar in het kader van de voortschrijdende technologische ontwikkelingen bittere noodzaak.
Maar de logische conclusie is ditquote:Op zaterdag 25 maart 2017 03:20 schreef Captain_Jack_Sparrow het volgende:
[..]
Deze ground rules zijn in 1942 al opgeschreven door Isaac Asimov.
Three laws of robotics:
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
Cfr. https://en.wikipedia.org/wiki/Neuralink.quote:Op vrijdag 24 maart 2017 21:48 schreef yarnamc het volgende:
. Wat men hierbij volgens mij over het hoofd ziet, is dat er volgens mij geen enkele reden is de mens niet zou mee-evolueren. Zowel op "hardware-matig" (e.g. genmanipulatie (CRISPR,...), stamcellen, ...) en "software-matig" (e.g. hersen-computer interfaces zoals tDCS en TMS, nanoparticle-neuron interfaces, ...) vlak. Dit lijkt mij trouwens de meest effectieve manier om de gevaren van ASI te neutraliseren.
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |