Kunstmatige intelligentie de ondergang van de mensheid?

Ach, ondergang van de mensheid...zie het liever als vooruitgang! Wat is er eigenlijk mis mee als de mensheid uitsterft, waarom moeten we dat voorkomen ? Ben ik een gelukkiger mens als ik weet dat er over pak 'm beet tweehonderd jaar nog mensen zijn ?

quote:

Op donderdag 21 augustus 2008 16:19 schreef RRGJL het volgende:
Wat bewustzijn is hoef ik niet uit te leggen, daar is een standaard definitie voor.

In een woordenboek misschien. In de filosofie of wetenschap is er nou niet bepaald een standaard definitie voor.

quote:

Op donderdag 21 augustus 2008 16:51 schreef Monolith het volgende:

[..]

In een woordenboek misschien. In de filosofie of wetenschap is er nou niet bepaald een standaard definitie voor.

Dat wou ik ook net zeggen
Bewustzijn is nou niet bepaald een eenvoudig begrip, zeker niet als je het hebt over AI.

Ik denk trouwens dat het geen zwart/wit kwestie wordt van AI vs. 'Natuurlijk'.
Ik denk dat het meer een kwestie wordt van het integreren van biologische en artificiele systemen.

maar wat is dat dan, "bewust zijn van je omgeving" ? Dat si toch een beetje een cirkeldefinitie ?

quote:

Op dinsdag 12 augustus 2008 10:17 schreef DennisMoore het volgende:

Of moeten we maar 'samensmelten' met die kunstmatige intelligentie? In feite zou dat ook een soort einde van de mensheid zijn, van de mensheid zoals die nu bestaat in ieder geval. Je zou het de volgende stap in de evolutie kunnen noemen met wat fantasie.

Iets in die trant werkt het beste lijkt me.

quote:

Op donderdag 21 augustus 2008 17:07 schreef DennisMoore het volgende:

Wat is 'weten'? Ergens opgeslagen hebben en die kennis kunnen gebruiken?

Ik weet iig een stuk minder dan ik ergens heb opgeslagen, whehe.

quote:

Op donderdag 21 augustus 2008 17:02 schreef RRGJL het volgende:

[..]

Jawel hoor. De definitie die er niet is is; waaruit het precies allemaal bestaat, en waar het vandaan komt. Wat het is is wel degelijk bekend.

Het woord omschrijft het ook al behoorlijk. Bewust zijn van je omgeving, bewust zijn van je bestaan, bewust zijn van het feit dat je je omgeving voor een deel kan manipuleren e.d.

Dat is wel heel erg oppervlakkig gedacht he. De definitie van "rood" is dan "alles waarvan kleurziende mensen vinden dat het rood is". Een definitie zoals "alles in het lichtspectrum met een golflengte tussen de x en y nanometer" oid is er voor bewustzijn echt nog niet.


Als bewustzijn iets is wat "eringestopt", eringeprogrammeerd moet worden, dan mag ik hopen dat mensen nooit zo dom zijn om het in computers te stoppen. Computers hebben niks aan bewustzijn; computers moeten zichzelf wegcijferen. Je moet computers uit kunnen zetten, kunnen slopen. Je wil geen HAL hebben die hiertegen gaat protesteren omdat ie een besef van sterfelijkheid heeft, wat een onvermijdelijk gevolg van bewustzijn is. Zometeen krijgen computers hierdoor nog "fundamentele rechten" omdat "een computer ook pijn kan voelen". Horrorscenario.

Als bewustzijn een bijproduct van een toenemende complexiteit is en dus automatisch ontstaat dan zou er best wel eens een doemscenario zoals TS beschrijft kunnen komen, dat buiten de controle van de mens raakt. Ik geloof daar echter niet in. Persoonlijk denk ik dat zelfbewustzijn datgene is dat ons onderscheidt van apparaten en machines, en dat dat zo blijft. De mens is geen machine, maar een levend wezen, en een machine zal nooit een levend wezen kunnen worden. Dit is gedeeltelijk wishful thinking, dat besef ik. De toekomst zal moeten uitwijzen of ik gelijk heb of niet.

quote:

Op donderdag 21 augustus 2008 17:02 schreef RRGJL het volgende:

[..]

Jawel hoor. De definitie die er niet is is; waaruit het precies allemaal bestaat, en waar het vandaan komt. Wat het is is wel degelijk bekend.

Het woord omschrijft het ook al behoorlijk. Bewust zijn van je omgeving, bewust zijn van je bestaan, bewust zijn van het feit dat je je omgeving voor een deel kan manipuleren e.d.

Niet bepaald. De Engelstalige wiki geeft wel een aardige introductie.

Lang leve de metafysische reductie: Ik ben zelfbewust omdat ik denk dat ik zelfbewust ben !

quote:

Op donderdag 21 augustus 2008 17:30 schreef RRGJL het volgende:
I know .. Monolith. Ik ben op het moment nog bezig met het boek 'het bewustzijn verklaard' (zie), dus wellicht weet ik er nog niet zo gek veel van. Maar het lijkt mij tot dusver wel dat de door mij genoemde dingen in ieder geval een onderdeel van bewustzijn zijn en dat om het eenvoudig uit te leggen, je die voorbeelden wel zou kunnen noemen.

De vraag werd nog gesteld, 'wat is bewust precies'. Voor mij is dat 'op de hoogte zijn van..', 'realisatie'. Niet per se kennis.

Dennett is wel interessant ja. Ik vind persoonlijk I am a strange Loop van Hofstadter erg interessant. The conscious mind van David Chalmers is weer geschreven vanuit een iets meer dualistische benadering.

Misschien nog een interessant artikeltje voor dit topic: http://www.hln.be/hln/nl/(...)t-spiegelbeeld.dhtml

Vooral de zin 'Het is de belangrijkste test in de gedragsbiologie om zelfbewustzijn bij dieren aan te tonen.' Die zin toont voor mij aan dat we zelf bij relatief eenvoudige dieren als eksters nog geen flauw idee hebben hoe 'zelfbewustzijn' neurologisch in elkaar zit. AI is volgens mij pas iets voor binnen pakweg 180 jaar. Laten we eerst maar kanker van de weg ruimen ;-)

quote:

Op donderdag 21 augustus 2008 17:30 schreef RRGJL het volgende:
I know .. Monolith. Ik ben op het moment nog bezig met het boek 'het bewustzijn verklaard' (zie), dus wellicht weet ik er nog niet zo gek veel van. Maar het lijkt mij tot dusver wel dat de door mij genoemde dingen in ieder geval een onderdeel van bewustzijn zijn en dat om het eenvoudig uit te leggen, je die voorbeelden wel zou kunnen noemen.

De vraag werd nog gesteld, 'wat is bewust precies'. Voor mij is dat 'op de hoogte zijn van..', 'realisatie'. Niet per se kennis.

Ik ben anders heilig overtuigd dat het gewoon een term is waarbij iedereen zich wel enigszins zou in kunnen vinden, eventueel dat je hersenen het zelfs met valse gedachtens/herinneringen tot ja bestempeld. Het is verder wel degelijk van belang hoe wat waar tot wat toebehorend etc vragen worden beantwoord.

quote:

Op donderdag 21 augustus 2008 16:10 schreef DennisMoore het volgende:
De kracht van je argumenten is behoorlijk aan 't afnemen. Het feit dat iets een onderwerp is in films en boeken, maakt het nog niet onwaar.

Integendeel eigenlijk.

Waar heb jij ook maar een enkel serieus reden beschreven waarin duidelijk staat dat robots met superieure AI ook maar een beetje zelf de mensheid tot nietig verklaard? Iedereen staat hier maar wat rond te schreeuwen met 'als zelfbewustzijn ontwikkelt', echt een opmerking die voornamelijk alleen wordt gemaakt door mensen die ook de mens tot mega ultra superieur wezen in de natuur beschouwt, alsof je een stap hoger in de ladder van evolutie staat in verhouding tot andere wezens. En dan het belangrijkste: vervolgens dat de enige uitkomst van zo'n zelfbewustzijn inhoudt: vernietig de mensheid of in die richting. Allemaal weer terminator en andere hollywood films aanroepen. Als je nou met argumenten komt die een duidelijke beredenering geeft dat in vrijwel alle gevallen de enige eindconclusie van een bewustzijn zegt 'moord de mensen' om welk andere reden dan ook (overtollig gebruik, niet efficient, staat in de weg, we kunnen beter, concurrenten voor grondstoffen, etc.) dan had ik die graag gehoord. Maar zover wordt er zoals ik al heb gezegd enkel dit vermeld: computer zal bewustzijn krijgen betekent 100% automatisch mensheid wordt vernietigd.

Dit hele zelfde huilverhaal over hoe onze uitvindingen ons de das om zullen doen kunnen we ook bij klonen, immortality, gen modificatie, etcetera neerdumpen. Verder als je een discussie wilt op zo'n manier dat meningen zoals de mijne buitensluit omdat het natuurlijk een culargument is om te stellen dat bewustzijn niet bestaat of in die trant had je net zo goed geen discussie kunnen beginnen.

[ Bericht 0% gewijzigd door koffiegast op 21-08-2008 18:45:00 ]

quote:

Op donderdag 21 augustus 2008 17:51 schreef Archytas het volgende:
Misschien nog een interessant artikeltje voor dit topic: http://www.hln.be/hln/nl/(...)t-spiegelbeeld.dhtml

Vooral de zin 'Het is de belangrijkste test in de gedragsbiologie om zelfbewustzijn bij dieren aan te tonen.' Die zin toont voor mij aan dat we zelf bij relatief eenvoudige dieren als eksters nog geen flauw idee hebben hoe 'zelfbewustzijn' neurologisch in elkaar zit. AI is volgens mij pas iets voor binnen pakweg 180 jaar. Laten we eerst maar kanker van de weg ruimen ;-)

Mogelijk ga ik daar een topic over openen. Ik zit echt met de vraag hoe uberhaupt je zelf herkennen in spiegelbeeld automatisch staat tot iets unieks en dan zelfs ook nog toegeschreven wordt tot zelfbewustzijn. Laat ik het duidelijk stellen: als een dier zichzelf niet herkent in de spiegelbeeld, watvoor negatief effect heeft dat? Ik bedoel wat is er negatief aan dat het dier b.v. denkt dat het een ander is? Misschien herkent het zich wel en oefent hij/zij zijn gedrag? Wellicht ben ik hier een flapdrol in met natuurlijk dat je kunt afvragen waarom het dan b.v. niet een plakkertje van zijn lichaam haalt door het te zien in de spiegelbeeld, maar dan nog blijft de vraag waar het directe verband staat tussen 'herkent spiegelbeeld' -> 'zelfbewustzijn' & vaak ook 'is intelligent'. En dan nog de vragen wat het precieze belang is tussen zelfbewustzijn en geen zelfbewustzijn, ik bedoel stel dat een computer alles hetzelfde kan gedragsgewijs en acties als een mens, maar 'geen zelfbewustzijn' heeft. Wat is dan nog precies zelfbewust?

Leuk topic, maar ff mierenneuken.

Ik vind het woord kunstmatig een raar woord. In combinatie met intelligentie.
Iets is intelligent of niet. Soep uit een pakje is soep, geen kunstmatige soep. Navigatiesoftware is navigatiesoftware, geen kunstmatige vrouw. Intelligentie uit een stukje hard- en software is intelligentie, geen kunstmatige intelligentie. Wat is intelligentie? Een robot die een mens faked vind ik geen intelligentie. Een robot die kan leren, en zelf vragen en antwoorden kan bedenken, noem ik een intelligente rakker.

Is zoiets mogelijk? Ja, waarom niet kun je beter vragen. Hoe? Geen idee. Is dat onze ondergang? Denk aan de relatie tussen mens en dier... Ja dus.

Wij mensjes stellen de regels op. Wij eten alles wat vroed, graast en rooft op. Waarom zou een intelligenter wezen door onszelf gemaakt dat ook niet doen?

Verder laat ik ff vermelden wat AI wel hoogstwaarschijnlijk gaat veroorzaken, indien de computers het werk van de mens gaat overnemen, een totale verandering in sociale structuur, mogelijk geen armoede meer en iedereen kan wellicht de spullen krijgen die hij maar wilt. Hoe gaan we dan nog competeren tussen elkaar? Wellicht een aanleiding om gen modificatie en dergelijk te toestaan waardoor elke persoon aan zichzelf gaat sleutelen. En eventueel zelfs mechanische onderdelen aan zichzelf gaat toevoegen. En dan komt de identiteit van de mens juist in het geding. Uiteindelijk door alle veranderingen die de mens ondergaat zal de mensheid in principe 'onderuit' gaan, maar eventueel als een nieuwe soort ontstaan (de Borg?). Aan de andere kant kan het ook zeer streng allemaal gereguleerd worden en krijg je enkel een wereld met massaveel bureaucratie en moeilijkheden (ook door hollywood gefilmd, futuristische films met een vergelijkbare wereld als hier maar met veel technisch vernuft) of juist dat alle mechanica in de ban wordt gebracht (ook scenario voor hollywood film). Wat hoe dan ook gaat gebeuren is een verandering in de sociale structuur, hoe de dagplanning/leven van de mens eruit komt te zien. Persoonlijk zie ik dat liever vandaag nog gebeuren dan morgen

quote:

Op donderdag 21 augustus 2008 18:49 schreef Forno het volgende:

Ik vind het woord kunstmatig een raar woord. In combinatie met intelligentie.
Iets is intelligent of niet.

In het geval van AI is dat het niet. De huidige generatie kunstmatige intelligentie is niet intelligent. Het is hooguit tot op zekere hoogte in staat een mens te laten denken dat het wel intelligent is.

quote:

Op dinsdag 19 augustus 2008 13:25 schreef speknek het volgende:
Ik denk niet dat je schemata met dabases kunt vergelijken. Als je het al via de computer zou willen modelleren dan moet je software hebben die haar eigen hardware kan veranderen. Dan kom je een heel eind in de buurt van menselijke cognitie. En dat er vooruitgang wordt geboekt in cognitie-onderzoek hoef je me niet te vertellen, dat is ongeveer het gebied waarin ik promoveer. Wat ik voorstelde was een filosofisch probleem, dat je cognitie het onderzochte punt, namelijk de cognitie, vervormt, een beetje zoals Heisenberg's onzekerheidsprincipe. Geen wonder ook dat er zo ontzettend veel verschillende filosofieën van het brein zijn. Nouja dat komt ook wel door het immense gezever van de humanities, maar toch.

Beetje late reactie, maar dat lijkt me typisch iets voor een FPGA

Ik denk het volgende. Als een computer zich zelf kan programmeren is er sprake van een kunstmatige intelligentie. En hoe dat uitpakt en wanneer. De tijd zal het leren.

De fout die de meesten in hun redenatie maken is namelijk dat kunstmatige intelligentie hetzelfde zal zijn als de onze.

quote:

Op donderdag 21 augustus 2008 19:37 schreef Megumi het volgende:
Ik denk het volgende. Als een computer zich zelf kan programmeren is er sprake van een kunstmatige intelligentie. En hoe dat uitpakt en wanneer. De tijd zal het leren.

Stel dat er een algoritme is die zelf code genereert, hoe bepaalt de software dan wat 'ie gaat programmeren?

quote:

Op donderdag 21 augustus 2008 19:41 schreef Tijn het volgende:

[..]

Stel dat er een algoritme is die zelf code genereert, hoe bepaalt de software dan wat 'ie gaat programmeren?

Dat zou je met selectiecriteria kunnen doen. Bijvoorbeeld iets als een muterend computer virus. 'Soorten' van een dergelijk virus zouden geselecteerd worden op hoe goed ze computers kunnen infecteren en hoe goed ze onopgemerkt kunnen blijven als ze eenmaal een computer geïnfecteerd hebben. Voeg iets toe waarmee ze code uit kunnen wisselen als ze een verwant virus vinden en je hebt alle ingrediënten voor een evolutionair proces. Dit is natuurlijk nog lang geen AI, maar met de juiste selectiedruk zou het er denk ik wel toe kunnen leiden.

quote:

Op donderdag 21 augustus 2008 19:40 schreef DennisMoore het volgende:
Als we doorschieten bij het programmeren van het begrip 'zelfbehoud' in computers, of iets als 'verzamel macht'... tja.

De scenario's zijn bekend, zie Hollywood.

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

http://nl.wikipedia.org/wiki/Isaac_Asimov

quote:

Op donderdag 21 augustus 2008 19:51 schreef Megumi het volgende:

[..]

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

http://nl.wikipedia.org/wiki/Isaac_Asimov

Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelen

quote:

Op donderdag 21 augustus 2008 19:53 schreef RRGJL het volgende:

[..]

Mja maar dat gaat dus niet meer op wanneer een robot een soort 'human reloaded' wordt. Misschien besluit een robot die intelligenter is dan ons, en een bewustzijn heeft (wat dit alles betekend even buiten beschouwing latend) dat wij niet meer belangrijk zijn, de aarde vernielen en teveel ruimte innemen... Doeidoei mensheid.

Tja dat zou inderdaad kunnen. En zie daar niet direct een nadeel in.

Lijkt me dat we, net als de natuur dat bij ons, de AI kunnen programmeren met een 'instinct' die ons voordelig is, zoals bijv. sommige honden de drang hebben om de mens te helpen - en zich zonder de mogelijkheid de mens/baas te helpen depressief gaan voelen.

quote:

Op donderdag 21 augustus 2008 19:54 schreef ATuin-hek het volgende:

[..]

Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelen

Hardware muteert niet dat is een vermogen wat voorbehouden is aan virussen en bacteriën. Waar wij als mens 2.000.000 jaar voor nodig hebben doen zij in een seconde.

quote:

Op donderdag 21 augustus 2008 20:00 schreef Megumi het volgende:

[..]

Hardware muteert niet dat is een vermogen wat voorbehouden is aan virussen en bacteriën. Waar wij als mens 2.000.000 jaar voor nodig hebben doen zij in een seconde.

Tuurlijk kan dat wel. Wel eens van een FPGA gehoord?
En waarom zouden alleen virussen en bacteriën muteren?

quote:

Op donderdag 21 augustus 2008 19:54 schreef ATuin-hek het volgende:

[..]

Zodra robots robots gaan ontwerpen en/of bouwen is er natuurlijk geen enkele garantie dat er geen mutatie optreed die die regels uitschakelen

Er is ook geen enkele garantie dat er wel een mutatie juist optreedt in dat gebied. Als je gewoon ervoor zorgt dat bepaalde dingen hardgecodeerd wordt? Je zou het haast kunnen zien als 'muteer een gen in de menselijke DNA dat ervoor zorgt dat die mens kan leven naar iets anders dat ervoor zorgt dat het niet kan leven.'

quote:

Op donderdag 21 augustus 2008 20:03 schreef koffiegast het volgende:

[..]

Er is ook geen enkele garantie dat er wel een mutatie juist optreedt in dat gebied. Als je gewoon ervoor zorgt dat bepaalde dingen hardgecodeerd wordt? Je zou het haast kunnen zien als 'muteer een gen in de menselijke DNA dat ervoor zorgt dat die mens kan leven naar iets anders dat ervoor zorgt dat het niet kan leven.'

Dat lijkt me dus extreem moeilijk, als het al mogelijk is.

quote:

Op donderdag 21 augustus 2008 20:02 schreef ATuin-hek het volgende:

[..]

Tuurlijk kan dat wel. Wel eens van een FPGA gehoord?
En waarom zouden alleen virussen en bacteriën muteren?

AFGA is Field-programmable gate array wat nog steeds ingrijpen van de mens nodig heeft. En de meeste mutaties in een complex organisme als de mens zijn ongunstig. Die in virussen en bacteriën gunstig.

Daarom werken de meeste antibiotica niet meer.

quote:

Op donderdag 21 augustus 2008 20:12 schreef Megumi het volgende:

[..]

AFGA is Field-programmable gate array wat nog steeds ingrijpen van de mens nodig heeft. En de meeste mutaties in een complex organisme als de mens zijn ongunstig. Die in virussen en bacteriën gunstig.

Onzin Een FPGA is programmeerbaar. Dat programmeren is prima door een stuk software te doen, zoals bijv een genetisch algoritme. En waarom zouden de mutiaties in een virus of bacterie allemaal gunstig moeten zijn?

quote:

Op donderdag 21 augustus 2008 20:15 schreef ATuin-hek het volgende:

[..]

Onzin Een FPGA is programmeerbaar. Dat programmeren is prima door een stuk software te doen, zoals bijv een genetisch algoritme. En waarom zouden de mutiaties in een virus of bacterie allemaal gunstig moeten zijn?

Het gaat wat dat aangaat zelfs een stap verder. Kan jij neuken met een olifant en dan alleen dat deel pakken wat voor jou voor jou soort nuttig is? Dat kunnen bacteriën en virussen dus wel.

quote:

Op donderdag 21 augustus 2008 20:21 schreef Megumi het volgende:

[..]

Het gaat wat dat aangaat zelfs een stap verder. Kan jij neuken met een olifant en dan alleen dat deel pakken wat voor jou voor jou soort nuttig is? Dat kunnen bacteriën en virussen dus wel.

Ja dus? Een mutatie die een vitaal eiwit uitschakelt is nog steeds even dodelijk.