Kunstmatige intelligentie de ondergang van de mensheid?

quote:

Op dinsdag 12 augustus 2008 14:55 schreef Pappie_Culo het volgende:

[..]

Ja, dat is allemaal hartstikke leuk maar daar komt voor miljarden en miljarden aan onderzoek bij kijken. Zover zijn we nog niet hoor.

Denk alleen maar aan de gevaren van besmetting door microben, allerhande ziektebeelden die kunnen ontstaan, de effecten hiervan, etc.

Sinds wanneer heeft een computerprogramma last van microben ?
Volgens mij denk jij dat evolutie perse een biologisch iets moet zijn of heb ik het verkeerd ?

quote:

Op dinsdag 12 augustus 2008 15:20 schreef Archytas het volgende:
Welja, dat lijken me eerder oplossingsmethoden voor optimaliseringsproblemen, dan iets wat in de verste verte maar met AI te maken heeft.

Dat zijn het soort zaken waarvoor we nu eigenlijk AI technieken gebruiken, het oplossen van specifieke problemen. Dat kan van alles zijn zoals autonome navigatie, het plannen van een grootschalige logistieke operatie, het herkennen van personen op camerabeelden, etcetera.

quote:

Het komt me voor dat om AI te kunnen maken we bijna Godlike ontwerpkwaliteiten moeten bezitten. Een zodanig volledig begrip van evolutie en de dingen rondom ons, dat we in staat zijn om AI te ontwerpen. De vraag is dan maar of we AI nog nodig hebben als we reeds zelf zover zijn. Het gaat hier ook een beetje in de discussie tussen 'gelovers' en 'niet-gelovers' om de vraag wat de grenzen van de wetenschap zijn, als die er al zijn. Ik ben een beetje sceptisch daarover maar voor anderen is de sky the limit..

Ik weet niet of wij daar goddelijke ontwerpkwaliteiten voor dienen te bezitten. Wat mij wel lijkt is dat het bewust ontwerpen van een systeem in de praktijk ondoenlijk is. De enige mogelijk realistische optie die ik zie is een combinatie van lerende en evoluerende technieken.

quote:

Op dinsdag 12 augustus 2008 15:22 schreef Oud_student het volgende:
Er met altijd een menselijke toetsing plaatsvinden.
In de begintijd van de navigatie systemen is het voorgekomen dat auto's de rivier in reden omdat het systeem niet aangaf dat er een pontverbindig was.

In weze maakt de mens ook dat soort fouten. Weliswaar zal praktisch niemand een rivier inrijden, maar een mens trekt bijvoorbeeld op een kruispunt ook wel eens de foutieve inschatting dat hij of zij nog makkelijk voor die aankomende auto langskan.

quote:

Op dinsdag 12 augustus 2008 15:22 schreef Oud_student het volgende:
De misvatting die aan de stelling ten grondslag ligt is het idee dat een super intelligent AI noodzakelijkerwijs een soort "persoon" zou moeten zijn, iets met een eigen wil.
De beste schaakcomputers (hardware + software) zijn intelligenter dan 99% van alle grootmeesters op schaakgebied, dit zijn ze niet omdat ze de persoonlijkheid van een schaakgrootmeester zo goed kunnen simuleren (in tegendeel zou ik zeggen)

In dit opzicht moet je spreken van intelligent gedrag ipv intelligentie (dat begrip is alleen aan mensen voorbehouden) En door de brute rekenkracht gecombineerd met slimme algoritmen en gigantische databases lukt het de schaakcomputer om zijn menselijke tegenstanders te verslaan.

Natuurlijk kun je een machine bouwen met bijv als randapparaat een machinegeweer en zodanige algoritmen inbouwen dat deze machine een gevaar wordt voor de mensen. Maar dat is dan de schuld (of opzet) van de ontwerper.

Er moet altijd een menselijke toetsing plaatsvinden.
In de begintijd van de navigatie systemen is het voorgekomen dat auto's de rivier in reden omdat het systeem niet aangaf dat er een pontverbindig was.

Zoals ik reeds zei oud-student: Die vrije wil vind ik ook zeer interessant maar het gaat me toch om de technologische vooruitgang vd mens. Veel mensen veronderstellen echter dat intelligent gedrag en bewustzijn, vrije wil, inherent met elkaar verbonden zijn. Een foute veronderstelling denk ik ook.

quote:

Op dinsdag 12 augustus 2008 15:27 schreef DennisMoore het volgende:
En wanneer we computers leren om te verbeteren, te leren, te 'programmeren'?
Al is 't maar door trial & error...

In theorie zou het mogelijk zijn om een algoritme door trial and error te laten programmeren, maar dit lijkt dan veel op het wachten op een literair meesterwerk door een aap achter een typemachine zetten.
Met een computer kun je natuurlijk heel veel programma's genereren, maar die moeten getoest worden op hun correcte werking en aan hun functionele specificatie.
Ook hier valt met slimme algoritmen en een database van functies en subroutines en heel veel brute force wel iets te doen, maar uiteindelijk bepalen wij wat de functionele specificatie is.

quote:

Op dinsdag 12 augustus 2008 15:30 schreef Monolith het volgende:

[..]

Dat zijn het soort zaken waarvoor we nu eigenlijk AI technieken gebruiken, het oplossen van specifieke problemen. Dat kan van alles zijn zoals autonome navigatie, het plannen van een grootschalige logistieke operatie, het herkennen van personen op camerabeelden, etcetera.
[..]

Ik weet niet of wij daar goddelijke ontwerpkwaliteiten voor dienen te bezitten. Wat mij wel lijkt is dat het bewust ontwerpen van een systeem in de praktijk ondoenlijk is. De enige mogelijk realistische optie die ik zie is een combinatie van lerende en evoluerende technieken.
[..]

In weze maakt de mens ook dat soort fouten. Weliswaar zal praktisch niemand een rivier inrijden, maar een mens trekt bijvoorbeeld op een kruispunt ook wel eens de foutieve inschatting dat hij of zij nog makkelijk voor die aankomende auto langskan.

Misschien moeten we aanvankelijk wel beginnen met voor elk 'type' intelligentie een aparte evolutievorm te maken om de dingen simpel te houden. Want 'algemeen' leren en evolueren is veel te complex, in het begin althans. Voor de verschillende intelligenties ontstaan er enorme problemen natuurlijk. Stel dat je een vorm wilt maken die 'wiskundig' (bvb meetkunde) evolueert en leert. Hoe zit het dan met de axioma's? De kortste afstand tussen twee punten is een lijnstuk dat ze beiden verbindt. Hoe gaat die computer tot zo een onbewijsbare conclusie komen? De vraag is: 'wat is voldoende om tot die conclusie te komen?' Stel dat die computer tweedimensionaal kan denken en berekent dat een rechte lijn binnen de ZIJN BEREKENDE VARIATIES altijd de kortste afstand is, is dat dan voldoende? Of moet de computer eeuwig blijven verschillende verbindingen leggen tussen deze twee lijnen voor hij dat mag concluderen?

Hoe ik het nu zie moeten voor die wiskundige evolutievorm bepaalde 'redeneerpatronen' ingeplant worden op voorrand. Men moet in de wiskunde bepaalde superkernachtige oplossingsmethoden inplanten, zodat de combinatie van deze oplossingsmethoden tot 'meer' (iets wat de mens niet kan) kan leiden. Ik zie echt niet in hoe een computer zonder vooraf ingeprente patronen zichzelf kan overstijgen.

Ik blijf het altijd geweldig vinden..

Intelligentie is maar een woord, menselijke intelligentie is zo geniaal omdat het heel veel informatie gewoon simpel negeert (en wat ook gelijk het slechte eraan is) en weet wat van belang is. Verder is bijna alles niet anders dan gewenning (actie & gevolg) en kopieren.

Wat Oud_student zegt klopt wel, programmas zijn nu nog volledig op de manier waarop ze beschrijven, wat voor mogelijkheden we ze geven etc. Maar er komt voor mijn idee wel een moment dat we met een paar basisregels een computer zelf dingen kan laten 'ondervinden', zichzelf dingen aan kan leren.

Wat betreft bewustzijn en een eigen wil, ik vind het echt de meest vage woorden die mensen (zoals het lijkt) vlekkeloos overnemen van een paar andere mensen en erover door blijven rammen. Je wordt zo ongelofelijk beinvloed door je omgeving dat er eigenlijk geen vrije wil is. (Ander topic enzo).

Mensen doen ook niets anders dan patronen volgen, zelfde stappen, input = output, er lijkt echt helemaal niets echt magischs aan te zijn. Algorithmes en werkwijzes die de 'werking van de hersenen zouden simuleren' vind ik totaal niet simuleren. Het is hetzelfde als dat je straks zegt dat een mens dat volledig stap na stap in elkaar is gezet slechts een simulatie is van het echte, terwijl je never nooit het verschil kunt zien met andere mensen.

Asimov regels zijn leuk bedoeld maar je komt er niet ver mee, sommigen hebben al aangekaart wat voor haken en ogen eraan zitten.

Perfectie kan nooit in de zin waarop wij het willen. Er zijn heel veel perfecte omstandigheden, maar helaas liggen die eigenlijk allemaal in hun eigen domein, namelijk elke mens vind het wel net ff anders. Er zou wel een gouden middenweg kunnen zijn die de meeste tevreden houdt (in complexe situaties uiteraard), maar je hebt nog altijd dat er mensen met hun mening weer aankomen zitten.

Een computer/robot doet niet anders dan wat het mogelijk kan doen, wat bepaald wordt door de manier waarop je hem maakt. Totaal niet verschillend met mensen dus, als kind wordt je ook gewoon van alles aangepapt. SF verhalen zoals Terminator en hoe de robot de mensheid onderuit haalt zijn haast (toekomstige) sprookjes als je realiseert op hoeveel manieren je zoiets kunt tegenhouden, veranderen, etcetera.

Het uiteindelijke doel, singularity is eigenlijk meer een gevolg dan een uiteindelijke doel. Het uiteindelijke doel dat AI moet zoeken is niets anders dan een computer met slechts een kleine grondslag dat tot heel veel in staat is om zichzelf te veranderen, te aanpassen, aan leren, dingen onderscheiden, realiseren wat gewenst is, zelf verbanden kunnen aanleggen, realiseren hoe iets werkt of hoe iets/iemand aan zijn werkwijze komt (en dit verbeteren!) en dit volledig zelf automatisch te doen. Als je dan die kennis ook nog eens direct kunt overbrengen naar andere robots/computers kom je pas in de richting om de gehele mensheid overbodig te maken wat betreft werken en uitvinden.

Half mens half robot

quote:

Op dinsdag 12 augustus 2008 16:01 schreef LittleMiss het volgende:
Half mens half robot

In weze gaat dat een beetje op voor mensen met protheses e.d., zeker wanneer deze ook nog eens aangestuurd kunnen worden.

Stel je eens voor dat robot ook seks kunnen hebben, en dat robot zaadcellen zich samensmelten in een vrouwelijke eicel.

freaky.

Een AI kan natuurlijk worden ingezet op een deelgebied. Dan hoeven we ook niet bang te zijn dat ze de mens overbodig gaan maken.
Uiteindelijk zal er echter een breder type AI kunnen worden geconstrueerd.
De echte AI kenmerkt zich doordat hij een Turingtest kan doorstaan.
Het ontstaan van een volledige AI kan heel wel op dezelfde manier gebeuren als waarop het evolutieproces tot de mens heeft geleid.
Indien een systeem wordt gebouwd dat zichzelf kan muteren en indien dat systeem wordt ingeplant in een "omgeving" die de juiste selectieve eigenschappen heeft(en daarmee als fitness landscape dienst kan doen) dan kan een gerichte ontwikkeling plaatsvinden.
Het moeilijkste in deze procedur is natuurlijk in hoeverre we de ontwikkelomgeving op de echte wereld kunnen laten lijken. Maar misschien moet de omgeving tijdens het ontwikkelingsproces van de AI zelf ook wel kunnen evolueren, zoals feitelijk in de biologische context ook is gebeurd.
Op dit moment zijn reeds studies gaande om zogenaamde alledagskennis("de dingen die iedereen weet") te kunnen codificeren in voor software begrijpelijke algorithmen.
Het zal in ieder geval een langdurig proces worden. Maar misschien worden we halverwege wel ergens door verrast, indien werkelijke intelligentie een emergente eigenschap blijkt te zijn. Dan kunnen de ontwikkelingen wel eens erg snel gaan.

quote:

Op dit moment zijn reeds studies gaande om zogenaamde alledagskennis("de dingen die iedereen weet") te kunnen codificeren in voor software begrijpelijke algorithmen.

Common sense bedoel je he? Voor mijn idee is dat vrijwel niet anders dan hardcodeerwerk, net zoals dat een mens waarschijnlijk 95% ook enkel heeft aangeleerd of gewoon niets aan denkt. De overige 5% zal bestaan uit zelfbescherming, gevolg van aanpak realiseren (zoals ga een gebouw in en haal een ding eruit terwijl dat ding een bom heeft, dan moet ie die bom natuurlijk niet ook meenemen of juist onschadelijk maken), etcetera.

quote:

Op dinsdag 12 augustus 2008 14:30 schreef Pappie_Culo het volgende:
Hoe bouw je iets dat intelligenter is dan jezelf?

Hoe bouw je een computer die beter kan schaken dan de beste schakers ter wereld?

Niemand?

Met brute force kom je een eind, maar schaken is dan ook per definitie iets dat gemakkelijk terug te leiden is tot een simpel deterministisch proces. Schaakgrootmeesters schaken ook heel anders dan computers trouwens, veel meer met schemata dan met stappen berekenen. Als je een robot een bal wil laten vangen met de spieren van een mens, is ie een paar dagen aan het rekenen; wij kunnen dat gelijk, want je hebt vrijwel geen cognitief vermogen nodig voor geautomatiseerde processen.

quote:

Op woensdag 13 augustus 2008 00:33 schreef Xith het volgende:

[..]

Hoe bouw je een computer die beter kan schaken dan de beste schakers ter wereld?

Door 'm hetzelfde denkproces te geven als de beste schakers, alleen dan met wat meer rekensnelheid.

Alleen kennen we ons eigen denkproces niet. Kunnen dat ook niet kennen, omdat we door de bril kijken die we proberen te bestuderen. Da's zoiets als jezelf optrekken aan je eigen schoenveters.

quote:

Op dinsdag 19 augustus 2008 13:06 schreef speknek het volgende:
Alleen kennen we ons eigen denkproces niet.

Het denkproces bij schaken is an sich redelijk eenvoudig :
per stuk evalueer je de mogelijke zetten, en ken per zet je win- en verlieskansen toe.
Hoe wij dat zo snel doen maakt niet zo veel uit, de computer kan daar weer een hoop rekenkracht tegenover zetten.
Verder werken wij met herkenning ("Ah, ik heb deze opening eerder gehad, dan moet ik nu dit doen !"), dus plemp je er een database met bekende openingen en eindspelen bij.

Schaken is niet zo moeilijk, alleen als je het zonder slimme algoritmes aanpakt vereist het alleen een hoop snelheid om alle mogelijkheden te evalueren.

quote:

Kunnen dat ook niet kennen, omdat we door de bril kijken die we proberen te bestuderen. Da's zoiets als jezelf optrekken aan je eigen schoenveters.

Onzin, we kunnen onszelf prima bestuderen. Er wordt op het ogenblik een hoop vooruitgang geboekt in het bestuderen van het menselijk brein en denkproces.

Ik denk niet dat je schemata met dabases kunt vergelijken. Als je het al via de computer zou willen modelleren dan moet je software hebben die haar eigen hardware kan veranderen. Dan kom je een heel eind in de buurt van menselijke cognitie. En dat er vooruitgang wordt geboekt in cognitie-onderzoek hoef je me niet te vertellen, dat is ongeveer het gebied waarin ik promoveer. Wat ik voorstelde was een filosofisch probleem, dat je cognitie het onderzochte punt, namelijk de cognitie, vervormt, een beetje zoals Heisenberg's onzekerheidsprincipe. Geen wonder ook dat er zo ontzettend veel verschillende filosofieėn van het brein zijn. Nouja dat komt ook wel door het immense gezever van de humanities, maar toch.

quote:

Op woensdag 13 augustus 2008 00:33 schreef Xith het volgende:
Hoe bouw je een computer die beter kan schaken dan de beste schakers ter wereld?

Ik dacht dat dat een rethorische vraag was
Een rekenmachine kan toch ook sneller rekenen dan zijn bouwer.
Of een auto die harder rijdt dan zijn ontwerper loopt
etc.
dus helemaal niet bijzonder

quote:

Op dinsdag 19 augustus 2008 20:00 schreef Oud_student het volgende:

[..]

Ik dacht dat dat een rethorische vraag was
Een rekenmachine kan toch ook sneller rekenen dan zijn bouwer.
Of een auto die harder rijdt dan zijn ontwerper loopt
etc.
dus helemaal niet bijzonder

Wél bijzonder omdat het een (tenminste zo wordt het gepercipieerd) 'intellectuele activiteit' betreft. Hoewel rekenen ook als dusdanig geclassificeerd kan worden wordt schaken toch aanzien als een meer verheven intellectuele activiteit en juist daarom was het aanvankelijk een schok dat computers sterker werden dan mensen. Andere vlakken (bvb fysiek, auto, vliegtuig etc) waren we al lang gewoon maar nu beende de computer/de machine ons ook bij mbt iets wat het intellect aangaat en dat was voorheen ongezien.

Tegelijkertijd is het correct dat het schaakspel relatief eenvoudig te reduceren is tot algoritmes, die heel anders werken dan het brein van grootmeesters. Die algoritmes kunnen geen enkele aanspraak maken op 'AI-zijn' wat mij betreft, omdat AI betrekking heeft op een concept van intelligentie wat veel breder is dan het berekenen van variatie's.

Ik denk dat robots enkel voor 1 doel ontworpen zullen worden, en dus nooit op alle vlakken intelligent zullen zijn

quote:

Op woensdag 20 augustus 2008 00:27 schreef Archytas het volgende:

[..]

Wél bijzonder omdat het een (tenminste zo wordt het gepercipieerd) 'intellectuele activiteit' betreft. Hoewel rekenen ook als dusdanig geclassificeerd kan worden wordt schaken toch aanzien als een meer verheven intellectuele activiteit en juist daarom was het aanvankelijk een schok dat computers sterker werden dan mensen. Andere vlakken (bvb fysiek, auto, vliegtuig etc) waren we al lang gewoon maar nu beende de computer/de machine ons ook bij mbt iets wat het intellect aangaat en dat was voorheen ongezien.

Tegelijkertijd is het correct dat het schaakspel relatief eenvoudig te reduceren is tot algoritmes, die heel anders werken dan het brein van grootmeesters. Die algoritmes kunnen geen enkele aanspraak maken op 'AI-zijn' wat mij betreft, omdat AI betrekking heeft op een concept van intelligentie wat veel breder is dan het berekenen van variatie's.

Sorry or maar wat bedoel je met intellectuele activiteit?

Pc doet niet anders dan patronen herkennen en oplossingen 'uitvinden' door gewoon 10+ stappen vooruit te kijken en een slim algorithme erin toegevoegd dat de zekerheid als het ware bepaalt dat je wint. Het brein van de mens is meer chaotisch en ja natuurlijk zegt niemand dat ie stap voor stap de lijstjes afgaat als grootmeester zijnde, maar het lijkt wel erop neer te komen dat de mens, voor mijn idee, haast wel op een dergelijk manier moet werken (patronen, invoer -> uitvoer, herkenning&ervaring).

quote:

Op woensdag 20 augustus 2008 02:50 schreef koffiegast het volgende:

[..]

Sorry or maar wat bedoel je met intellectuele activiteit?

Pc doet niet anders dan patronen herkennen en oplossingen 'uitvinden' door gewoon 10+ stappen vooruit te kijken en een slim algorithme erin toegevoegd dat de zekerheid als het ware bepaalt dat je wint. Het brein van de mens is meer chaotisch en ja natuurlijk zegt niemand dat ie stap voor stap de lijstjes afgaat als grootmeester zijnde, maar het lijkt wel erop neer te komen dat de mens, voor mijn idee, haast wel op een dergelijk manier moet werken (patronen, invoer -> uitvoer, herkenning&ervaring).

Howdy koffiegast. In jouw schema van patronen, invoer -> uitvoer, herkenning&ervaring is er geen enkele plaats voor creativiteit, of wil je dat volledig opvangen door brute force? Ik vind dat jouw schema wel érg gedacht is binnen aspecten die makkelijk in algoritmen etc te vertalen zijn. De REALITEIT is onnoemelijk moeilijker te vertalen in 'invoer' en 'patronen' en 'ervaring' dan een simpel schaakspelletje hoor. Dit is zo evident dat ik het haast een belachelijke vergelijking vindt. Moesten wij mensen de realiteit tot in de diepste waarheden en kernen begrijpen, dan zou dat misschien wel om te zetten zijn in computertaal, maar we have barely scratched the surface!

Intellectuele activiteit is voor mij een breed begrip maar wat ik bedoel met zaken die we niet in computertaal kunnen omzetten zijn 'creativiteit', wetenschap op hoog niveau bedrijven (fysica, wiskunde etc). Hoe kan je die zaken in computertaal 'programmeren'? En daarover gaat het hier e. Computers die zelf bewust worden en hogere technologie bereiken dan de mens.

[ Bericht 11% gewijzigd door Archytas op 20-08-2008 14:16:48 ]

quote:

Op woensdag 20 augustus 2008 14:11 schreef Archytas het volgende:

[..]

Howdy koffiegast. In jouw schema van patronen, invoer -> uitvoer, herkenning&ervaring is er geen enkele plaats voor creativiteit, of wil je dat volledig opvangen door brute force? Ik vind dat jouw schema wel érg gedacht is binnen aspecten die makkelijk in algoritmen etc te vertalen zijn. De REALITEIT is onnoemelijk moeilijker te vertalen in 'invoer' en 'patronen' en 'ervaring' dan een simpel schaakspelletje hoor. Dit is zo evident dat ik het haast een belachelijke vergelijking vindt. Moesten wij mensen de realiteit tot in de diepste waarheden en kernen begrijpen, dan zou dat misschien wel om te zetten zijn in computertaal, maar we have barely scratched the surface!

Intellectuele activiteit is voor mij een breed begrip maar wat ik bedoel met zaken die we niet in computertaal kunnen omzetten zijn 'creativiteit', wetenschap op hoog niveau bedrijven (fysica, wiskunde etc). Hoe kan je die zaken in computertaal 'programmeren'? En daarover gaat het hier e. Computers die zelf bewust worden en hogere technologie bereiken dan de mens.

Voor mijn idee is creativiteit nou echt niet iets super onmogelijk wat niet in algorithmen uit te drukken is. Serieus, mensen kunnen enkel oplossingen bedenken dat in hun bereik zit, vrijwel enkel door ervaring of door iets van af te weten. Je hoeft daar helemaal geen megaveel kennis voor af te weten om alles precies te weten, aangezien de mens perfect kan werken met vooringenomen waarheden (als het ware). Aantal uitvindingen die zijn gemaakt zijn gebaseerd op een relatie tussen objecten waarvan wordt verwacht dat het ook zou werken, of simpelweg het toevoegen van de ene functie van een apparaat op een andere (ik wil iets dat muziek maakt en waarmee ik kan stofzuigen! huppa: radio met stofzuiger), puur toeval tijdens onderzoek (wat is dat fenomeen! ik moet dit uitzoeken!) of door extensief mogelijke voorwerpen uitproberen om uit te vinden wat de beste soort voorwerp is (we zoeken spijkers die 5x sterker zijn de huidige average spijker, aan watvoor vorm moeten we aandenken? etc.). Creativiteit bij kunst en dergelijk geef ik toe dat dat moeilijk te plaatsen is, alhoewel ik dat wellicht meer toeschrijf dat ik geen kunstenaars wil schaden met het idee dat het eventueel hersenscheten zijn (kunst die niet enkel op realiteit is gebaseerd).

En wetenschap op hoog nivo, dat ongetwijfeld te maken heeft met 'hoe noem ik de koe precies' & 'waar staat mijn koe precies in de weiland', is voor mijn idee ook vrijwel niet anders dan het probleem dat we nu hebben met automatisch vertalen door de computer. De mens stopt wat patronen herkenning en probeert wat slimme dingen zoals theta rolls, combinaties van woorden in zinnen, context (zelfde idee), te vertalen naar andere woorden of codes(werken1, werken2, werken3, etc. bv), maar vervolgens weet die computer nog steeds geen ene fuck van de daadwerkelijke wereld. Vervolgens zijn er mensen die dan concluderen dat een computer never nooit zo goed als een mens taal kan verwerken, geen wonder natuurlijk als je het ding geen enkele kennis meegeeft.

Zelf bewustzijn vind ik ook al zo omstreden, er worden zoveel betekenissen aanmeegegeven, haast op zo'n manier dat elke persoon zich wel gedeeltelijk erin kan herkennen (eventueel met een geval van hersenen die het zelf ff 'zo maken'), FYI ik vind dat een computer/robot zelfbewust is, als hij realiseert hoe hij ervoor staat in zijn omgeving zelf. Maar ja de vraag is in hoeverre mate dat uberhaupt kan of geaccepteerd wordt (er zullen altijd weer mensen zijn die schreeuwen dat het enkel om een simulatie gaat van zelfbewustzijn b.v. Verder natuurlijk, is het dan al bewust omdat het al invoer neemt?).

Kortom ik denk dat de mens van nu nog heeeeeeeel veeel beinvloed is door oude 'wijsheden' en bepaalde statussen & kundes die vrijwel exclusief tot de mens worden toegeschreven zijn, die ik haast in het rijtje van "blanken zijn slimmer dan negers, mannen zijn beter dan vrouwen" zie passen.

Hopelijk heb ik hiermee enigszins duidelijk uitgelegd hoe ik de begrippen en dingen zie.


(Hoe noem ik de koe precies: tot wat toebehoort dit, wat is het precies, etc. & waar staat mijn koe in de weiland: wat is diens relatie tot de andere koeien & zijn omgeving.)

quote:

Op woensdag 20 augustus 2008 14:46 schreef koffiegast het volgende:

[..]

Voor mijn idee is creativiteit nou echt niet iets super onmogelijk wat niet in algorithmen uit te drukken is. Serieus, mensen kunnen enkel oplossingen bedenken dat in hun bereik zit, vrijwel enkel door ervaring of door iets van af te weten. Je hoeft daar helemaal geen megaveel kennis voor af te weten om alles precies te weten, aangezien de mens perfect kan werken met vooringenomen waarheden (als het ware). Aantal uitvindingen die zijn gemaakt zijn gebaseerd op een relatie tussen objecten waarvan wordt verwacht dat het ook zou werken, of simpelweg het toevoegen van de ene functie van een apparaat op een andere (ik wil iets dat muziek maakt en waarmee ik kan stofzuigen! huppa: radio met stofzuiger), puur toeval tijdens onderzoek (wat is dat fenomeen! ik moet dit uitzoeken!) of door extensief mogelijke voorwerpen uitproberen om uit te vinden wat de beste soort voorwerp is (we zoeken spijkers die 5x sterker zijn de huidige average spijker, aan watvoor vorm moeten we aandenken? etc.). Creativiteit bij kunst en dergelijk geef ik toe dat dat moeilijk te plaatsen is, alhoewel ik dat wellicht meer toeschrijf dat ik geen kunstenaars wil schaden met het idee dat het eventueel hersenscheten zijn (kunst die niet enkel op realiteit is gebaseerd).

En wetenschap op hoog nivo, dat ongetwijfeld te maken heeft met 'hoe noem ik de koe precies' & 'waar staat mijn koe precies in de weiland', is voor mijn idee ook vrijwel niet anders dan het probleem dat we nu hebben met automatisch vertalen door de computer. De mens stopt wat patronen herkenning en probeert wat slimme dingen zoals theta rolls, combinaties van woorden in zinnen, context (zelfde idee), te vertalen naar andere woorden of codes(werken1, werken2, werken3, etc. bv), maar vervolgens weet die computer nog steeds geen ene fuck van de daadwerkelijke wereld. Vervolgens zijn er mensen die dan concluderen dat een computer never nooit zo goed als een mens taal kan verwerken, geen wonder natuurlijk als je het ding geen enkele kennis meegeeft.

Zelf bewustzijn vind ik ook al zo omstreden, er worden zoveel betekenissen aanmeegegeven, haast op zo'n manier dat elke persoon zich wel gedeeltelijk erin kan herkennen (eventueel met een geval van hersenen die het zelf ff 'zo maken'), FYI ik vind dat een computer/robot zelfbewust is, als hij realiseert hoe hij ervoor staat in zijn omgeving zelf. Maar ja de vraag is in hoeverre mate dat uberhaupt kan of geaccepteerd wordt (er zullen altijd weer mensen zijn die schreeuwen dat het enkel om een simulatie gaat van zelfbewustzijn b.v. Verder natuurlijk, is het dan al bewust omdat het al invoer neemt?).

Kortom ik denk dat de mens van nu nog heeeeeeeel veeel beinvloed is door oude 'wijsheden' en bepaalde statussen & kundes die vrijwel exclusief tot de mens worden toegeschreven zijn, die ik haast in het rijtje van "blanken zijn slimmer dan negers, mannen zijn beter dan vrouwen" zie passen.

Hopelijk heb ik hiermee enigszins duidelijk uitgelegd hoe ik de begrippen en dingen zie.


(Hoe noem ik de koe precies: tot wat toebehoort dit, wat is het precies, etc. & waar staat mijn koe in de weiland: wat is diens relatie tot de andere koeien & zijn omgeving.)

Als ik jouw goed begrijp definieer jij creativiteit als zijnde 'weinig moeite hebben met het leggen van verbanden, als er zich een probleem stelt, in staat zijn dit op te lossen door verbanden te leggen tussen aanwezige kennis'. Dat idee over creativiteit klopt volgens mij wel maar is onvolledig. Op praktisch vlak worden nieuwe dingen uitgevonden door verschillende functies te combineren. Sommige van die functies vloeien echter voort uit theorie. Als je op een abstract niveau zit in de theorie gaat het vaak om inzicht en juiste 'interpretaties' combineren. Zaken die in 1 omgeving werken vervullen in een andere ook een nuttige functie maar op een andere manier en volgens een andere interpretatie. Dit komt omdat dingen niet 1-dimensionaal zijn maar verschillende dimensies hebben ,verschillende kanten van de medaille. Om nieuwe dingen uit te vinden is er een sterke intuitie nodig, vernuftigheid, creativiteit Van bewustzijn zeg ik nog niks, mij gaat het om problemen oplossen.Bewustzijn is voor mij facultatief

Als ik even van jouw redenering uitga kan ik in feite het volgende stellen. Stel dat je een computer hebt die oneindig snel kan rekenen. Voer in die computer als input alle kennis in die we hebben en laat die computer dan oneindig snel rekenen. Als ik jouw redenering volg kan ik stellen dat die computer elk mogelijk probleem oplost omdat deze via 'brute force' tot oplossingen komt zonder dat er enige intuitie of creativiteit aan te pas komt. Mijn probleem hiermee zit een beetje in het idee dat die computer die aan het rekenen is soms 'dingen' nodig heeft die door de mens uitgevonden moeten worden. Bvb een nieuw type wiskunde om een bestaand probleem op te lossen omdat die computer zelf niet genoeg 'inzicht' heeft om dit aan te pakken. Deze 'nieuwe wiskunde' is dan een vrij op zichzelfstaand gegeven die niet verkregen kan worden door een combinatie van voorbestaande kennis.

Ik geef dit voorbeeld naar aanleiding van de K-theorie die door een wiskundige in de jaren 60 is uitgevonden en pas nu enorm gebruikt wordt door de toppers in de quantummechanica.

quote:

Op woensdag 20 augustus 2008 17:44 schreef Archytas het volgende:

[..]

Als ik jouw goed begrijp definieer jij creativiteit als zijnde 'weinig moeite hebben met het leggen van verbanden, als er zich een probleem stelt, in staat zijn dit op te lossen door verbanden te leggen tussen aanwezige kennis'. Dat idee over creativiteit klopt volgens mij wel maar is onvolledig. Op praktisch vlak worden nieuwe dingen uitgevonden door verschillende functies te combineren. Sommige van die functies vloeien echter voort uit theorie. Als je op een abstract niveau zit in de theorie gaat het vaak om inzicht en juiste 'interpretaties' combineren. Zaken die in 1 omgeving werken vervullen in een andere ook een nuttige functie maar op een andere manier en volgens een andere interpretatie. Dit komt omdat dingen niet 1-dimensionaal zijn maar verschillende dimensies hebben ,verschillende kanten van de medaille. Om nieuwe dingen uit te vinden is er een sterke intuitie nodig, vernuftigheid, creativiteit Van bewustzijn zeg ik nog niks, mij gaat het om problemen oplossen.Bewustzijn is voor mij facultatief

Dat vraag ik mezelf ook nog altijd steeds af, is mijn stelling wat betreft creativiteit wel volledig, je zou idd zeggen dat intuitie handig is, immers heeft een pc maar al te veel last van het probleem dat het op een te groot domein zit af te rekenen (kom ff niet op de juiste term). Het klopt wat je zegt betreft interpretaties, maar ik denk wel dat je heel veel kunt herleiden tot iets typerend, namelijk relaties tussen objecten (en in de objecten zelf, dus de samenstelling) en hoe deze iets gezamenlijk iets tot stand brengen. Wat ik dus probeer te zeggen is dat het gros van de problemen en diens oplossingen herleid zouden kunnen worden door een simpele relatie dat in gros van de mogelijke interpretaties ook werkt. (Bv. een tafel met een object daarop weerhoudt het object ervan op de grond te liggen/vallen, een pilaar weerhoudt het dak in te storten, benen weerhouden ervan dat je torso valt, etc. een relatie tussen 2 of meer objecten die in dezelfde soort vorm relatie met elkaar in verband staan die "geinitialiseerd" is door de zwaartekracht (ik weet niet echt een goed woord voor dit lol, het is een soort reden/waarom/etc.), materiaal stevig/stabiel genoeg is om de situatie waarin het verkeerd te behouden, etcetera (ik dwaal zowat af ).)

quote:

Als ik even van jouw redenering uitga kan ik in feite het volgende stellen. Stel dat je een computer hebt die oneindig snel kan rekenen. Voer in die computer als input alle kennis in die we hebben en laat die computer dan oneindig snel rekenen. Als ik jouw redenering volg kan ik stellen dat die computer elk mogelijk probleem oplost omdat deze via 'brute force' tot oplossingen komt zonder dat er enige intuitie of creativiteit aan te pas komt. Mijn probleem hiermee zit een beetje in het idee dat die computer die aan het rekenen is soms 'dingen' nodig heeft die door de mens uitgevonden moeten worden. Bvb een nieuw type wiskunde om een bestaand probleem op te lossen omdat die computer zelf niet genoeg 'inzicht' heeft om dit aan te pakken. Deze 'nieuwe wiskunde' is dan een vrij op zichzelfstaand gegeven die niet verkregen kan worden door een combinatie van voorbestaande kennis.

Ik geef dit voorbeeld naar aanleiding van de K-theorie die door een wiskundige in de jaren 60 is uitgevonden en pas nu enorm gebruikt wordt door de toppers in de quantummechanica.

Als je spreekt over 'elk mogelijk probleem oplost dat op te lossen valt gegeven de situatie' dan ja .
Ik geloof niet dat ik je precieze bedoeling snap met wat je bedoelt met het nodig hebben van uitvindingen die door mensen gemaakt zijn. Wat ik denk dat je bedoelt is dat we een dergelijke computer te veel zouden beinvloeden op de manier waarop diens basis werkt, zodoende dat andere interpretaties en dus mogelijke oplossingen niet in het bereik liggen. Dat kan inderdaad mogelijk het geval zijn, maar wat ik zelf hoop en denk is dat er uiteindelijk een heel eenvoudige basis wordt gecreeerd uiteindelijk dat het systeem in staat stelt tot zelf mogelijke hypotheses te creeeren en te toetsen en zo door te groeien met alsnog mogelijke adaptatie tot nieuwe domeinen. (Kortom leren zoals mensen: nieuwe dingen kunnen onderscheiden, hypotheses creeeren & toetsen, toepassen van ervaringen op andere gebieden en deze te verbeteren, etc.) Als je het apparaat dan alle kennis geeft en het de mogelijkheid geeft om alles met elkaar in verband te brengen en zelf conclusies uit te concluderen, zou dat voor mijn idee toegang verschaffen tot 'alle' mogelijke oplossingen. De volgende problemen daarbij, zoals het controleren door een derde (ons, de mens, dus b.v.) of begrijpen en nut eruit halen en vast nog wel meer, komen dan vanzelf.

quote:

Op woensdag 20 augustus 2008 14:46 schreef koffiegast het volgende:
Zelf bewustzijn vind ik ook al zo omstreden, er worden zoveel betekenissen aanmeegegeven, haast op zo'n manier dat elke persoon zich wel gedeeltelijk erin kan herkennen (eventueel met een geval van hersenen die het zelf ff 'zo maken'), FYI ik vind dat een computer/robot zelfbewust is, als hij realiseert hoe hij ervoor staat in zijn omgeving zelf.

Het probleem zit em in het woordje realiseert, dat is een menselijke gedachte / emotie.
Het is best mogelijk om een robot te maken die een intern beeld van zichzelf heeft (en de omgeving) en bijv. voorwerpen ontwijkt die op hem afkomen. Voor een toeschouwer lijkt het dan net of de robot bewust (uit lijfsbehoud) de voorwerpen ontwijkt.

quote:

Maar ja de vraag is in hoeverre mate dat uberhaupt kan of geaccepteerd wordt (er zullen altijd weer mensen zijn die schreeuwen dat het enkel om een simulatie gaat van zelfbewustzijn b.v. Verder natuurlijk, is het dan al bewust omdat het al invoer neemt?).

Voor mij blijven het simulaties, immers zowel proces als substraat zijn totaal verschillend van een mens.
Dat neemt niet weg dat bepaald zelfbewust gedrag of het simuleren van emoties niet zinvol kan zijn, denk bijv aan bepaalde interfaces die de communicatie tussen mens en machine makkelijk en aangenamer maken.

Maar voor het uitvoeren van intelligente taken, zie ik niet in waarom een robot/systeem/computer (zelf)bewustzijn zou moeten hebben, zelfs als dat mogelijk zou zijn.

Zolang we de AI maar weten te isoleren van internet is er niets aan de hand.

quote:

Op woensdag 20 augustus 2008 22:35 schreef RRGJL het volgende:

[..]

Buiten dat dit totaal ondenkbaar is, is het ook nog eens niet waar. Met AI loop je ook al genoeg risico's zonder dat ze toegang tot internet hebben hoor. Op het moment dat ze gewoon veel slimmer worden dan ons, ga je geheid problemen krijgen.

Definieer eerst maar eens wat je onder intelligentie verstaat.
Is een schaakcomputer slim ? Hij schaakt wel bneter dan jij

quote:

Op donderdag 21 augustus 2008 09:55 schreef RRGJL het volgende:
Slim zijn is onder andere; anticiperen, reageren, logisch redeneren. En dat alles dan sneller en beter dan ons. Dat kan een schaakcomputer niet. Die kent alleen alle mogelijke zetten uit zijn hoofd omdat die zijn voorgeprogrammeerd, nadenken doet ie niet (echt).

Dat is echt niet hoe een schaakcomputer werkt, aangezien dat simpelweg veel te veel rekenkracht kost. Bij de eerste zet zijn er bijvoorbeeld al 10 mogelijkheden. Ook de tegenstander heeft bij zijn eerste zet al 10 mogelijkheden. Daarna zijn er een paar zetten waarbij wat meer mogelijkheden ontstaan, dus nadat elke speler nog maar 4 zetten heeft gedaan zijn er al minimaal zo'n 10⁸ mogelijkheden. Domweg alle mogelijke zetten evalueren is dus geen realistische optie. Een schaakpartij is in essentie een wiskundige boomstructuur van zetten. Binnen de AI zijn een aantal technieken ontwikkeld om efficienter te zoeken in dergelijke structuren. Een voorbeeld is alpha-beta pruning, daarbij worden op basis van een evaluatiemechanisme 'takken' uit de boom weggesneden, waardoor het aantal situaties dat geevalueerd dient te worden drastisch daalt. Rekenkracht bepaalt wel hoe selectief een schaakcomputer hierin kan zijn.

Daarnaast worden er nog technologieen zoals eindspel databases gebruikt. In het eindspel dient men vaak een stuk verder vooruit te denken. Dat betekent dus dat er extreem veel rekenkracht nodig is. De databases worden als hulpmiddel gebruikt voor de zoekalgoritmen.

De evaluatie van situaties gebeurt weer op basis van bepaalde evaluatiefuncties. Hierbij wordt aan allerlei factoren een bepaalde waarde toegekend en uiteindelijk gekozen voor de 'beste optie'. Een hele simpele functie zou bijvoorbeeld alleen punten toekennen aan de stukken op het bord (en negatieve punten voor die van de tegenstander), waarbij een koningin b.v. een stuk meer waard is dan een pion. Meer geavanceerde functies nemen allerlei complexere factoren mee.

Het lijkt mij dat als we AI ontwikkelen, dit vrijwel zeker een kopie wordt van de manier waarop onze hersenen werken. Hierin zit wel een moraal ingebouwd, we weten globaal wat goed en fout is, maar uiteindelijk gaat het toch allemaal om: ikke, ikke, ikke. Met andere woorden, we zijn gedoemd vervangen te worden door AI.

Dit onderwerp is altijd erg vermakelijk om over te 'filosoferen' . Ik denk persoonlijk dat het onmogelijk is om onderzoek en ontwikkeling op dit terrein een halt toe te roepen. Hetzelfde geldt voor zaken als genetische manipulatie, kloontechnologie enzovoort. Het zit nu eenmaal in de aard van de mens om het onmogelijke mogelijk te maken en het is ook altijd zo geweest dat er ethische vraagtekens worden geplaatst die na verloop van tijd weer worden weggehaald, wanneer men eenmaal aan de vernieuwing is gewend. Dat zal met kunstmatige intelligentie niet anders zijn.

Het is naar mijn idee heel goed mogelijk dat er op een gegeven moment een punt bereikt wordt, waarbij de kunstmatige intelligentie tot het besef komt, dat hij in zekere zin superieur is aan de mens van vlees en bloed. Net zoals de mens zich op een soortgelijke manier verheven voelt boven andere diersoorten en planten. Het is vervolgens heel goed mogelijk dat de kunstmatige intelligentie de behoefte gaat voelen om de mens van vlees en bloed te domineren, te onderwerpen aan zijn wil en behoeften. Vanaf dat moment denk ik dat we als mens een groot probleem hebben.

Maar we moeten aan de andere kant niet vergeten dat wij als makers van de kunstmatige intelligentie in staat zijn om grenzen te bepalen. Zoals de mens door zijn natuurlijke programmering beperkt is, zo kan de mens de kunstmatige intelligentie beperken. Althans in theorie, want ik kan mij heel goed voorstellen dat dit eenvoudiger gezegd is dan gedaan. Kijk bijvoorbeeld naar de huidige software. Softwarefouten zijn geen zeldzaamheid en de meeste softwarefouten komen tot stand, omdat het abstractieniveau van het geheel op een gegeven moment te hoog wordt voor de mens (de programmeur) om het volledig te bevatten. Met andere woorden: een kleine 'bug' in de programmering van de kunstmatige intelligentie kan catastrofale gevolgen hebben.

Kortom:
De ontwikkeling van de kunstmatige intelligentie is onvermijdelijk. De negatieve gevolgen voor de mens zijn zeker niet verwaarloosbaar. Of het de ondergang van de mensheid zal zijn, weet ik niet. We zullen wellicht van enig nut zijn voor de kunstmatige intelligentie, maar of het leven dan nog wat waard is...

quote:

Op donderdag 21 augustus 2008 12:34 schreef RRGJL het volgende:

[..]

Ok ok; point is dat het apparaat niet kan denken.

Point is dat je eerst moet definiėren wat volgens jou 'denken' inhoudt, voor je kan zeggen of iets wel of niet kan 'denken'.

quote:

Op donderdag 21 augustus 2008 12:34 schreef RRGJL het volgende:

[..]

Ok ok; point is dat het apparaat niet kan denken. Vergeet de hele beschrijving van een schaakcomputer, dat is niet erg belangrijk. Het gaat om de eerste zin van mijn post; dat is AI (mijns inziens) die als gevaarlijk beschouwd kan worden.

Dat zijn nu eigenlijk juist zaken die AI wel goed kan. De kern van menselijke intelligentie is eerder patroonherkenning, iets waar AI nog steeds een stuk minder goed in is.

quote:

Op donderdag 21 augustus 2008 13:01 schreef RRGJL het volgende:

[..]

Point is dat ik dat allang gedaan heb;
[..]

Als er A.I. bestaat die logisch kan redeneren en kan reageren op onverwachte gebeurtenissen, terwijl hij rekening houdt met zaken om zich heen en afwegingen maakt van wat wel en niet belangrijk is zonder dat deze gebruikt maakt van regels. Dat is voor mij denken en dat is voor mij gevaarlijke A.I.

dacht je dat mensen niet al een vaste patroon van doen hebben en dat op dergelijke momenten dus in werking wordt gesteld? Das ook precies de manier waarom iedereen anders reageert en doet.

En AI gevaarlijk...ik heb echt het idee dat de mensen hier alleen maar aan fictieve terminator scenarios zitten te denken. Ja het is mogelijk, maar serieus in welk domein niet. Er lopen nu mensen te schreeuwen dat die deeltjesversneller dat nu wordt getest een zwart gat zou creeeren, met alle idiote praatjes en zelfs animaties die niet kloppen van dien. Persoonlijk vind ik zelf het ergste de verhalen met "op een gegeven moment een zelfbewustzijn" ontwikkelt, soieso vind ik dat woord maar al te vaag en dat een computer het wel even ontwikkelt en dan zelfs wel even zal concluderen dat de mens irrelevant is. Precies de verhalen die men enkel in fictie boeken/films terugvindt.

Wat ik verder maar raar vind is dat er mensen zijn die zeggen dat een robot die perfect hetzelfde werkt als een mens (zelfs eventueel met vlees en al, maar gewoon gemaakt dus) niet anders is dan een simulatie van het echte. Terwijl je in dat geval nooit het verschil zal weten. Zo ook simulaties van denken, etc.

quote:

Op donderdag 21 augustus 2008 13:01 schreef RRGJL het volgende:

[..]

Point is dat ik dat allang gedaan heb

Jij noemde anticiperen, reageren, logisch redeneren - kortom allemaal dingen waar AI juist erg goed in is.

quote:

Als er A.I. bestaat die logisch kan redeneren en kan reageren op onverwachte gebeurtenissen, terwijl hij rekening houdt met zaken om zich heen en afwegingen maakt van wat wel en niet belangrijk is zonder dat deze gebruikt maakt van regels. Dat is voor mij denken en dat is voor mij gevaarlijke A.I.

Lekker vaag gesteld, "wat wel en niet belangrijk is" - hoe kun je afwegen wat wel en niet belangrijk is als je geen regel hebt die bepaalt wat 'belangrijk' uberhaupt inhoudt ?

quote:

Op woensdag 13 augustus 2008 00:33 schreef Xith het volgende:

[..]

Hoe bouw je een computer die beter kan schaken dan de beste schakers ter wereld?

Niet.

quote:

Op donderdag 21 augustus 2008 14:40 schreef RRGJL het volgende:

[..]

Dat is nou net wat er zo gevaarlijk is; mensen bepalen toch ook zelf wat wel en niet belangrijk is?

Nee hoor, daar heb je regels als 'pijn' voor - die laten je merken dat het belangrijk is om je hand niet in de vlam van een kaars te houden bijvoorbeeld.
Zo zit de regel tot zelfbehoud er bij ons al standaard in gebakken.

Over het niveau van die intelligentie maak is me dus geen zorgen.

quote:

Op donderdag 21 augustus 2008 14:34 schreef RRGJL het volgende:
Een computer / A.I. zal nooit zelf een bewustzijn ontwikkelen, maar wanneer de mens het dat wel geeft kan het echt wel link worden. Dat kun je niet ontkennen. Al is de kans wellicht vrij klein (wat volgens mij niet eens zo is)
dat zijn risico's die je liever niet loopt wat mij betreft.

Laten we eerst een bewustzijn echt definieren wat het is, hoe je het maakt, waar het toe behoort, waarop het is gebaseerd, wat de kenmerken zijn, etc. alvorens we het "geven" aan een pc al dan niet uberhaupt zitten te dagdromen over dat het allemaal zo slecht zal zijn. Ben je soms gehersenspoeld door hollywood films?