Robots en kunstmatige intelligentie

quote:

Op dinsdag 24 april 2018 20:38 schreef Discombobulate het volgende:

[..]

Neem nou een 'host' uit de televisieserie Westworld. Deze robots zien er precies hetzelfde uit als mensen, gedragen zich precies hetzelfde als mensen, denken precies hetzelfde als mensen, enzovoort. Met andere woorden, het zijn (bijna) identieke kopieën van mensen; je ziet het niet aan de buitenkant.

Jij beweert dat zo'n vorm van A.I. geen bewustzijn heeft. Vertel, hoe wil je dat onderscheid gaan maken? Aan welke voorwaarden moet een A.I. voldoen om te concluderen dat het een bewustzijn heeft?

Je zult vast zeggen dat het een subjectief innerlijk moet hebben. Prima, maar hoe verifieer je dit?

Bewustzijn is de subjectieve ervaring zelf dus niet meetbaar maar het is wel testbaar.

Neem bijvoorbeeld geurherkenning: geur is een subjectieve ervaring.

Stel een robot heeft bewustzijn, dan is dit experimenteel te testen. Als een robot geur kan herkennen moet het een voorkeur hebben voor prettige geuren. Je zou dan een experiment uitvoeren waar een robot kan kiezen om te gaan zitten lezen in twee kamers: 1 waar poepgeur is ingespoten en 1 waar een prettige, milde parfumgeur hangt.

Als de robot bewustzijn heeft zal het vrijwel direct kiezen voor de kamer met parfumgeur. Als de robot bewustzijn heeft en je sluit hem op in de kamer met poepgeur dan moet je verwachten dat de robot gaat protesteren en ben je in feite schuldig aan marteling.

Het is onwaarschijnlijk dat AI ooit bewustzijn kan krijgen omdat bewustzijn inherent verbonden is aan leven. Je kunt bewustzijn niet simuleren, je kunt alleen een slap aftreksel nabootsen.

quote:

Op dinsdag 24 april 2018 20:40 schreef Molurus het volgende:

[..]

That's the million dollar question.

Ik vrees dat je er geheel geen antwoord op gaat krijgen. Of hooguit iets nikszeggends als "een AI kan per definitie geen bewustzijn hebben".

Nee hoor, bewustzijn is niet meetbaar maar wel testbaar zoals ik tegen discombobulate zei.

Nog een experiment: het herkennen van kleur is een klassiek voorbeeld van bewustzijn. De ervaring van rood bijvoorbeeld.

Neem een groep mensen, een groep robots, en een ballenbak. Alle ballen zijn identiek alleen de kleur verschilt.

De groep mensen krijgt de instructie om alleen de blauwe ballen te pakken en vervolgens terug te leggen. De robots krijgen de instructie om alleen de rode ballen te pakken.

Als de robots de rode ballen kunnen herkennen tussen alle andere kleuren dan weet je dat ze een bewustzijn hebben. Simpel als wat.

quote:

Op dinsdag 24 april 2018 20:38 schreef Discombobulate het volgende:

[..]

Neem nou een 'host' uit de televisieserie Westworld. Deze robots zien er precies hetzelfde uit als mensen, gedragen zich precies hetzelfde als mensen, denken precies hetzelfde als mensen, enzovoort. Met andere woorden, het zijn (bijna) identieke kopieën van mensen; je ziet het niet aan de buitenkant.

Jij beweert dat zo'n vorm van A.I. geen bewustzijn heeft. Vertel, hoe wil je dat onderscheid gaan maken? Aan welke voorwaarden moet een A.I. voldoen om te concluderen dat het een bewustzijn heeft?

Je zult vast zeggen dat het een subjectief innerlijk moet hebben. Prima, maar hoe verifieer je dit?

quote:

Op dinsdag 24 april 2018 20:40 schreef Molurus het volgende:

[..]

That's the million dollar question.

Ik vrees dat je er geheel geen antwoord op gaat krijgen. Of hooguit iets nikszeggends als "een AI kan per definitie geen bewustzijn hebben".

Bonus experiment:

stel de AI is te simpel om instructies te kunnen begrijpen. De AI kan net als dieren geen taal verstaan.

Je reikt de robot objecten aan bespoten met poepgeur en met parfum. Als de robot instinctief een afstotende reactie vertoont bij het aannemen van de objecten met poepgeur maar een positieve reactie vertoont wanneer de objecten met parfumgeur aangereikt worden dan kun je met hoge zekerheid vaststellen dat het een bewustzijn heeft.

Ik denk dus dat AI nooit succesvol door dit soort simpele experimenten heen gaat komen

quote:

Op woensdag 25 april 2018 03:33 schreef Libertarisch het volgende:

[..]

[..]

Bonus experiment:

stel de AI is te simpel om instructies te kunnen begrijpen. De AI kan net als dieren geen taal verstaan.

Je reikt de robot objecten aan bespoten met poepgeur en met parfum. Als de robot instinctief een afstotende reactie vertoont bij het aannemen van de objecten met poepgeur maar een positieve reactie vertoont wanneer de objecten met parfumgeur aangereikt worden dan kun je met hoge zekerheid vaststellen dat het een bewustzijn heeft.

Ik denk dus dat AI nooit succesvol door dit soort simpele experimenten heen gaat komen

Instinctief is slechts een ander woord voor door evolutie geselecteerd gedrag. Als je robots laat evolueren in een "vijandige" omgeving, maw degenen die lang overleven vormen de blauwdruk voor de volgende generatie, maar je maakt geen perfecte kopies (je voorziet enkele random "mutaties", zodat nieuw gedrag kan ontstaan), dan zal je geen robots met voorkeur voor parfum en afkeer voor poep krijgen (aangenomen dat poep en parfum geen schade aanrichten), maar wel bvb robots die schuilen wanneer het regent en die wegrennen wanneer ze HF, NOx, HCl of andere corrosieve gassen opmerken. Omdat degenen die dat niet doen sneller sterven.
Heeft niets met bewustzijn te maken, pantoffeldiertjes en planten reageren ook op chemische prikkels, niet omdat ze weten dat die nadelig zijn, maar omdat evolutie zo'n "gedrag" oplevert.

quote:

Op woensdag 25 april 2018 06:50 schreef crystal_meth het volgende:

[..]

Instinctief is slechts een ander woord voor door evolutie geselecteerd gedrag. Als je robots laat evolueren in een "vijandige" omgeving, maw degenen die lang overleven vormen de blauwdruk voor de volgende generatie, maar je maakt geen perfecte kopies (je voorziet enkele random "mutaties", zodat nieuw gedrag kan ontstaan), dan zal je geen robots met voorkeur voor parfum en afkeer voor poep krijgen (aangenomen dat poep en parfum geen schade aanrichten), maar wel bvb robots die schuilen wanneer het regent en die wegrennen wanneer ze HF, NOx, HCl of andere corrosieve gassen opmerken. Omdat degenen die dat niet doen sneller sterven.
Heeft niets met bewustzijn te maken, pantoffeldiertjes en planten reageren ook op chemische prikkels, niet omdat ze weten dat die nadelig zijn, maar omdat evolutie zo'n "gedrag" oplevert.

Evolutie neemt voor atheïsten de plaats van God in.

Evolutie wil dit of dat. Evolutie zorgt voor dit of dat. Wat is de drijvende factor achter evolutie, waarom werkt het zoals het werkt? Bewustzijn is geen logisch gevolg van evolutie, bewustzijn is de drijvende kracht achter evolutie.

Mensen zijn complex maar in wezen niks anders dan simpele organismen. Ons doel is overleven en reproduceren, beiden worden volledig door het bewustzijn gestuurd. Waarom voelt een orgasme lekker? Om seksueel gedrag te stimuleren. Waarom ervaren mensen angst? Om gevaarlijke situaties te vermijden en overlevingskansen te verbeteren.

Dit gaat helemaal door naar insecten en planten. Planten die verspreid worden door de wind hebben een saai uiterlijk, planten die verspreid worden door insecten zien er mooi uit en geven vaak lekkere geur af. Waarom? Omdat insecten zich aangetrokken voelen tot dat soort planten. Maar 'bloemetjesgeur' is een immaterieel iets, je kunt het niet objectiveren of meten je kunt het alleen ervaren. Hoe het mogelijk is dat een relatief simpel organisme als een insect zo'n capaciteit heeft is een compleet mysterie.

Volgens het materialisme moeten stenen door evolutie uiteindelijk een menselijk bewustzijn ervaren. Volgens het materialisme zit er geen wezenlijk verschil tussen subject en object.

Nee. Gewoon nog steeds niet.

Waarom zit er überhaupt reproductie en overlevingsdrang in evolutie? Waarom is er die drijvende kracht die in alle levende wezens zit?

Wat is die drang überhaupt? Kun je overlevingsdrang objectiveren of meten? Waar komt die drang vandaan?

Het levende brein is een object als elk ander. Het bestaat voor het overgrote deel uit water en er is elektrische communicatie tussen neuronen via synapsen. Vanuit de derde persoon is een levend brein niks anders dan welk ander object, dan welk ander orgaan. Als ik een alien was had ik geen enkele reden om aan te nemen dat een actief brein een ziel zou moeten produceren, het is volledig mysterieus hoe zo'n ziel zou moeten ontstaan uit water.

quote:

Op woensdag 25 april 2018 10:30 schreef Libertarisch het volgende:
Waarom zit er überhaupt reproductie en overlevingsdrang in evolutie? Waarom is er die drijvende kracht die in alle levende wezens zit?

Wat is die drang überhaupt? Kun je overlevingsdrang objectiveren of meten? Waar komt die drang vandaan?

Als die er niet is, sterft de soort uit. Zelfreinigend Vermogen dus. Soorten die het hebben, hebben een evolutionair voordeel

quote:

Op woensdag 25 april 2018 10:24 schreef Libertarisch het volgende:

[..]

Evolutie neemt voor atheïsten de plaats van God in.

Nee, dat doet het niet

quote:

Op woensdag 25 april 2018 03:05 schreef Libertarisch het volgende:

[..]

Bewustzijn is de subjectieve ervaring zelf dus niet meetbaar maar het is wel testbaar.

Neem bijvoorbeeld geurherkenning: geur is een subjectieve ervaring.

Stel een robot heeft bewustzijn, dan is dit experimenteel te testen. Als een robot geur kan herkennen moet het een voorkeur hebben voor prettige geuren. Je zou dan een experiment uitvoeren waar een robot kan kiezen om te gaan zitten lezen in twee kamers: 1 waar poepgeur is ingespoten en 1 waar een prettige, milde parfumgeur hangt.

Als de robot bewustzijn heeft zal het vrijwel direct kiezen voor de kamer met parfumgeur. Als de robot bewustzijn heeft en je sluit hem op in de kamer met poepgeur dan moet je verwachten dat de robot gaat protesteren en ben je in feite schuldig aan marteling.

Kijk niet raar op als - zeg - honden de voorkeur geven aan de poepgeur. Betekent dat dat honden geen bewustzijn hebben?

Nee, natuurlijk niet. Waarmee maar 1 ding is gedemonstreerd: dat je wederom uit je nek lult.

Wat dieren wel of niet een lekkere geur vinden is - net als bewustzijn - het resultaat van evolutie. En die resultaten zijn niet altijd exact hetzelfde. Bovendien heeft voorkeur voor geur (of uberhaupt het vermogen om geur te herkennen) geen malle moer met bewustzijn te maken.

quote:

Op woensdag 25 april 2018 03:14 schreef Libertarisch het volgende:

[..]

Als de robots de rode ballen kunnen herkennen tussen alle andere kleuren dan weet je dat ze een bewustzijn hebben. Simpel als wat.

Voor het herkennen van rode ballen heb je niet eens een AI nodig... maar of een machine die rode ballen kan herkennen per definitie een bewustzijn heeft waag ik te betwijfelen.

Zulke machines kunnen we trouwens al lang maken, geen enkel probleem. Waarmee dit me eerlijk gezegd een nogal maf criterium lijkt.


Leuk speelgoed, maar met intelligentie of bewustzijn heeft dit niets te maken.

[ Bericht 12% gewijzigd door Molurus op 25-04-2018 12:43:21 ]

quote:

Op woensdag 25 april 2018 10:24 schreef Libertarisch het volgende:

[..]

Evolutie neemt voor atheïsten de plaats van God in.

Evolutie wil dit of dat. Evolutie zorgt voor dit of dat. Wat is de drijvende factor achter evolutie, waarom werkt het zoals het werkt? Bewustzijn is geen logisch gevolg van evolutie, bewustzijn is de drijvende kracht achter evolutie.

Mensen zijn complex maar in wezen niks anders dan simpele organismen. Ons doel is overleven en reproduceren, beiden worden volledig door het bewustzijn gestuurd. Waarom voelt een orgasme lekker? Om seksueel gedrag te stimuleren. Waarom ervaren mensen angst? Om gevaarlijke situaties te vermijden en overlevingskansen te verbeteren.

Dit gaat helemaal door naar insecten en planten. Planten die verspreid worden door de wind hebben een saai uiterlijk, planten die verspreid worden door insecten zien er mooi uit en geven vaak lekkere geur af. Waarom? Omdat insecten zich aangetrokken voelen tot dat soort planten. Maar 'bloemetjesgeur' is een immaterieel iets, je kunt het niet objectiveren of meten je kunt het alleen ervaren. Hoe het mogelijk is dat een relatief simpel organisme als een insect zo'n capaciteit heeft is een compleet mysterie.

Volgens het materialisme moeten stenen door evolutie uiteindelijk een menselijk bewustzijn ervaren. Volgens het materialisme zit er geen wezenlijk verschil tussen subject en object.

Nee, je draait oorzaak en gevolg om. Overleven en reproduceren zijn de oorzaak, dat sex leuk is en we strontgeur vies vinden is het gevolg.
Waarom hebben we een voorkeur voor zoet en een afkeer voor bitter? Omdat alkaloiden vaak giftig zijn, degenen die bitter lekker vinden vaker giftige zaken eten, waardoor ze sneller doodgaan, zich minder voortplanten, zodat die genen die bitter lekker doen smaken zelden doorgegeven worden aan de volgende generatie. Met de genen die suiker lekker doen smaken net het omgekeerde, die worden vaker doorgegeven.

Maar plaats mensen in een omgeving waar de bitter smakende vruchten niet giftig zijn en de zoet smakende vruchten lood(II)acetaat bevatten, een zoet smakende loodverbinding, dan zullen na honderden generaties de meeste mensen bitter lekker vinden. Omdat die genen de kans op overleven verhogen, waardoor ze vaker doorgegeven worden.

quote:

Op woensdag 25 april 2018 12:02 schreef crystal_meth het volgende:

[..]

Nee, je draait oorzaak en gevolg om. Overleven en reproduceren zijn de oorzaak, dat sex leuk is en we strontgeur vies vinden is het gevolg.
Waarom hebben we een voorkeur voor zoet en een afkeer voor bitter? Omdat alkaloiden vaak giftig zijn, degenen die bitter lekker vinden vaker giftige zaken eten, waardoor ze sneller doodgaan, zich minder voortplanten, zodat die genen die bitter lekker doen smaken zelden doorgegeven worden aan de volgende generatie. Met de genen die suiker lekker doen smaken net het omgekeerde, die worden vaker doorgegeven.

Maar plaats mensen in een omgeving waar de bitter smakende vruchten niet giftig zijn en de zoet smakende vruchten lood(II)acetaat bevatten, een zoet smakende loodverbinding, dan zullen na honderden generaties de meeste mensen bitter lekker vinden. Omdat die genen de kans op overleven verhogen, waardoor ze vaker doorgegeven worden.

Hee, dat lijkt wel survival of the fittest... of zeg ik nu iets heel raars?

quote:

Op woensdag 25 april 2018 12:02 schreef crystal_meth het volgende:

[..]

Nee, je draait oorzaak en gevolg om. Overleven en reproduceren zijn de oorzaak, dat sex leuk is en we strontgeur vies vinden is het gevolg.
Waarom hebben we een voorkeur voor zoet en een afkeer voor bitter? Omdat alkaloiden vaak giftig zijn, degenen die bitter lekker vinden vaker giftige zaken eten, waardoor ze sneller doodgaan, zich minder voortplanten, zodat die genen die bitter lekker doen smaken zelden doorgegeven worden aan de volgende generatie. Met de genen die suiker lekker doen smaken net het omgekeerde, die worden vaker doorgegeven.

Maar plaats mensen in een omgeving waar de bitter smakende vruchten niet giftig zijn en de zoet smakende vruchten lood(II)acetaat bevatten, een zoet smakende loodverbinding, dan zullen na honderden generaties de meeste mensen bitter lekker vinden. Omdat die genen de kans op overleven verhogen, waardoor ze vaker doorgegeven worden.

Hoe ontstaat dan die bewuste ervaring uit evolutie is de vraag, als de basiscomponenten zelf onbewust zijn kan er niet opeens magisch een bewuste ervaring uit ontstaan.

quote:

Op woensdag 25 april 2018 11:54 schreef Molurus het volgende:

[..]

Kijk niet raar op als - zeg - honden de voorkeur geven aan de poepgeur. Betekent dat dat honden geen bewustzijn hebben?

Nee, natuurlijk niet. Waarmee maar 1 ding is gedemonstreerd: dat je wederom uit je nek lult.

Wat dieren wel of niet een lekkere geur vinden is - net als bewustzijn - het resultaat van evolutie. En die resultaten zijn niet altijd exact hetzelfde. Bovendien heeft voorkeur voor geur (of uberhaupt het vermogen om geur te herkennen) geen malle moer met bewustzijn te maken.

Haha, ja hoor ik lul uit mijn nek over evolutie en bewustzijn.

Blijf jij maar vooral falen in je zoektocht naar bewustzijn in machines want het gaat niet gebeuren.

quote:

Op woensdag 25 april 2018 13:35 schreef Libertarisch het volgende:
Blijf jij maar vooral falen in je zoektocht naar bewustzijn in machines want het gaat niet gebeuren.

Dit geloof ik ook niet. We zijn het universum wat zichzelf ervaart in een lichaam, je kunt machines bouwen wat je wilt, dat bewustzijn zal daar nooit komen

Dat is waarom we ook nog geen alien robots hier hebben gezien. De fermi paradox, where the fuck is everybody.

We gaan gewoon uitdraaien op selfdestruction als er niet gauw een bewustzijns revolutie komt naar de hoogste staat van bewustzijn. We zijn iig goed onderweg, als je kijkt naar de wereld, wat we met de aarde doen en met elkaar.

quote:

Op woensdag 25 april 2018 13:35 schreef Libertarisch het volgende:

[..]

Haha, ja hoor ik lul uit mijn nek over evolutie en bewustzijn.

Blijf jij maar vooral falen in je zoektocht naar bewustzijn in machines want het gaat niet gebeuren.

En nog steeds geen werkbare criteria voor bewustzijn. Dat doet je geloofwaardigheid geen goed.

Tenzij je natuurlijk wilt vasthouden aan het selecteren van geuren en kleuren balletjes, maar in dat geval hebben machines - in jouw eigen onzinnige uitleg daarvan - nu al een bewustzijn.

quote:

Op woensdag 25 april 2018 13:38 schreef EggsTC het volgende:

[..]

Dat is waarom we ook nog geen alien robots hier hebben gezien. De fermi paradox, where the fuck is everybody.

Een paradox is een schijnbare tegenstelling, niet een contradictie.

quote:

Op woensdag 25 april 2018 13:44 schreef Molurus het volgende:

[..]

Een paradox is een schijnbare tegenstelling, niet een contradictie.

Je kent "The Fermi Paradox" niet?

quote:

Op woensdag 25 april 2018 13:42 schreef Molurus het volgende:

[..]

En nog steeds geen werkbare criteria voor bewustzijn. Dat doet je geloofwaardigheid geen goed.

Tenzij je natuurlijk wilt vasthouden aan het selecteren van geuren en kleuren balletjes, maar in dat geval hebben machines - in jouw eigen onzinnige uitleg daarvan - nu al een bewustzijn.

Bewustzijn is dan ook (nog) niet meetbaar en derhalve wordt het daarom soms ook god genoemd in sommige culturen, wat ik opzich niet heel vreemd vind. Als je je bewustzijn bewust ervaren hebt (whehe, mooi he), dan is god niet eens zo'n verkeerde term daarvoor, we're all one.

quote:

Op woensdag 25 april 2018 13:45 schreef EggsTC het volgende:

[..]

Je kent "The Fermi Paradox" niet?

Jawel, ik wijs erop dat de Fermi Paradox geheel niets aantoont.

quote:

Op woensdag 25 april 2018 13:45 schreef EggsTC het volgende:

[..]

Bewustzijn is dan ook (nog) niet meetbaar en derhalve wordt het daarom soms ook god genoemd in sommige culturen, wat ik opzich niet heel vreemd vind.

De toevoeging 'nog' lijkt te impliceren dat het een technisch vraagstuk is. Ik zou zeggen dat het vooral een semantisch vraagstuk is: de criteria ervoor ontbreken, niet de mogelijkheid om het vast te stellen.

quote:

Op woensdag 25 april 2018 13:42 schreef Molurus het volgende:

[..]

En nog steeds geen werkbare criteria voor bewustzijn. Dat doet je geloofwaardigheid geen goed.

Tenzij je natuurlijk wilt vasthouden aan het selecteren van geuren en kleuren balletjes, maar in dat geval hebben machines - in jouw eigen onzinnige uitleg daarvan - nu al een bewustzijn.

Als het hele universum uit onbewuste materie bestaat kun je het vergelijken met een lijk. Wij zijn allemaal gemaakt van sterrenstof. Hoe ontstaat bewustzijn uit het lijk dat het universum volgens jou is?

Punt twee: als je bewustzijn bestudeert, dus wat drijft bewustzijn waar bestaat bewustzijn uit hoe ontstaat bewustzijn wat is de functie van bewustzijn, dan kom je tot de conclusie dat bewustzijn inherent verbonden is functioneel is en op de één of andere manier uit leven lijkt te ontstaan.

Het idee van een bewustzijn in iets wat geen levend organisme is is zeer onlogisch, het is een incoherent idee. Bewustzijn is nauw verbonden met leven, daarom is het onmogelijk dat machines bewust worden tenzij je er levende wezens van maakt maar dan zijn het geen machines meer en dan heb je geen bewustzijn in AI gesimuleerd.

Bewustzijn is de subjectieve ervaring, dat is een werkbare definitie. Het is verbonden aan het eerste persoonsperspectief.

quote:

Op woensdag 25 april 2018 13:59 schreef Libertarisch het volgende:
daarom is het onmogelijk dat machines bewust worden tenzij je er levende wezens van maakt

Maar als machines zelfstandig kunnen functioneren en zich repliceren, wat is dan het verschil met leven? En waarom zouden ze dan geen echt bewustzijn kunnen ontwikkelen? Het is puur een definitie kwestie maar jij probeert er met semantiek iets magisch van te maken.

quote:

Op woensdag 25 april 2018 14:24 schreef Papierversnipperaar het volgende:

[..]

Maar als machines zelfstandig kunnen functioneren en zich repliceren, wat is dan het verschil met leven? En waarom zouden ze dan geen echt bewustzijn kunnen ontwikkelen? Het is puur een definitie kwestie maar jij probeert er met semantiek iets magisch van te maken.

Is bewustzijn noodzakelijk voor het functioneren van een machine? Nee
Is bewustzijn noodzakelijk voor het functioneren van een levend organisme? Ja

Bewustzijn dient een functie binnen biologisch leven. Bewustzijn kan daarom niet ontstaan uit een machine.

Een schaakcomputer kan schaken zonder te denken, een mens kan niet schaken zonder bewustzijn. Dat is het verschil.

quote:

Op woensdag 25 april 2018 14:28 schreef Libertarisch het volgende:

[..]

Is bewustzijn noodzakelijk voor het functioneren van een machine? Nee
Is bewustzijn noodzakelijk voor het functioneren van een levend organisme? Ja

Bewustzijn dient een functie binnen biologisch leven. Bewustzijn kan daarom niet ontstaan uit een machine.

Een schaakcomputer kan schaken zonder te denken, een mens kan niet schaken zonder bewustzijn. Dat is het verschil.

Dus een schimmel heeft een bewustzijn?

quote:

Op woensdag 25 april 2018 14:33 schreef FlippingCoin het volgende:

[..]

Dus een schimmel heeft een bewustzijn?

Niemand weet hoe en wanneer bewustzijn ontstaat, zie de hard problem of consciousness.

Het is een orthodox wetenschappelijk idee om te stellen dat bewustzijn inherent verbonden is aan biologisch leven want dat is de empirische realiteit. Het ontstaan ervan is een mysterie, maar wat de functie van bewustzijn is is wel duidelijk,

quote:

Op woensdag 25 april 2018 13:35 schreef Libertarisch het volgende:

[..]

Hoe ontstaat dan die bewuste ervaring uit evolutie is de vraag, als de basiscomponenten zelf onbewust zijn kan er niet opeens magisch een bewuste ervaring uit ontstaan.

[..]

Ik heb het nergens over bewustzijn. Ik gaf een eenvoudig voorbeeld met robots en jij haalde er bewustzijn bij. Je hebt geen bewustzijn nodig voor evolutie, je hebt prikkels (inputs), en de reactie op die prikkels kan positief of negatief zijn. Bvb: positief: als de prikkel optreedt blijft de robot waar ie is, negatief: de robot rijdt weg als de prikkel optreedt. Dat moet niet meer dan een waarde in een register zijn: +1 of -1.
Als de prikkel van een waterdetector komt, dan blijven de robots met +1 in de regen staan, die met -1 verplaatsen zich tot de prikkel verdwijnt (tot ze op een droge plaats aangekomen zijn).

De robots met +1 zullen sneller verroesten dan die met -1, de volgende generatie is gebaseerd op de robots die het langst overleven, dus zal die generatie meer robots met -1 bevatten. Dat is evolutie. Geen bewustzijn nodig.

Zelfde met bittere en zoete smaak: de bewuste ervaring is irrelevant voor dat voorbeeld. Een pantoffeldiertje of bacterie reageert ook op chemische prikkels: sommige veroorzaken positieve feedback, andere negatieve feedback. De pantoffeldiertjes waar de feedback de waarde heeft die gunstig is voor overleving zullen zich voortplanten, de andere niet (bvb: richting hogere concentratie of richting lagere concentratie zwemmen. Als het een voedingsstof betreft dan is richting hogere concentratie gunstig, als het een toxische stof is net niet).

Wat bewustzijn toevoegt is dat het die feedback kan "overriden", wij lopen niet automatisch weg van een vieze geur, we kunnen zaken eten die we niet lekker vinden, en we kunnen stoppen met masturberen voordat we klaarkomen. Maar dat heeft voorlopig weinig met AI te maken, we mogen al blij zijn wanneer een AI zaken kan die bij ons automatisch (onbewust) gebeuren, zoals patroonherkenning. Als we een gezicht herkennen zijn we ons van het resultaat bewust, maar het proces zelf gebeurt automatisch, we moeten er niet bij nadenken, geen moeite voor doen.