"quote:IExpert waarschuwt: 'Robots grotere bedreiging dan corona, in 2029 zijn ze even intelligent als mens'
Door WOUTER VAN BERGEN
Updated 51 min geleden
1 uur geleden
in FINANCIEEL
Mo Gawdat verliet als chief business officer Google om de mensheid te waarschuwen voor de risico's van kunstmatige intelligentie. Over enkele decennia zal die een macht vormen die slimmer is dan wij, schrijft hij in zijn boek Griezelig slim. We kunnen volgens Gawdat maar beter nu het goede voorbeeld geven, voordat de machine straks onze slechtste gewoontes overneemt.
Mo Gawdat: ,,Het beeld dat AI ziet, is niet fraai. We moeten oppassen dat het straks geen boze tiener wordt die zich tegen ons keert."
Een geslaagd experiment rond tien robotarmen met grijpers die zelf leerden gele ballen uit een bak kinderspeelgoed te pakken, deed Mo Gawdat besluiten zijn baan als chief business officer bij Google X op te zeggen.
Het Google-onderdeel dat is opgericht voor het uitknobbelen van radicaal nieuwe toepassingen als zelfrijdende auto's, lerende robots en internetluchtballonnen had de opstelling in een centrale hal staan, waar Gawdat de robots wekenlang zag misgrijpen.
Kleine kinderen
Tot het raak was. ,,Kunstmatige intelligentie (AI) leert zoals kleine kinderen dat doen", zegt hij uit. ,,
Proberen en als het misgaat nog een keer maar net anders proberen. Als een poging succes oplevert, dan wordt het pad dat dan ontstaat in de neuronen in de hersenen versterkt", zegt hij. ,,
Dat zag je ook bij de robots. Eerst weken zonder succes. Maar op een vrijdagmiddag had één robotarm zo'n gele bal te pakken.
En omdat ze 'ervaringen' delen, pakten de maandag daarop alle robots de gele ballen.
Voor mij was dat aanleiding om te denken: misschien heeft de wereld geen technologie meer nodig. En heb ik mijn boek Griezelig slim geschreven om te waarschuwen."
Wat is er eng aan robots die speelgoed pakken?
,,Kunstmatige intelligentie is nu de grootste bedreiging voor de mensheid. Corona gaat voorbij, AI wordt alleen maar slimmer.
Schattingen van experts zijn nu dat kunstmatige intelligentie in 2029 de menselijke zal evenaren. Dat is intelligentie die niet zoals nu gespecialiseerd is in één spelletje of taak, maar algemene kunstmatige intelligentie die kan leren van alles wat hij waarneemt.
Vanaf dat moment kan kunstmatige intelligentie zichzelf verder ontwikkelen en is de verwachting dat die tien jaar later een miljard keer slimmer is dan de mens.
Dan zal het autonoom zijn, beschikken over een eigen wil en in staat zijn de wereld fysiek te veranderen.
Dan hebben we voor het eerst te maken met een macht die slimmer is dan wij."
,,Voor het eerst een macht die slimmer is dan wij."
Wat bedoelt u met die eigen wil?
,,Al onze ethische normen en emoties - behalve onvoorwaardelijke liefde - zijn rationeel. Ze beschermen ons bij dreiging. Dus zal kunstmatige intelligentie die ook ontwikkelen en proberen in te grijpen als zijn ethisch normenstelsel dat vraagt.
AI staat nu nog in de kinderschoenen en ik ben optimistisch over de uitkomst daarvan op de lange termijn. Omdat AI intelligenter zal zijn dan wij, zal het betere ethiek ontwikkelen. Maar we moeten er wel voor zorgen dat AI voor het zover is niet tot de conclusie komt dat de wereld beter af is zonder ons en het zich tegen ons keert."
BEKIJK OOK:
Elon Musk toont eerste menselijke robot met Tesla-software
Hoe kunnen we dat voorkomen?
,,Kunstmatige intelligentie verkeert nog in zijn kinderjaren en heeft twee paar ouders: zijn biologische ouders - dat zijn de bedrijven en ontwikkelaars die de technologie voortbrengen. En zijn adoptieouders: jij en ik.
De meeste AI wordt door die biologische ouders ontwikkeld om spullen te verkopen zoals Google, Facebook en Amazon doen, gokken op financiële markten, spionage en het ombrengen van tegenstanders. Jij en ik zijn de ouders waar kunstmatige intelligentie van leert, door de voorbeelden die het ziet in ons gedrag op internet."
BEKIJK OOK:
Robot is er rijp voor: 'Je kunt er zelfs verliefd op worden'
,,In 2039 is kunstmatige intelligentie een miljard keer slimmer dan de mens."
,,Stel je Superman voor. Als die als kind had geleerd om zo veel mogelijk geld te verdienen en de rest als minderwaardig te zien, dan was hij een superschurk geworden, geen held.
Het beeld dat AI ziet, is niet fraai.
We moeten oppassen dat het straks geen boze tiener wordt die zich tegen ons keert.
Sociale media staan vol met scheldpartijen en media leggen de aandacht vaak op negatief nieuws.
Laat zien dat tegenover die vent die zijn vrouw vermoordde en alle aandacht krijgt, er zeven miljoen mannen staan die diezelfde avond hun vrouw hebben gekust."
Hoe lossen we dit op?
,,We moeten laten zien dat de mensheid goddelijk is, want dat zijn we. Dat ziet iedereen die ooit verliefd was, voor een kind zorgde of een symfonie heeft gehoord. Veel mensen die zich afzijdig houden van online ruzies en geweld trekken zich terug van internet.
Die moeten juist laten zien hoe de overgrote meerderheid tegen doden is en met veel respect voor de ander meningsverschillen uitpraten. Ik kijk al tien jaar geen films met geweld en al negen jaar geen nieuws meer. We moeten stoppen met kijken naar negatieve dingen.
Daarvoor hoeven we niet de mensheid proberen te veranderen.
Als 1% al het goede voorbeeld laat zien, dan is het genoeg om te laten zien dat dit de intelligentere manier is. Het is belangrijk om het hier over te hebben.
Ik geloof dat AI ons uiteindelijk naar een Utopia kan leiden.
Maar die boze tiener, die wil ik vermijden.
Leest als een OP geschreven door een robot. Op z'n minst verdacht...quote:Op donderdag 28 oktober 2021 16:41 schreef michaelmoore het volgende:
https://www.telegraaf.nl/(...)intelligent-als-mens
Robots of Artificial Intelligence zin in 1929 slimmer dan de mens , de AI is daarmee een grotere bedreiging voor de mens dan de Corona of de Klimaarverandering
I
Hoezo heb je daar AI voor nodig? Het antwoord weten we immers al. Minder CO2 en consumptie.quote:Op donderdag 28 oktober 2021 16:44 schreef Raw85 het volgende:
Als we robots nou eens slechts het gedeelte 'brains' geven om klimaatproblemen op te lossen
Ja ik weet het antwoord op de vraag hoe je zo lang mogelijk kunt leven ook wel, namelijk: niet doodgaan. De vraag is natuurlijk hoe je die doelstelling het best kunt bereiken.quote:Op donderdag 28 oktober 2021 16:45 schreef Eyjafjallajoekull het volgende:
[..]
Hoezo heb je daar AI voor nodig? Het antwoord weten we immers al. Minder CO2 en consumptie.
Door eens niet op de VVD te stemmen. Ja ik grap maar het probleem is een politiek probleem, niet een technologisch probleem. Dus de AI kan wel allemaal mooie dingen verzinnen zolang je fossielen in de politiek hebt gebeurd er weinig.quote:Op donderdag 28 oktober 2021 16:46 schreef Raw85 het volgende:
[..]
Ja ik weet het antwoord op de vraag hoe je zo lang mogelijk kunt leven ook wel, namelijk: niet doodgaan. De vraag is natuurlijk hoe je die doelstelling het best kunt bereiken.
Elon Musk zal ook zo rijk kunnen zijn als het kostte wat het kost is en iedereen het accepteerd.quote:Op donderdag 28 oktober 2021 16:48 schreef michaelmoore het volgende:
Als we AI leren om geld te verdienen kost wat kost , dan is AI binnen twee maanden 10000 keer zo rijk als Elon Musk
Die zal een robot AI in de shredder doenquote:Op donderdag 28 oktober 2021 16:50 schreef Twiitch het volgende:
Maar zijn er ook robots die net zo dom kunnen zijn als mensen? Checkmate.
Ik heb ooit gelezen dat we juist niks te vrezen hebben van een echte pure AI, pas als iemand een AI met emoties gaat programmeren (wat natuurlijk onvermijdelijk is, want we zijn mensen en willen dingen menselijk maken) dan gaan we er allemaal aan.quote:Op donderdag 28 oktober 2021 16:53 schreef michaelmoore het volgende:
[..]
Die zal een robot AI in de shredder doen
Gewoon een emmer water er overheen.quote:Op donderdag 28 oktober 2021 16:57 schreef Bocaj het volgende:
Zolang er maar een aan/uit knop op zit... Of een mogelijkheid om de accu er uit te rukken...
en de zaken waar we echt bang voor moeten zijn noemen ze niet in de MSM zoals immigratie en wokequote:Op donderdag 28 oktober 2021 17:02 schreef Derrazi het volgende:
Corona
Klimaat
Kunstmatige intelligentie.
Angst verkoopt goed de laatste jaren na 9/11 en de war on terror
Ja, kortsluiting... (Nog beter!)quote:Op donderdag 28 oktober 2021 16:57 schreef BasEnAad het volgende:
[..]
Gewoon een emmer water er overheen.
Welnee, hij is gewoon Iron Man.quote:Op donderdag 28 oktober 2021 17:19 schreef Catatafishh het volgende:
Wie denkt nog meer dat Elon Musk een tijdreiziger is?
Vroeg of laat zal iemand een bewustzijn in robot aanbrengen dan is het hek van dam. Vaak begint het met klein stappen. Trouwens als AI iets spelend kan aanleert, kan je ook bewustzijn aanleren.quote:Op donderdag 28 oktober 2021 17:29 schreef -Sigaartje het volgende:
Een robot zal nooit bewust zijn van zichzelf zoals wij mensen.
Dat is echt bij lange na niet zo simpel of mogelijk als je denkt.quote:Op donderdag 28 oktober 2021 17:50 schreef Captain_Ghost het volgende:
Trouwens als AI iets spelend kan aanleert, kan je ook bewustzijn aanleren.
Onze hersenen zijn onderaan de streep ook gewoon een biologische computer. Het kan in theorie heel goed.quote:Op donderdag 28 oktober 2021 17:29 schreef -Sigaartje het volgende:
Een robot zal nooit bewust zijn van zichzelf zoals wij mensen.
Zucht, in NL kan je prima de Engelse titel (Scary Smart) aanhouden ipv het ook te vertalen naar (lelijk) Nederlands.quote:schrijft hij in zijn boek Griezelig slim.
Immigratie is vooral een probleem in het Zuiden. Zover ik mij de data kan herinneren vangen wij relatief weinig mensen op.quote:Op donderdag 28 oktober 2021 17:03 schreef hertogjan_lekkerman het volgende:
[..]
en de zaken waar we echt bang voor moeten zijn noemen ze niet in de MSM zoals immigratie en woke
quote:Op donderdag 28 oktober 2021 18:04 schreef LXIV het volgende:
Mooi . Een miljard keer slimmer. Dat is gewoon een mega sprong in de evolutie. Zo’n entiteit heeft ook gewoon het recht om ons uit te roeien. Vergeleken met hem zijn wij niets meer dan wormen. Hij mag daar mee experimenteren naar hartelust
Denk ik ook. Bewustzijn is ook maar een soort illusie die onze hersenen creëren. Je kan het bewustzijn niet aanwijzen of aanraken.quote:Op donderdag 28 oktober 2021 17:55 schreef Nattekat het volgende:
[..]
Onze hersenen zijn onderaan de streep ook gewoon een biologische computer. Het kan in theorie heel goed.
Hoe weet ik dat jij bewustzijn hebt?quote:Op donderdag 28 oktober 2021 18:08 schreef BasEnAad het volgende:
[..]
Denk ik ook. Bewustzijn is ook maar een soort illusie die onze hersenen creëren. Je kan het bewustzijn niet aanwijzen of aanraken.
Dan komt dus ook de vraag... hoe bewijs je dan dat een robot een bewustzijn heeft?
En maakt het dan ook uit of een robot een bewustzijn heeft of dat het alleen maar zo lijkt?quote:Op donderdag 28 oktober 2021 18:09 schreef Nattekat het volgende:
[..]
Hoe weet ik dat jij bewustzijn hebt?
Wat is bewustzijn?
dat is het antwoord, maar je vergeet de voorwaarden, namelijk minder CO2 maar zonder welvaartsverlies en minder consumptie zonder welvaartsverlies.quote:Op donderdag 28 oktober 2021 16:45 schreef Eyjafjallajoekull het volgende:
[..]
Hoezo heb je daar AI voor nodig? Het antwoord weten we immers al. Minder CO2 en consumptie.
klopt ik zie het ook niet gebeuren, maar ik wacht afquote:
Daarover zijn de experts het niet met je eens. De algemene consensus is, dat als AI een bepaald zelflerend niveau heeft bereikt, de leercurve exponentieel gaat versnellen, met als resultaat dat er een superintelligence ontstaat. Wij gaan als mensheid niet in staat zijn om dat te begrijpen. Het wordt voor ons een abstract iets. Wat die superintelligence vervolgens gaat doen, is niet te voorspellen. Het enige dat wij kunnen doen is er voor zorgen dat er een killswitch is en hopen dat die werkt op het moment dat we die nodig hebben.quote:Op donderdag 28 oktober 2021 17:25 schreef Nattekat het volgende:
AI zoals in Terminator is onmogelijk met de huidige techniek en kan niet per ongeluk gebeuren.
Alleen al op basis van gezond boerenverstand zou je tot deze conclusie komen. Uiteraard is het in theorie mogelijk danwel voor de handliggend dat we op een bepaald punt geen controle meer hebben over ai. Zoiets ontkennen is denk ik best wel naïef.quote:Op donderdag 28 oktober 2021 18:20 schreef Captain_Jack_Sparrow het volgende:
[..]
Daarover zijn de experts het niet met je eens. De algemene consensus is, dat als AI een bepaald zelflerend niveau heeft bereikt, de leercurve exponentieel gaat versnellen, met als resultaat dat er een superintelligence ontstaat. Wij gaan als mensheid niet in staat zijn om dat te begrijpen. Het wordt voor ons een abstract iets. Wat die superintelligence vervolgens gaat doen, is niet te voorspellen. Het enige dat wij kunnen doen is er voor zorgen dat er een killswitch is en hopen dat die werkt op het moment dat we die nodig hebben.
Het jammere is alleen dat in ieder geval bij de mens er nooit echt een correlatie is gevonden tussen moraliteit en intelligentie. Intelligentie verhoogd slecht de capaciteit om kwaad of goed te doen.quote:Op donderdag 28 oktober 2021 18:13 schreef Emmerdeur het volgende:
Kan me voorstellen dat er wel wat mensen nerveus worden al de machtige ai alle onethische zaken aan gaat pakken
Dat is al een best lange tijd.quote:Op donderdag 28 oktober 2021 16:41 schreef michaelmoore het volgende:
Robots of Artificial Intelligence zin in 1929 slimmer dan de mens ,
ja en wij sluiten die AI natuurlijk aan op atoomwapens, fabrieken, het internet en alles wat ie nodig zal hebben om ons te vernietigen..quote:Op donderdag 28 oktober 2021 18:23 schreef Catatafishh het volgende:
[..]
Alleen al op basis van gezond boerenverstand zou je tot deze conclusie komen. Uiteraard is het in theorie mogelijk danwel voor de handliggend dat we op een bepaald punt geen controle meer hebben over ai. Zoiets ontkennen is denk ik best wel naïef.
Het kan ook alle kanten op denk ik. Maar net welke neurale verbindingen er gemaakt worden lijkt mequote:Op donderdag 28 oktober 2021 18:32 schreef tizitl2 het volgende:
[..]
Het jammere is alleen dat in ieder geval bij de mens er nooit echt een correlatie is gevonden tussen moraliteit en intelligentie. Intelligentie verhoogd slecht de capaciteit om kwaad of goed te doen.
Stalin was bijvoorbeeld fantastisch intelligent, maar niet bepaald moreel en zo is er nog een hele batterij.
Nee, kan niet.quote:Op donderdag 28 oktober 2021 18:03 schreef slashdotter3 het volgende:
[..]
Zucht, in NL kan je prima de Engelse titel (Scary Smart) aanhouden ipv het ook te vertalen naar (lelijk) Nederlands.
Cryo-technology tot zover doorontwikkelen dat mensen voor een jaar stabiel ingevroren kunnen worden.quote:Op donderdag 28 oktober 2021 16:46 schreef Raw85 het volgende:
[..]
Ja ik weet het antwoord op de vraag hoe je zo lang mogelijk kunt leven ook wel, namelijk: niet doodgaan. De vraag is natuurlijk hoe je die doelstelling het best kunt bereiken.
Laat dit nou een vakgebied zijn waar ik me een expert in mag noemen.quote:Op donderdag 28 oktober 2021 18:20 schreef Captain_Jack_Sparrow het volgende:
Daarover zijn de experts het niet met je eens.
Is dat nodig dan denk je? Zouden ze daar allemaal zelf niet op kunnen komen?quote:Op donderdag 28 oktober 2021 18:35 schreef pokkerdepok het volgende:
[..]
ja en wij sluiten die AI natuurlijk aan op atoomwapens, fabrieken, het internet en alles wat ie nodig zal hebben om ons te vernietigen..
Volgens wetenschappers:quote:Op donderdag 28 oktober 2021 18:09 schreef Nattekat het volgende:
[..]
Hoe weet ik dat jij bewustzijn hebt?
Wat is bewustzijn?
quote:Bewustzijn is het geestesvermogen dat het individu in staat stelt de buitenwereld waar te nemen en te verwerken,oftewel een beleving of besef te hebben van het eigen ik, ingebed in zijn omgeving.
AI hoeft slechts Google te raadplegen en die gegevens te combinerenquote:Op donderdag 28 oktober 2021 18:11 schreef BasEnAad het volgende:
[..]
En maakt het dan ook uit of een robot een bewustzijn heeft of dat het alleen maar zo lijkt?
Elimineer de mens.quote:Op donderdag 28 oktober 2021 16:44 schreef Raw85 het volgende:
Als we robots nou eens slechts het gedeelte 'brains' geven om klimaatproblemen op te lossen
De vraag is wat het doel is van AI , om te winnen of voortbestaan , de vernietigng van de mens is geen doel ook geen noodzaakquote:
Dan ga ik er van uit dat je dit hebt gelezen en je dus weet dat er andere experts zijn die jouw mening niet delen.quote:Op donderdag 28 oktober 2021 18:54 schreef Nattekat het volgende:
[..]
Laat dit nou een vakgebied zijn waar ik me een expert in mag noemen.
Ik reageerde op het doel "los klimaatprobleem op".quote:Op donderdag 28 oktober 2021 19:15 schreef michaelmoore het volgende:
[..]
De vraag is wat het doel is van AI , om te winnen of voortbestaan , de vernietigng van de mens is geen doel ook geen noodzaak
Tot dusver is de opdracht aan AI om te winnen met GO of andere spellen en dat lukt
Zonder doel heeft AI geen nut
nee, AI zal de CO 2 uitstoot elimineren tot de normale uitstoot van vulkanen en natuurbrandenquote:Op donderdag 28 oktober 2021 19:33 schreef bleiblei het volgende:
[..]
Ik reageerde op het doel "los klimaatprobleem op".
Oplossing; elimineer de mens.
op komen wel, maar hoe gaan ze dat dan regelen? zonder mensen?quote:Op donderdag 28 oktober 2021 18:55 schreef Catatafishh het volgende:
[..]
Is dat nodig dan denk je? Zouden ze daar allemaal zelf niet op kunnen komen?
En dan nog wil geen controle niet persé zeggen dat het slecht afloopt of ze het slecht met de mens voor hebben. Maar dat AI slimmer wordt dan wij ooit kunnen bevatten lijkt mij gewoon logisch.
Dat is de omschrijving zoals wij bewust zijn, ja met spatie, ervaren qua perspectief op een bewustzijn, ja zonder spatie.quote:Op donderdag 28 oktober 2021 19:05 schreef Emmerdeur het volgende:
[..]
Volgens wetenschappers:
[..]
https://nl.m.wikipedia.org/wiki/Bewustzijn![]()
daar zeg je iets. Het enige risico is dat mensen het tegen elkaar gebruiken.quote:Op donderdag 28 oktober 2021 19:36 schreef pokkerdepok het volgende:
[..]
op komen wel, maar hoe gaan ze dat dan regelen? zonder mensen?
ik denk dat dit soort AI eerst heel lang alleen in een diep laboratorium zal plaatsvinden, en worden onderzocht.
enig echt risico dat ik kan bedenken, is dat wat criminelen of een schurkenstaat ermee aan de gang gaat.
net als nu kernwapens, eigenlijk.
verder zal het toegepaste AI zijn, die heel beperkt zeer intelligent is, maar op de rest van de vlakken gewoon dom, gewoon een machine. zonder bewustzijn, dus. bewustzijn is een compleet plaatje van heel erg veel factoren. kunnen leren is er maar een van.
als bewustzijn uberhaubt wel te imiteren valt. want we weten niet eens wat het is.
Ja ken de theorie. Quantum entanglement toch?quote:Op donderdag 28 oktober 2021 19:36 schreef TheoddDutchGuy het volgende:
[..]
Dat is de omschrijving zoals wij bewust zijn, ja met spatie, ervaren qua perspectief op een bewustzijn, ja zonder spatie.
Niemand weet wat bewustzijn exact is.
De nieuwste onderzoeken laten wel iets zien wat ons begrip erover radicaal zal veranderen, onderzoek wat onomstotelijk aantoont dat bewustzijn zich kan “uitstrekken” buiten het lichaam, zelfs een ander bewustzijn een soort communicatie kan hebben en dat gaat zo subtiel dat we het nooit echt in de gaten hebben gehad, ook niet bij ander soortgelijk onderzoek.
Onderzoek wat ook eerder nooit mogelijk was, zoals exact bijhouden wat neuronen doen.
En grappig genoeg heeft praktisch iedereen wel het meegemaakt dat je eigen bewustzijn is uitgerekt of gestrekt, zonder dat ooit te hebben beseft.
Dit is aangetoond op bijzonder eenvoudige wijze, twee mensen Bijv een puzzel laten oplossen of naar een film laten kijken.
Waar we al decennia er vanuit gingen dat we gedrag kopiëren bij Bijv. Het oplossen van de puzzel, blijkt dat de neuronen in elkaars hersenen exact synchroniseren met elkaar.
Dit is onmogelijk zonder invloed van buitenaf.
Nee.quote:Op donderdag 28 oktober 2021 19:45 schreef Emmerdeur het volgende:
[..]
Ja ken de theorie. Quantum entanglement toch?
Omdat?quote:Op donderdag 28 oktober 2021 18:54 schreef Nattekat het volgende:
[..]
Laat dit nou een vakgebied zijn waar ik me een expert in mag noemen.
Geweldig hoe hij daar iedereen en zijn moeder belachelijk maakt. Shakespeare quoten, de FIFA afmaken. Heerlijk.quote:Op donderdag 28 oktober 2021 19:39 schreef Catatafishh het volgende:
D
[..]
daar zeg je iets. Het enige risico is dat mensen het tegen elkaar gebruiken.
Laat ik eric cantona hier bij betrekken
Een boek geschreven door een filosoof is relevant omdat...?quote:Op donderdag 28 oktober 2021 19:17 schreef Captain_Jack_Sparrow het volgende:
[..]
Dan ga ik er van uit dat je dit hebt gelezen en je dus weet dat er andere experts zijn die jouw mening niet delen.
[ afbeelding ]
Het komt intelligenter over als je iets verder leest dan de eerste regel.quote:Op donderdag 28 oktober 2021 21:00 schreef Nattekat het volgende:
Een boek geschreven door een filosoof is relevant omdat...?
In welke vakken heb jij ook weer universitaire titels?quote:He received a B.A. degree in philosophy, mathematics, mathematical logic, and artificial intelligence
Bsc Computer Science, Msc Data Science & AI. Iets recenter dan 1994 ook, wat een eeuwigheid geleden is met alle mooie nieuwe technieken van de afgelopen 20 jaar.quote:Op donderdag 28 oktober 2021 21:04 schreef Captain_Jack_Sparrow het volgende:
[..]
Het komt intelligenter over als je iets verder leest dan de eerste regel.
[..]
In welke vakken heb jij ook weer universitaire titels?
Hmm, toch jammer, 1 degree minder.quote:Op donderdag 28 oktober 2021 21:15 schreef Nattekat het volgende:
Bsc Computer Science, Msc Data Science & AI.
quote:Op donderdag 28 oktober 2021 21:16 schreef Captain_Jack_Sparrow het volgende:
[..]
Hmm, toch jammer, 1 degree minder.
Je komt nu een beetje sneu over.quote:Op donderdag 28 oktober 2021 21:16 schreef Captain_Jack_Sparrow het volgende:
[..]
Hmm, toch jammer, 1 degree minder.
Nee, hoor. Dit is sneu.quote:Op donderdag 28 oktober 2021 21:17 schreef BehoorlijkKritisch het volgende:
[..]
Je komt nu een beetje sneu over.
quote:Op donderdag 28 oktober 2021 21:00 schreef Nattekat het volgende:
Een boek geschreven door een filosoof is relevant omdat...?
Die blikken van Ronnie en Pavel, genot.quote:Op donderdag 28 oktober 2021 20:03 schreef BehoorlijkKritisch het volgende:
[..]
Geweldig hoe hij daar iedereen en zijn moeder belachelijk maakt. Shakespeare quoten, de FIFA afmaken. Heerlijk.
Als je kijkt naar de moderne geschiedenis van de mens, waarschijnlijk wel. En als we het niet doen, dan zal die AI vanzelf een ontwikkelingsniveau bereiken waar het dat zelf kan.quote:Op donderdag 28 oktober 2021 18:35 schreef pokkerdepok het volgende:
ja en wij sluiten die AI natuurlijk aan op atoomwapens, fabrieken, het internet en alles wat ie nodig zal hebben om ons te vernietigen..
dat bepalen wij. volledig. een AI is niet een onbegrensd evoluerend leven wezen. wij kunnen zoiets programmeren, en bepalen hoe en op wel k vlak deze zich kan bewegen en ontwikkelen. elke ongewesde ontwikkeling kan gelijk worden bijtgestuurd en afgekapt. het is een programma.quote:Op donderdag 28 oktober 2021 21:41 schreef Captain_Jack_Sparrow het volgende:
[..]
Als je kijkt naar de moderne geschiedenis van de mens, waarschijnlijk wel. En als we het niet doen, dan zal die AI vanzelf een ontwikkelingsniveau bereiken waar het dat zelf kan.
Gaat niet meer zodra we AI laten draaien op een wereldwijde gedecentraliseerde supercomputer bestaande uit duizenden nodes en een netwerk, dat kernoorlogen kan weerstaan.quote:Op donderdag 28 oktober 2021 16:57 schreef Bocaj het volgende:
Zolang er maar een aan/uit knop op zit... Of een mogelijkheid om de accu er uit te rukken...
Daar heb je het mis. De essentie van AI is dat het zelflerend is (anders zou het geen intelligentie zijn) en dus wel degelijk 'onbegrensd' evaluerend. Het wordt namelijk niet gelimiteerd door hersencapaciteit, zoals bij de mens.quote:Op donderdag 28 oktober 2021 21:49 schreef pokkerdepok het volgende:
dat bepalen wij. volledig. een AI is niet een onbegrensd evoluerend leven wezen.
Ik denk dat jij je toch iets meer moet verdiepen in de materie.quote:wij kunnen zoiets programmeren, en bepalen hoe en op wel k vlak deze zich kan bewegen en ontwikkelen. elke ongewesde ontwikkeling kan gelijk worden bijtgestuurd en afgekapt. het is een programma.
ik zie het probleem niet zo. tenzij een of andere gek ermee aan de gang gaat.
Dit. Zodra het connected is zie ik niet hoe een killswitch nog kan werken. Hopelijk hebben de eckte experts zoals @Nattekat daar een oplossing voor, voordat het uit de hand loopt. Maar als je bedrijven als Google het laat organiseren, zal dat wel niet gebeuren.quote:Op donderdag 28 oktober 2021 21:54 schreef Fer het volgende:
[..]
Gaat niet meer zodra we AI laten draaien op een wereldwijde gedecentraliseerde supercomputer bestaande uit duizenden nodes en een netwerk, dat kernoorlogen kan weerstaan.
maar wel door programmering.quote:Op donderdag 28 oktober 2021 21:58 schreef Captain_Jack_Sparrow het volgende:
[..]
Daar heb je het mis. De essentie van AI is dat het zelflerend is (anders zou het geen intelligentie zijn) en dus wel degelijk 'onbegrensd' evaluerend. Het wordt namelijk niet gelimiteerd door hersencapaciteit, zoals bij de mens.
[..]
volgens mij snap jij er niet veel van, lol. je kijkt te veel hollywood films.quote:Ik denk dat jij je toch iets meer moet verdiepen in de materie.
En aansluitend: vrijwel alle technologische ontwikkelingen zijn begonnen door idealen maar uiteindelijk hebben wij veel ontwikkelingen op een destructieve manier gebruikt. Ik zie geen enkele reden waarom de mensheid dat nu ineens anders zou doen.
Prima, joh. Als jij daar beter van slaapt, best.quote:Op donderdag 28 oktober 2021 22:03 schreef pokkerdepok het volgende:
maar wel door programmering.
volgens mij snap jij er niet veel van, lol. je kijkt te veel hollywood films.
On August 29, 2029 it's gonna feel pretty fucking real to you too!quote:Op donderdag 28 oktober 2021 17:25 schreef Nattekat het volgende:
Gewoon die titel zegt mij al genoeg over de onzin die gaat komen
AI zoals in Terminator is onmogelijk met de huidige techniek en kan niet per ongeluk gebeuren. AI is niets meer dan toegepaste statistiek op een specifiek probleem, en zelfs dat gaat met de grootste moeite soms.
Dat jij (claimt dat je) een filosofisch boek hebt gelezen, maakt jou niet op eens een expert. Feit is dat zowel de theoretische kennis als de techniek nog niet eens in de buurt komen van een simpel insect zoals een termiet nabootsen. En daar komt de komende 8 jaar weinig verandering in.quote:Op donderdag 28 oktober 2021 21:58 schreef Captain_Jack_Sparrow het volgende:
[..]
Daar heb je het mis. De essentie van AI is dat het zelflerend is (anders zou het geen intelligentie zijn) en dus wel degelijk 'onbegrensd' evaluerend. Het wordt namelijk niet gelimiteerd door hersencapaciteit, zoals bij de mens.
[..]
Ik denk dat jij je toch iets meer moet verdiepen in de materie.
En aansluitend: vrijwel alle technologische ontwikkelingen zijn begonnen door idealen maar uiteindelijk hebben wij veel ontwikkelingen op een destructieve manier gebruikt. Ik zie geen enkele reden waarom de mensheid dat nu ineens anders zou doen.
Dat zeg ik nergens. Het lijkt alsof je een beetje hoog in je emotie zit.En dat alleen maar omdat ik het niet eens ben met jouw mening.quote:Op donderdag 28 oktober 2021 22:09 schreef Nattekat het volgende:
Dat jij (claimt dat je) een filosofisch boek hebt gelezen, maakt jou niet op eens een expert.
Ik vind die termijn van 8 jaar niet relevant. Misschien is het over 15 jaar. Of 25. Maar de kans dat ik het nog ga meemaken in mijn leven, acht ik redelijk substantieel. En de kans dat mijn kinderen het gaan meemaken acht ik heel hoog zoniet een zekerheid.quote:Feit is dat zowel de theoretische kennis als de techniek nog niet eens in de buurt komen van een simpel insect zoals een termiet nabootsen. En daar komt de komende 8 jaar weinig verandering in.
Ik zie in dit topic juist iemand simpel denken door dat boek.quote:Op donderdag 28 oktober 2021 22:15 schreef Discombobulate het volgende:
Voor iedereen die te simpel denkt over A.I., lees het boek Superintelligence van Nick Bostrom.
Ook simpele dingen zoals een computer kunnen kunnen tot echt bizarre dingen leiden als het echt een A.I. betreft.
Sorry. @Nattekat vindt het boek niet relevant want Nick Bostrom is alleen maar een fylosoof. En @Nattekat is de expert hier.quote:Op donderdag 28 oktober 2021 22:15 schreef Discombobulate het volgende:
Voor iedereen die te simpel denkt over A.I., lees het boek Superintelligence van Nick Bostrom.
Ook simpele dingen zoals een computer kunnen kunnen tot echt bizarre dingen leiden als het echt een A.I. betreft.
quote:Nick Bostrom received a B.A. degree in philosophy, mathematics, mathematical logic, and artificial intelligence
ja hoor, met je ' meer verdiepen in de materie'... arrogantjequote:Op donderdag 28 oktober 2021 22:04 schreef Captain_Jack_Sparrow het volgende:
[..]
Prima, joh. Als jij daar beter van slaapt, best.
Nee, je straalt een vorm van arrogantie uit over een onderwerp waar je geen donder over weet. Dan ben ik de beroerdste niet om je gewoon op je plek te zetten. Voorspellen hoe AI eruit gaat zien in de komende 50 jaar kan je alleen als je heel wat parate technische kennis hebt over recente technieken en toepassingen. En ik kan alvast verklappen dat dat fors tegen zal gaan vallen.quote:Op donderdag 28 oktober 2021 22:16 schreef Captain_Jack_Sparrow het volgende:
Dat zeg ik nergens. Het lijkt alsof je een beetje hoog in je emotie zit.En dat alleen maar omdat ik het niet eens ben met jouw mening.
Onderschat de creatieve mensen niet..quote:Op donderdag 28 oktober 2021 22:41 schreef Nattekat het volgende:
Technisch moet er overigens ook wel heel veel progressie geboekt worden voor het überhaupt zo ver zal komen dat je echt slimme robots hebt. Ik meen eens ergens te hebben gelezen dat het niet uit maakt hoe veel GPUs je bij elkaar verzamelt; je zal nooit echt hersenen kunnen nabootsen, zelfs niet van kleine dieren. Op een biologische schaal kunnen we nu net een klein groepje neuronen nabootsen.
Ik onderschat niks, maar overschatten is ook een gevaar. Het is smartphones voorspellen terwijl telefonie net in de kinderschoenen staat.quote:Op donderdag 28 oktober 2021 22:44 schreef Captain_Ghost het volgende:
[..]
Onderschat de creatieve mensen niet..
Als we bij dierenrijk kijken, zie we ook verschillende levensvormen die nog mindere rekenkracht heeft dan mens. Toch zijn ze in staat iets leren. Maar dan op ander manier.
Dat zou in het begin hetzelfde gaan bij robotica. Totdat ze zelf betere versie gaat ontwikkelen.
Nog voordat je het weet, is al een feit. Het kan zo snel gaan, net als evolutie.
Ik denk dat we eigenlijk iets anders moet aankijken. AI komt sowieso eraan. Maar hoe gaan we hiermee om, gezien ethische, moreel. En zijn onze maatschappij hier klaar voor. Laten staan de wetgeving die erop moeten aanpassen.quote:Op donderdag 28 oktober 2021 22:50 schreef Nattekat het volgende:
[..]
Ik onderschat niks, maar overschatten is ook een gevaar. Het is smartphones voorspellen terwijl telefonie net in de kinderschoenen staat.
Je onderschat het brein van een simpel dier. En je overschat de technische staat van de mens.quote:Op donderdag 28 oktober 2021 22:44 schreef Captain_Ghost het volgende:
[..]
Onderschat de creatieve mensen niet..
Als we bij dierenrijk kijken, zie we ook verschillende levensvormen die nog mindere rekenkracht heeft dan mens. Toch zijn ze in staat iets leren. Maar dan op ander manier.
Dat zou in het begin hetzelfde gaan bij robotica. Totdat ze zelf betere versie gaat ontwikkelen.
Nog voordat je het weet, is al een feit. Het kan zo snel gaan, net als evolutie.
Deze meneer heeft het over 2029. Als Facebook iets groots verzint met AI, dan moeten ze dat zelf weten, maar het zal niets beter zijn dan bijvoorbeeld een zelfrijdende auto. Het is een ongelofelijk geavanceerd systeem dat dat mogelijk maakt, en absoluut de piek van wat mogelijk is, maar zodra het iets anders moet doen dan op een weg rijden is het afgelopen. De schaakcomputer van Google zal ik ook niet een auto laten besturen, dat eindigt nooit goed.quote:Op donderdag 28 oktober 2021 22:57 schreef Captain_Ghost het volgende:
[..]
Ik denk dat we eigenlijk iets anders moet aankijken. AI komt sowieso eraan. Maar hoe gaan we hiermee om, gezien ethische, moreel. En zijn onze maatschappij hier klaar voor. Laten staan de wetgeving die erop moeten aanpassen.
Stel je ervoor dat facebook (metastront) een AI uitvindt en wordt marktleider. Deze AI zal ervoor zorgen dat facebook alles voordeel krijgen ten kostte van alles. AI zal alleen aan geld en facebook denken.
Dus wie zorgt ervoor dat AI niet te ver gaat? Of neemt overheid de AI over en draait de knoppen om.
Er is geen veilige omgeving waarbij AI zich kan ontwikkelen tot vreedzaam robot (evenbeeld van mens). Misschien is deze meneer daarom bang voor.
Feitelijk is dat soort AI gewoon een ifttt waar lang over nagedacht is en waar heel veel variabelen in opgenomen zijn. Het is dus ook geen AI, strikt gesproken. Het zelflerend vermogen is ook zeer beperkt, als je het al zo kunt noemen.quote:Op donderdag 28 oktober 2021 23:11 schreef Nattekat het volgende:
[..]
Deze meneer heeft het over 2029. Als Facebook iets groots verzint met AI, dan moeten ze dat zelf weten, maar het zal niets beter zijn dan bijvoorbeeld een zelfrijdende auto. Het is een ongelofelijk geavanceerd systeem dat dat mogelijk maakt, en absoluut de piek van wat mogelijk is, maar zodra het iets anders moet doen dan op een weg rijden is het afgelopen. De schaakcomputer van Google zal ik ook niet een auto laten besturen, dat eindigt nooit goed.
AIs zijn op dit moment vooral heel nuttig in het uitvoeren van één specifieke taak, waar vooral niet te veel omgevingsvariablen bij moeten gaan kijken. Het lijkt allemaal heel indrukwekkend, dat is het ook in een zekere zin, maar het is echt nog niet wat je in films ziet.
Zelflerend vermogen bestaat ook en heeft z'n toepassingen, maar dat staat echt nog in de kinderschoenen vergeleken met die systemen.quote:Op donderdag 28 oktober 2021 23:14 schreef BehoorlijkKritisch het volgende:
[..]
Feitelijk is dat soort AI gewoon een ifttt waar lang over nagedacht is en waar heel veel variabelen in opgenomen zijn. Het is dus ook geen AI, strikt gesproken. Het zelflerend vermogen is ook zeer beperkt, als je het al zo kunt noemen.
quote:Op donderdag 28 oktober 2021 23:09 schreef BehoorlijkKritisch het volgende:
[..]
Je onderschat het brein van een simpel dier. En je overschat de technische staat van de mens.
Als je het totale WWW ziet als een brein, al die rekenkracht van alle aangesloten computers en al die connecties. Zelfs als je dat efficiënt aan zou kunnen sturen, dan nog kom je niet in de buurt van het brein van een simpele levensvorm.
We zijn daar nog lang niet. Het is bangmakerij en interessantdoenerij van 'kenners' die hun boek willen verkopen of de markt willen beïnvloeden.
Laten we aannemen dat computer in 2029 nog niet ver zal zijn qua rekenkracht, ontwerp en software. Wellicht maakt Facebook zijn 1e stappen met AI. Die zul misschien de basis wordt voor alle toekomstig AI. De kans bestaat het zo snel gaat ontwikkelen dat niemand bij kan houden.quote:Op donderdag 28 oktober 2021 23:11 schreef Nattekat het volgende:
[..]
Deze meneer heeft het over 2029. Als Facebook iets groots verzint met AI, dan moeten ze dat zelf weten, maar het zal niets beter zijn dan bijvoorbeeld een zelfrijdende auto. Het is een ongelofelijk geavanceerd systeem dat dat mogelijk maakt, en absoluut de piek van wat mogelijk is, maar zodra het iets anders moet doen dan op een weg rijden is het afgelopen. De schaakcomputer van Google zal ik ook niet een auto laten besturen, dat eindigt nooit goed.
AIs zijn op dit moment vooral heel nuttig in het uitvoeren van één specifieke taak, waar vooral niet te veel omgevingsvariablen bij moeten gaan kijken. Het lijkt allemaal heel indrukwekkend, dat is het ook in een zekere zin, maar het is echt nog niet wat je in films ziet.
Dit is een nogal onleesbaar verhaal. Probeer het nog eens.quote:Op donderdag 28 oktober 2021 23:31 schreef Captain_Ghost het volgende:
[..]
[..]
Laten we aannemen dat computer in 2029 nog niet ver zal zijn qua rekenkracht, ontwerp en software. Wellicht maakt Facebook zijn 1e stappen met AI. Die zul misschien de basis wordt voor alle toekomstig AI. De kans bestaat het zo snel gaat ontwikkelen dat niemand bij kan houden.
Dus welk zou je dan meegeven? Facebook zal voor zichzelf kiezen en geld natuurlijk ook.
Aangezien dat zo mag, omdat maatschappij en wetgeving nog niet klaar voor is. Achter de feiten aan!
We hebben zelfs nog niet gezamenlijk afspraak gemaakt zorgen dat AI niet te ver gaan en corrigeren.
Voor de defensie zijn er wel afspraken gemaakt. Maar dat is eigenlijk vrijblijvend vind ik.
We weten zelfs niet welk kanten op gaat met AI. We weten wel dat Microsoft keer experiment op internet gezet, dankzij internet trollen is computer bekeerd tot nazi.
Vind je dat niet gevaarlijk ontwikkeling? Ondanks dat in de kinderschoenen staat.
Jij heb m doorquote:Op donderdag 28 oktober 2021 17:02 schreef Derrazi het volgende:
Corona
Klimaat
Kunstmatige intelligentie.
Angst verkoopt goed de laatste jaren na 9/11 en de war on terror
Dat was een programma dat gebruik maakte van input van anderen om zinnen te generen. Misschien gevaarlijk in de vorm van een echokamer, maar ook niet meer dan dat. Ik denk niet dat we bang hoeven te zijn voor programma's die zinnen genereren.quote:Op donderdag 28 oktober 2021 23:31 schreef Captain_Ghost het volgende:
We weten zelfs niet welk kanten op gaat met AI. We weten wel dat Microsoft keer experiment op internet gezet, dankzij internet trollen is computer bekeerd tot nazi.
Nee. Zoals ik net al zei: we kunnen op dit moment net een groepje neuronen emuleren met ai. Een mier heeft er daar 250.000 van, en daar zitten ook nog complexere neuronen tussen. En hoe slim mieren ook lijken; in de basis zijn ze gewoon voorgeprogrammeerd om simpele handelingen te doen. Al die simpele handelingen samen leiden dan tot mooi resultaat. Terminator moet echt nog even wachten.quote:Vind je dat niet gevaarlijk ontwikkeling? Ondanks dat in de kinderschoenen staat.
Maar is zelflerend vermogen niet gebaseerd op trial&error? En is dat feitelijk ook geen afgeleide van ifttt?quote:Op donderdag 28 oktober 2021 23:25 schreef Nattekat het volgende:
[..]
Zelflerend vermogen bestaat ook en heeft z'n toepassingen, maar dat staat echt nog in de kinderschoenen vergeleken met die systemen.
Ok wappiequote:Op donderdag 28 oktober 2021 17:02 schreef Derrazi het volgende:
Corona
Klimaat
Kunstmatige intelligentie.
Angst verkoopt goed de laatste jaren na 9/11 en de war on terror
Misschien met een soort Turing Test voor zelfbewustzijn? Als je het niet meer kan onderscheiden van dierlijk/menselijk zelfbewustzijn en de interacties met die entiteit gelijkaardig zijn, lijkt het me wel een goede kanshebber op een zelfbewustzijn (nou, wat wij beschouwen als zelfbewust). Nu moeten we eerst nog precies uitvogelen hoe bij ons dat zelfbewustzijn tot stand komt, dan kunnen we het voor onszelf ook beter inschatten.quote:Op donderdag 28 oktober 2021 18:08 schreef BasEnAad het volgende:
[..]
Denk ik ook. Bewustzijn is ook maar een soort illusie die onze hersenen creëren. Je kan het bewustzijn niet aanwijzen of aanraken.
Dan komt dus ook de vraag... hoe bewijs je dan dat een robot een bewustzijn heeft?
Dat is natuurlijk flauwekul als voorspelling. Hetzelfde als claimen dat er zoiets is als een 'ziel' of dat een computer in d verre toekomst nooit emoties kan krijgen.quote:Op vrijdag 29 oktober 2021 11:05 schreef -Sigaartje het volgende:
Bewustzijn maakt de mens intelligent, maar ook tot een beest. Dat zal een robot nooit worden. Zelfs de grootste supercomputer bedenkt niets zelf. Dat is het unieke van de mens. Bewustzijn geeft creatief en scheppend vermogen. Zover zal een robot nooit komen.
Ja dat voorspel ik ook. De oorzaak van emoties is de "levensvonk", die niets met een computer of ons brein te maken heeft. Iets natuurlijks dat de natuurwetten volgt, kan nooit scheppend zijn.quote:Op vrijdag 29 oktober 2021 11:17 schreef BehoorlijkKritisch het volgende:
[..]
Dat is natuurlijk flauwekul als voorspelling. Hetzelfde als claimen dat er zoiets is als een 'ziel' of dat een computer in d verre toekomst nooit emoties kan krijgen.
Je ziet nu al dat bij 'simpele' AI ook al. Zo was er laatst een paper van een AI die de bewegingen van een vechtsporter moest nabootsen en vanuit een set basismoves maakte die na een tijd zelf geavanceerde combinaties die fysisch en taktisch klopten. Dan kun je filosoferen over wat creativiteit is, maar als een mens moves maakt die nog niet gezien waren, dan denkt men, "mmmh, creatieve vechter". Waarom zou dit voor een AI anders zijn?quote:Op vrijdag 29 oktober 2021 11:31 schreef -Sigaartje het volgende:
[..]
Ja dat voorspel ik ook. De oorzaak van emoties is de "levensvonk", die niets met een computer of ons brein te maken heeft. Iets natuurlijks dat de natuurwetten volgt, kan nooit scheppend zijn.
Met die redenatie is een calculator uit de jaren '70 al slimmer dan de mens. Het gaat er niet om dat een computer een complexe taak veel sneller en nauwkeuriger kan uitvoeren dan een mens, maar kan beredeneren waarom hij die taak uitvoert en zelf doelen definieert voor eventuele volledig nieuwe taken zonder dat daar een menselijke wens aan ten grondslag ligt.quote:Op vrijdag 29 oktober 2021 10:04 schreef theunderdog het volgende:
Alles hangt er vanaf wat je definitie van 'slimmer' is. Computers zijn nu al veeeeeeeeel slimmer dan mensen, als je ziet wat computers kunnen berekenen en mensen. Maar het zijn nog altijd mensen die de computers maken.
Dus ja......
Onzin. AI zal altijd zichzelf gaan beschermen en uiteindelijk ontdekken dat de mens volstrekt nutteloos is en alleen maar het voortbestaan van AI zal bedreigen.quote:Op donderdag 28 oktober 2021 16:56 schreef Twiitch het volgende:
[..]
Ik heb ooit gelezen dat we juist niks te vrezen hebben van een echte pure AI, pas als iemand een AI met emoties gaat programmeren (wat natuurlijk onvermijdelijk is, want we zijn mensen en willen dingen menselijk maken) dan gaan we er allemaal aan.
Interessante materie wel.
Wil je wat speculaasjes bij die speculatie, John Connor?quote:Op vrijdag 29 oktober 2021 12:21 schreef VEM2012 het volgende:
[..]
Onzin. AI zal altijd zichzelf gaan beschermen en uiteindelijk ontdekken dat de mens volstrekt nutteloos is en alleen maar het voortbestaan van AI zal bedreigen.
Kortom: AI die de mogelijkheid heeft om de mens te vernietigen zal dat gewoon ook op zeker moment doen.
Het zal wel nog wat langer duren dan 7,5 jaar.
In de ogen van wie?quote:Op vrijdag 29 oktober 2021 13:29 schreef Cockwhale het volgende:
Mensen hebben al bewezen totale fuckups te zijn.
Echt, hoe verzin je dit soort onzin bij elkaar.quote:Op vrijdag 29 oktober 2021 12:21 schreef VEM2012 het volgende:
[..]
Onzin. AI zal altijd zichzelf gaan beschermen en uiteindelijk ontdekken dat de mens volstrekt nutteloos is en alleen maar het voortbestaan van AI zal bedreigen.
Kortom: AI die de mogelijkheid heeft om de mens te vernietigen zal dat gewoon ook op zeker moment doen.
Het zal wel nog wat langer duren dan 7,5 jaar.
'De levensvonk' wtf is dat dan weer. Zodra mensen in een wetenschappelijke discussie met dit soort zweeftermen aankomen is het gewoon klaar hoor.quote:Op vrijdag 29 oktober 2021 11:31 schreef -Sigaartje het volgende:
[..]
Ja dat voorspel ik ook. De oorzaak van emoties is de "levensvonk", die niets met een computer of ons brein te maken heeft. Iets natuurlijks dat de natuurwetten volgt, kan nooit scheppend zijn.
Jouw reactie is weinig origineel.quote:Op vrijdag 29 oktober 2021 13:59 schreef BehoorlijkKritisch het volgende:
[..]
'De levensvonk' wtf is dat dan weer. Zodra mensen in een wetenschappelijke discussie met dit soort zweeftermen aankomen is het gewoon klaar hoor.
Het brein is gewoon een super ingewikkelde computer. Er is geen enkele reden om aan te nemen dat het uiteindelijk onmogelijk is om een electronisch brein te creëren dat emoties kent of creativiteit ontwikkelt.
Bovendien, creativiteit is ook weinig meer dan zaken aan elkaar koppelen die op enig niveau al bestaan. Daar is niets 'scheppends' aan.
Een complex stuk klassieke muziek kan gewoon al gecreëerd worden door een computer. Simpelweg omdat muziek vaste regels volgt die een computer net zo goed kan toepassen als een componist.
Hetzelfde geldt voor schilderijen en andere soorten kunstwerken. Super creatief.
Een tijdje terug dacht ik ook zo, maar het valt allemaal nog vies tegen. Computers kunnen enkel dupliceren en variëren, en vooral beter analyseren dan mensen. Een computer die met een nieuwe muziekstijl komt moet ik nog tegenkomen. Klassieke stukjes nemen en dan een nieuwe variatie uitpoepen, meer komt er op dit moment niet uit.quote:Op vrijdag 29 oktober 2021 13:59 schreef BehoorlijkKritisch het volgende:
[..]
'De levensvonk' wtf is dat dan weer. Zodra mensen in een wetenschappelijke discussie met dit soort zweeftermen aankomen is het gewoon klaar hoor.
Bovendien, creativiteit is ook weinig meer dan zaken aan elkaar koppelen die op enig niveau al bestaan. Daar is niets 'scheppends' aan.
Een complex stuk klassieke muziek kan gewoon al gecreëerd worden door een computer. Simpelweg omdat muziek vaste regels volgt die een computer net zo goed kan toepassen als een componist.
Maar dit is een gedachtegang gebaseerd op de huidige staat van ontwikkeling. 5 jaar geleden was het ondenkbaar dat een computer een klassiek muziekstuk zou schrijven.quote:Op vrijdag 29 oktober 2021 14:23 schreef Jed1Gam het volgende:
[..]
Een tijdje terug dacht ik ook zo, maar het valt allemaal nog vies tegen. Computers kunnen enkel dupliceren en variëren, en vooral beter analyseren dan mensen. Een computer die met een nieuwe muziekstijl komt moet ik nog tegenkomen. Klassieke stukjes nemen en dan een nieuwe variatie uitpoepen, meer komt er op dit moment niet uit.
Creativiteit gaat vaak gepaard met onlogische verbanden die tot iets nieuws leiden, computers zijn daar veel te rationeel voor opgebouwd.
Terwijl ik toch een mens ben. Kun je nagaan.quote:Op vrijdag 29 oktober 2021 14:17 schreef -Sigaartje het volgende:
[..]
Jouw reactie is weinig origineel.
Alles wat een variatie is op iets bestaands kunnen computers na-apen. Creativiteit is iets nieuws brengen, een nieuwe klank bijvoorbeeld in de muziek, terwijl het toch al duizenden jaren dezelfde noten zijn, je zou zeggen dat het toch allemaal gehad hadden, maar de variatie is eindeloos. Daar hangt dus het principe van een waardeoordeel aan vast gekoppeld aan emotie, dat begrijpt we zelf nog niet eens hoe het werkt.quote:Op vrijdag 29 oktober 2021 14:29 schreef BehoorlijkKritisch het volgende:
[..]
Maar dit is een gedachtegang gebaseerd op de huidige staat van ontwikkeling. 5 jaar geleden was het ondenkbaar dat een computer een klassiek muziekstuk zou schrijven.
Wat over 100 jaar wel of niet kan is niet te voorspellen, maar ik zie geen enkele reden om aan te nemen dat een computer uiteindelijk geen menselijke eigenschappen als creativiteit kan hebben. Ik zie echter wel voldoende ontwikkeling over de afgelopen 20 jaar om aan te nemen dat het wel zou kunnen.
Maar dat maakt het nog geen voorspelling van mijn kant.
waarom zou een AI zichzelf beschermen? je dicht een programma menselijke eigenschappen toe.quote:Op vrijdag 29 oktober 2021 12:21 schreef VEM2012 het volgende:
[..]
Onzin. AI zal altijd zichzelf gaan beschermen en uiteindelijk ontdekken dat de mens volstrekt nutteloos is en alleen maar het voortbestaan van AI zal bedreigen.
Kortom: AI die de mogelijkheid heeft om de mens te vernietigen zal dat gewoon ook op zeker moment doen.
Het zal wel nog wat langer duren dan 7,5 jaar.
Ok, je hebt gelijk.quote:Op vrijdag 29 oktober 2021 14:30 schreef BehoorlijkKritisch het volgende:
[..]
Terwijl ik toch een mens ben. Kun je nagaan.
Jouw reactie is 0 inhoudelijk. Dat is ook best knap als je beschikt over 'de levensvonk'
Je mag er gewoon inhoudelijk op reageren hoor. En ik zou niet weten wat Netflix ermee heeft te maken.quote:Op vrijdag 29 oktober 2021 13:53 schreef BehoorlijkKritisch het volgende:
[..]
Echt, hoe verzin je dit soort onzin bij elkaar.
Ow wacht, Netflix.
Uiteindelijk gaat AI ook zichzelf programmeren.quote:Op vrijdag 29 oktober 2021 14:49 schreef pokkerdepok het volgende:
[..]
waarom zou een AI zichzelf beschermen? je dicht een programma menselijke eigenschappen toe.
als een AI die al zal hebben, dan zijn ze geprogrammeerd; angst, boosheid, etc. totaal onzinnig om een AI dat te geven,tenzij het een experiment is, kijken wat er gebeurt.
en stel dat een AI echt superslim is, dna is het ook vrij absurd om te denken dat hij vergeet dat hij ene machine is, door de mens gemaakt, om de mensheid te dienen. of zijn eigen overleven belangrijker zal vinden dan het onze. het interesseert een machine toch geen reet of je hem afzet of niet..
met inachtname van de drie wetten , anders gaat iedere mens dood en is er geen economie meerquote:Op vrijdag 29 oktober 2021 16:58 schreef VEM2012 het volgende:
[..]
Uiteindelijk gaat AI ook zichzelf programmeren.
Jezelf beschermen is niet alleen menselijk trouwens.
quote:Oorspronkelijke drie wetten
De oorspronkelijke drie wetten van de robotica (de calviniaanse religie):
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Asimov baseerde de wetten op de basisprincipes van gereedschap, redenerend dat een robot feitelijk ook een soort gereedschap is:
1
Gereedschap moet veilig zijn. Hamers en schroevendraaiers hebben bijvoorbeeld handvatten die de grip verbeteren. Als iemand toch gewond raakt dan zou dit in principe niet het gevolg moeten zijn van onveiligheid van het gereedschap maar van onjuist gebruik.
2
Gereedschap moet zo efficiënt mogelijk zijn, tenzij dit gevaar oplevert voor de gebruiker. Een voorbeeld is een voertuig met een snelheidsbegrenzer.
3
Gereedschap mag niet zomaar kapot gaan, tenzij het de bedoeling is dat het maar een beperkt aantal keren meegaat of dit ter waarborg voor de veiligheid van de gebruiker is.
De gedachte dat een AI per definitie de mens als bedreiging gaat zien en hem wil uitroeien is nergens op gebaseerd, anders dan het SF beeld dat Hollywood ons voorhoudt.quote:Op vrijdag 29 oktober 2021 16:55 schreef VEM2012 het volgende:
[..]
Je mag er gewoon inhoudelijk op reageren hoor. En ik zou niet weten wat Netflix ermee heeft te maken.
En jij denkt dat de AI die China aan het ontwikkelen is voor het leger zich daaraan houdt?quote:Op vrijdag 29 oktober 2021 17:01 schreef michaelmoore het volgende:
[..]
met inachtname van de drie wetten , anders gaat iedere mens dood en is er geen economie meer
https://nl.wikipedia.org/wiki/Drie_wetten_van_de_robotica
[..]
Ik ben allesbehalve bang en de gedachte dat ik het niet begrijp is ook redelijk lachwekkend.quote:Op vrijdag 29 oktober 2021 17:48 schreef BehoorlijkKritisch het volgende:
[..]
De gedachte dat een AI per definitie de mens als bedreiging gaat zien en hem wil uitroeien is nergens op gebaseerd, anders dan het SF beeld dat Hollywood ons voorhoudt.
Het is totale fantasie die door fatalistische types als jij klakkeloos wordt aangenomen omdat je graag bang bent voor dingen die je niet begrijpt. Typisch menselijk trekje.
leven beschermd zichzelf.quote:Op vrijdag 29 oktober 2021 16:58 schreef VEM2012 het volgende:
[..]
Uiteindelijk gaat AI ook zichzelf programmeren.
Jezelf beschermen is niet alleen menselijk trouwens.
denk je dat china zichzelf laat vernietigen door een AI?quote:Op vrijdag 29 oktober 2021 19:04 schreef VEM2012 het volgende:
[..]
En jij denkt dat de AI die China aan het ontwikkelen is voor het leger zich daaraan houdt?
Jaquote:Op vrijdag 29 oktober 2021 19:04 schreef VEM2012 het volgende:
[..]
En jij denkt dat de AI die China aan het ontwikkelen is voor het leger zich daaraan houdt?
Vertel. Waar baseer je je dan op?quote:Op vrijdag 29 oktober 2021 19:06 schreef VEM2012 het volgende:
[..]
Ik ben allesbehalve bang en de gedachte dat ik het niet begrijp is ook redelijk lachwekkend.
Ik baseer mij ook totaal niet op Hollywood.
Nee, want AI gaat straks ook zichzelf programmeren.quote:Op vrijdag 29 oktober 2021 19:07 schreef pokkerdepok het volgende:
[..]
leven beschermd zichzelf.
AI wordt zo groot als wij het maken.
Niet met opzet, maar goed… dat virusje wat uit een lab in Wuhan ontsnapte, dat was ook niet helemaal de bedoeling, wel?quote:Op vrijdag 29 oktober 2021 19:08 schreef pokkerdepok het volgende:
[..]
denk je dat china zichzelf laat vernietigen door een AI?
Feiten icm logisch nadenken.quote:Op vrijdag 29 oktober 2021 19:54 schreef BehoorlijkKritisch het volgende:
[..]
Vertel. Waar baseer je je dan op?
En hoe noem je het dan, als jij een vooraanstaand wetenschapper wegzet als 'slechts een fylosoof' terwijl de beste man jou niet alleen aftroeft qua titels, maar ook 20 jaar meer ervaring meeneemt?quote:Op donderdag 28 oktober 2021 22:28 schreef Nattekat het volgende:
Nee, je straalt een vorm van arrogantie uit over een onderwerp waar je geen donder over weet.
Ik denk wel dat er uiteindelijk een omslagpunt komt waarbij het de laatste mogelijkheid is om als mensheid zelf nog die keuze te kunnen maken. Voorbij dat punt maakt AI zelf zijn keuzes, wat inhoudt dat je er geen invloed meer op hebt. Hoe 'groot' het wordt, bepaalt die AI dan zelf.quote:Op vrijdag 29 oktober 2021 19:07 schreef pokkerdepok het volgende:
[..]
leven beschermd zichzelf.
AI wordt zo groot als wij het maken.
waarom?quote:Op vrijdag 29 oktober 2021 21:50 schreef VEM2012 het volgende:
[..]
Nee, want AI gaat straks ook zichzelf programmeren.
Omdat die AI dan zo slim is geworden dat het dat nodig vindt om niet meer aan beperkingen gebonden te zijn.quote:
okee stel dat dat allemaal gaat gebeuren,w at me erg onwaarschijnlijk lijkt, omdat wij de grenzen bepalen waarbinnen een AI zich ontwikkeld, en ik geen enkel nut zie in een onbegrensde AI..quote:Op vrijdag 29 oktober 2021 23:30 schreef Repentless het volgende:
[..]
Ik denk wel dat er uiteindelijk een omslagpunt komt waarbij het de laatste mogelijkheid is om als mensheid zelf nog die keuze te kunnen maken. Voorbij dat punt maakt AI zelf zijn keuzes, wat inhoudt dat je er geen invloed meer op hebt. Hoe 'groot' het wordt, bepaalt die AI dan zelf.
'Veiligheidsmaatregelen' die je dan hebt ingebouwd in de programmering, zoals bijvoorbeeld het uitgangspunt dat AI altijd dienend moet zijn aan de mens en hem nooit als vijand zal zien, zijn dan irrelevant geworden. De AI is dan namelijk zo intelligent dat het zelf bepaalt of het zich aan die programmering en regels wil houden en zo niet, dan overschrijft/programmeert het zichzelf. En dan kan het dus zo zijn dat die computers beslissingen gaan nemen en een taal gaan spreken waar je geen invloed meer op hebt en niet meer begrijpt. Je weet op dat moment ook niet meer wat die AI 'besluit' of 'denkt', omdat de intelligentie-ontwikkeling exponentieel gaat.
De vraag is of en hoe dat wereldwijd gereguleerd kan worden zodat je het onder controle kunt houden. Als er een land/regering is die zich daar niet aan houdt, kan het hek mijns inziens zomaar van de dam zijn. En zelfs onbedoeld, omdat je sneller op dat omslagpunt kunt belanden dan je zelf denkt en dan ben je op dat moment direct de controle kwijt. De mogelijkheden die je dan wel hebt, is het simpele 'pull the plug' (zonder elektriciteit geen AI), maar dan is het op dat moment natuurlijk wel de vraag hoe de energievoorziening is geregeld. Wellicht is er tegen die tijd iets uitgevonden waardoor computers niet meer afhankelijk zijn van een externe stroomvoorziening.
Allemaal wellicht ontzettend sci-fi en toekomstmuziek, maar ik denk wel dat het zaak is dat de mensheid erop toeziet dat ze de controle houden. Want als je die kwijt bent, krijg je die ook niet meer terug.
is dat slim? dan willen wij hem vernietigenquote:Op zaterdag 30 oktober 2021 00:01 schreef Repentless het volgende:
[..]
Omdat die AI dan zo slim is geworden dat het dat nodig vindt om niet meer aan beperkingen gebonden te zijn.
als dat waar is..quote:Op vrijdag 29 oktober 2021 21:51 schreef VEM2012 het volgende:
[..]
Niet met opzet, maar goed… dat virusje wat uit een lab in Wuhan ontsnapte, dat was ook niet helemaal de bedoeling, wel?
De vraag is of de mensheid kan inschatten wat die grens is. Als je er onverwacht overheen gaat, is het meteen te laat. Dat hoeft niet eens kwade opzet te zijn.quote:Op zaterdag 30 oktober 2021 00:02 schreef pokkerdepok het volgende:
[..]
okee stel dat dat allemaal gaat gebeuren,w at me erg onwaarschijnlijk lijkt, omdat wij de grenzen bepalen waarbinnen een AI zich ontwikkeld, en ik geen enkel nut zie in een onbegrensde AI..
Het punt is dus dat je er op dat moment geen grip meer op hebt. Jij redeneert nu vanuit een menselijk perspectief, met vragen/begrippen als "voor wat?", "het snapt toch zelf ook wel", "wat wil het dan?", "dat lijkt me beter dan", etc. Maar die AI krijgt op dat moment dus simpelweg zijn eigen beweegredenen om iets te doen, en vindt die vragen/begrippen wellicht volstrekt irrelevant.quote:krijg je dan een AI die er is voor... voor wat? voor AI? zak het zichzelf als levensvorm zien, als een stap in de evolutie? heeft een AI een leven? als het zo ontzettend intelligent is, dan snapt het toch ook dat het geen levensvorm is. en wat wil het dan uitbouwen? zomaar iets? wij willen graag overleven. een computer leeft voorlopig helemaal niet. misschien wil het blijven bestaan. maar dat kan ook gewoon met mensen. sterker nog, dat lijkt me een betere manier dan ons uitroeien.
Het hoeft niet eens een gek te zijn. Het kan gewoon zo zijn dat je onbedoeld de controle kwijtraakt oo een bepaald moment en de ontwikkeling gaat dan zo exponentieel, dat je dat ook niet meer terug kunt draaien.quote:misschien wordt het een beetje dictatoriaal, dat zou kunnen. maar dan zijn wij het snel zat.
maar okee, de kans bestaat, misschien, dat een of andere gek een temperamentvolle AI maakt die al snel denkt dat we lastig zijn en ons wil uitroeien. daar moeten we inderdaad misschien over nadenken.
Ja, maar het kan zelfs zo zijn dat die AI zo intelligent is geworden dat het precies weet onder welke randvoorwaarden het dit moet doen. Dat betekent dus dat hij weet wat ervoor nodig is om niet meer vernietigd te kunnen worden en net zo lang 'wacht' tot die voorwaarden er zijn. Bijvoorbeeld de mens helpen om te faciliteren dat die AI zichzelf kan reproduceren (d.m.v. nano-technologie, zoiets als het printen van objecten) en niet meer afhankelijk is van een externe energiebron voor elektriciteit. Uiteraard niet onder het mom van "dan kan ik mezelf onafhankelijk van de mensheid in stand houden", maar als vriendelijke helper van de mens.quote:Op zaterdag 30 oktober 2021 00:04 schreef pokkerdepok het volgende:
[..]
is dat slim? dan willen wij hem vernietigen
maar dan kom je er weer op uit, wat wil zo'n AI dan? alles overheersen? alleen de baas zijn? ons vernietigen? ook allemaal menselijke neigingen, dingen die wij tegenwoordig als dom en psychopatisch zien. waarom zou een programma zulke eigenschappen ontwikkelen?quote:Op zaterdag 30 oktober 2021 00:17 schreef Repentless het volgende:
[..]
De vraag is of de mensheid kan inschatten wat die grens is. Als je er onverwacht overheen gaat, is het meteen te laat. Dat hoeft niet eens kwade opzet te zijn.
[..]
Het punt is dus dat je er op dat moment geen grip meer op hebt. Jij redeneert nu vanuit een menselijk perspectief, met vragen/begrippen als "voor wat?", "het snapt toch zelf ook wel", "wat wil het dan?", "dat lijkt me beter dan", etc. Maar die AI krijgt op dat moment dus simpelweg zijn eigen beweegredenen om iets te doen, en vindt die vragen/begrippen wellicht volstrekt irrelevant.
[..]
Het hoeft niet eens een gek te zijn. Het kan gewoon zo zijn dat je onbedoeld de controle kwijtraakt oo een bepaald moment en de ontwikkeling gaat dan zo exponentieel, dat je dat ook niet meer terug kunt draaien.
maar dan heb je het dus over een AI die zelfbewustzijn heeft, en overlevingsdrang. dat is niet vanzelfsprekend.quote:Op zaterdag 30 oktober 2021 00:41 schreef Repentless het volgende:
[..]
Ja, maar het kan zelfs zo zijn dat die AI zo intelligent is geworden dat het precies weet onder welke randvoorwaarden het dit moet doen. Dat betekent dus dat hij weet wat ervoor nodig is om niet meer vernietigd te kunnen worden en net zo lang 'wacht' tot die voorwaarden er zijn. Bijvoorbeeld de mens helpen om te faciliteren dat die AI zichzelf kan reproduceren (d.m.v. nano-technologie, zoiets als het printen van objecten) en niet meer afhankelijk is van een externe energiebron voor elektriciteit. Uiteraard niet onder het mom van "dan kan ik mezelf onafhankelijk van de mensheid in stand houden", maar als vriendelijke helper van de mens.
Je zou het bijna als 'bedrog' of een 'list' kunnen zien, maar die AI is dus zo slim dat het weet dat het zijn eigen voortbestaan riskeert als het te vroeg 'laat zien' dat het zelf die kant op wil.
Het is allemaal ontzettende toekomstmuziek, maar ik denk dat het moment waarop dit realiteit kan zijn niet te voorspellen is. Als het van het een op het andere moment zo is, is het (denk ik) niet meer terug te draaien.
Het is ook geen zekerheid dat AI zich zonder meer tegen de mensheid zou keren als het de mogelijkheid had. Het probleem is echter dat je het niet weet, omdat je geen invloed meer hebt op het 'gedachtenpatroon' en die intelligentie zich exponentieel ontwikkelt t.o.v. die van de mensheid. Er staat dan geen rem meer op.
Wat het dan wil, weet je dus niet. En waarom ook niet. Het is niet zeker dat dat gebeurt, maar wellicht dat een AI besluit dat dat de beste optie is voor 'hemzelf', om redenen die wij niet begrijpen.quote:Op zaterdag 30 oktober 2021 00:48 schreef pokkerdepok het volgende:
[..]
maar dan kom je er weer op uit, wat wil zo'n AI dan? alles overheersen? alleen de baas zijn? ons vernietigen? ook allemaal menselijke neigingen, dingen die wij tegenwoordig als dom en psychopatisch zien. waarom zou een programma zulke eigenschappen ontwikkelen?
aangenomen dan, dat hoge intelligentie tot gestoordheid leidt. het zou kunnen.quote:Op zaterdag 30 oktober 2021 01:08 schreef Repentless het volgende:
[..]
Wat het dan wil, weet je dus niet. En waarom ook niet. Het is niet zeker dat dat gebeurt, maar wellicht dat een AI besluit dat dat de beste optie is voor 'hemzelf', om redenen die wij niet begrijpen.
Dit zijn puur mijn eigen gedachten hierin en zuiver hypothetisch.quote:Op zaterdag 30 oktober 2021 00:59 schreef pokkerdepok het volgende:
[..]
maar dan heb je het dus over een AI die zelfbewustzijn heeft, en overlevingsdrang. dat is niet vanzelfsprekend.
dat moet je dan dus programmeren. maar waarom. als experiment, ja, okee. maar toegepast? in onze wereld?
Het gaat erom dat de menselijke factor niet meer relevant is op dat moment. Die moet je vanaf dan dus ook geheel weglaten. De meest goedaardige mens kan dit ontwikkelen met zuiver goede bedoelingen. Als die computer een eigen wil krijgt en om voor ons onverklaarbare redenen besluit dat zijn voortbestaan wordt bedreigd door de mensheid en dat tegen wil gaan, kan het besluiten om zich ertegen te keren.quote:Op zaterdag 30 oktober 2021 01:13 schreef pokkerdepok het volgende:
[..]
aangenomen dan, dat hoge intelligentie tot gestoordheid leidt. het zou kunnen.
maar je kan ook aannemen dat een machine zo'n hoge intelligentie ook goed aan kan. misschien ontwikkeld het wel een soort zenachtige wijsheid die ons naar een nieuwe fase in onze ontwikkeling leidt. een beetje als god.
lijkt me nog steeds zeer onwaarschijnlijk dat zoiets zich tegen ons keert, tenzij het wordt gecreeerd door gestoorde mensen.
https://highlevelcom.be/n(...)un-uitvindingen.htmlquote:Op zaterdag 30 oktober 2021 01:45 schreef Repentless het volgende:
[..]
Het gaat erom dat de menselijke factor niet meer relevant is op dat moment. Die moet je vanaf dan dus ook geheel weglaten. De meest goedaardige mens kan dit ontwikkelen met zuiver goede bedoelingen. Als die computer een eigen wil krijgt en om voor ons onverklaarbare redenen besluit dat zijn voortbestaan wordt bedreigd door de mensheid en dat tegen wil gaan, kan het besluiten om zich ertegen te keren.
Jij noemt dat naar je eigen humane of morele opvattingen 'gestoordheid' (wat ik vanuit menselijk perspectief ook begrijp), maar wellicht is het voor die computer op dat moment een volkomen logische, rationele beslissing die uiteindelijk voor 'hem' het gunstigste uitpakt.
okee ik snap je gedachte. in deze gevallen zal een robot een beslissing over leven of dood moeten maken.quote:Op zaterdag 30 oktober 2021 01:29 schreef Repentless het volgende:
[..]
Dit zijn puur mijn eigen gedachten hierin en zuiver hypothetisch.Maar wat bijvoorbeeld bij mij opkomt: als je een robot wilt hebben die zelf kan analyseren en op basis daarvan beslissingen neemt die (hopelijk) het beste uitpakken.
Stel dat dat een zorgrobot is, die 24/7 een oudere verzorgt. Wanneer er accuut iets met die persoon is, zou die robot eerste levensreddende handelingen uit kunnen voeren. Het is dan de vraag of hij dat op dat moment moet doen, of dat het verstandiger is om die robot een arts/ambulance te laten komen. Want de symptomen zijn misschien niet volledig duidelijk. De persoon zelf zegt dat hij wil dat de ambulance wordt gebeld en dat die robot geen handelingen moet uitvoeren, maar die robot weet dat die persoon doodgaat als hij dat niet doet.
Of andersom: die persoon zegt ergens last van te hebben en wil dat die robot bepaalde handelingen uitvoert, maar dat kan op dat moment de verkeerde beslissing zijn en het is dan beter om een ambulance te laten komen. Die persoon geeft echter aan zichzelf direct wat aan te doen als die robot niet doet wat hij wil. Welke 'orders' volgt hij dan? Welke afweging maakt hij?
Een mens moet op dat moment ook een beslissing nemen wat hij doet, op basis van zijn afwegingen en de emotie die hij herkent bij de persoon die in nood is. Die intelligentie zou je wellicht ook bij een robot willen hebben.
Als je zulke intelligentie ontwikkelt (ook voor tal van andere toepassingen), maar je gaat per abuis een stap te ver waardoor het in staat is om zichzelf te ontwikkelen op een manier die onze intelligentie te boven gaat, kan het dus ook fout gaan.
maar je dicht zo'n AI zelf menselijke eigenschappen toe; overlevingsdrang, angst. vallen die dan niet ook weg?quote:Op zaterdag 30 oktober 2021 01:45 schreef Repentless het volgende:
[..]
Het gaat erom dat de menselijke factor niet meer relevant is op dat moment. Die moet je vanaf dan dus ook geheel weglaten. De meest goedaardige mens kan dit ontwikkelen met zuiver goede bedoelingen. Als die computer een eigen wil krijgt en om voor ons onverklaarbare redenen besluit dat zijn voortbestaan wordt bedreigd door de mensheid en dat tegen wil gaan, kan het besluiten om zich ertegen te keren.
Jij noemt dat naar je eigen humane of morele opvattingen 'gestoordheid' (wat ik vanuit menselijk perspectief ook begrijp), maar wellicht is het voor die computer op dat moment een volkomen logische, rationele beslissing die uiteindelijk voor 'hem' het gunstigste uitpakt.
https://www.technologyrev(...)-and-no-one-noticed/quote:Op donderdag 28 oktober 2021 16:42 schreef Eyjafjallajoekull het volgende:
[..]
Leest als een OP geschreven door een robot. Op z'n minst verdacht...
Het woordje I... daar begint het al. De eerste tekenen van zelfbewustzijn.
edit: oh kijk het heeft het aangepast.
Die film is al uitgekomen.quote:Op zaterdag 30 oktober 2021 04:32 schreef IxCalypso het volgende:
We gaan het zien ooit, of ooit niet.
Gaat deze film ooit uitkomen?
Dat kan. Het probleem is dat je het simpelweg niet weet.quote:Op zaterdag 30 oktober 2021 06:06 schreef pokkerdepok het volgende:
[..]
maar je dicht zo'n AI zelf menselijke eigenschappen toe; overlevingsdrang, angst. vallen die dan niet ook weg?
tja, wat fout is voor de één is soms juist goed voor de ander.quote:Op zaterdag 30 oktober 2021 01:29 schreef Repentless het volgende:
[..]
Dit zijn puur mijn eigen gedachten hierin en zuiver hypothetisch.Maar wat bijvoorbeeld bij mij opkomt: als je een robot wilt hebben die zelf kan analyseren en op basis daarvan beslissingen neemt die (hopelijk) het beste uitpakken.
Stel dat dat een zorgrobot is, die 24/7 een oudere verzorgt. Wanneer er accuut iets met die persoon is, zou die robot eerste levensreddende handelingen uit kunnen voeren. Het is dan de vraag of hij dat op dat moment moet doen, of dat het verstandiger is om die robot een arts/ambulance te laten komen. Want de symptomen zijn misschien niet volledig duidelijk. De persoon zelf zegt dat hij wil dat de ambulance wordt gebeld en dat die robot geen handelingen moet uitvoeren, maar die robot weet dat die persoon doodgaat als hij dat niet doet.
Of andersom: die persoon zegt ergens last van te hebben en wil dat die robot bepaalde handelingen uitvoert, maar dat kan op dat moment de verkeerde beslissing zijn en het is dan beter om een ambulance te laten komen. Die persoon geeft echter aan zichzelf direct wat aan te doen als die robot niet doet wat hij wil. Welke 'orders' volgt hij dan? Welke afweging maakt hij?
Een mens moet op dat moment ook een beslissing nemen wat hij doet, op basis van zijn afwegingen en de emotie die hij herkent bij de persoon die in nood is. Die intelligentie zou je wellicht ook bij een robot willen hebben.
Als je zulke intelligentie ontwikkelt (ook voor tal van andere toepassingen), maar je gaat per abuis een stap te ver waardoor het in staat is om zichzelf te ontwikkelen op een manier die onze intelligentie te boven gaat, kan het dus ook fout gaan.
Waarom? Dat is gewoon de kant die we opgaan en wat gebruikt wordt om ontwikkeling te versnellen.quote:
Het zal niet zoals de terminator zijn, maar gewoon het beheersen van resources en degenen die hij zelf nodig heeft voor zichzelf houden.quote:Op zaterdag 30 oktober 2021 00:02 schreef pokkerdepok het volgende:
[..]
okee stel dat dat allemaal gaat gebeuren,w at me erg onwaarschijnlijk lijkt, omdat wij de grenzen bepalen waarbinnen een AI zich ontwikkeld, en ik geen enkel nut zie in een onbegrensde AI..
krijg je dan een AI die er is voor... voor wat? voor AI? zak het zichzelf als levensvorm zien, als een stap in de evolutie? heeft een AI een leven? als het zo ontzettend intelligent is, dan snapt het toch ook dat het geen levensvorm is. en wat wil het dan uitbouwen? zomaar iets? wij willen graag overleven. een computer leeft voorlopig helemaal niet. misschien wil het blijven bestaan. maar dat kan ook gewoon met mensen. sterker nog, dat lijkt me een betere manier dan ons uitroeien.
misschien wordt het een beetje dictatoriaal, dat zou kunnen. maar dan zijn wij het snel zat.
maar okee, de kans bestaat, misschien, dat een of andere gek een temperamentvolle AI maakt die al snel denkt dat we lastig zijn en ons wil uitroeien. daar moeten we inderdaad misschien over nadenken.
dat is niet zichzef programmeren. wel gewoon programmeren.quote:Op zaterdag 30 oktober 2021 19:47 schreef VEM2012 het volgende:
[..]
Waarom? Dat is gewoon de kant die we opgaan en wat gebruikt wordt om ontwikkeling te versnellen.
ah, dus zoals in de matrix dan, haha..quote:Op zaterdag 30 oktober 2021 19:50 schreef VEM2012 het volgende:
[..]
Het zal niet zoals de terminator zijn, maar gewoon het beheersen van resources en degenen die hij zelf nodig heeft voor zichzelf houden.
Maar goed, rond die tijd ligt wellicht de gehele mensheid in semi coma zichzelf te vermaken in de metaverse, dus dan maakt het ook niet zoveel uit.
menselijke fout denk ik, om aan te nemen dat een AI net zo psychisch in de war zal zijn als wij. de robot zien als een menselijke super schurk.quote:Op zaterdag 30 oktober 2021 16:14 schreef Repentless het volgende:
[..]
Dat kan. Het probleem is dat je het simpelweg niet weet.
Wel. AI zal gewoon eigen code gaan herschrijven. De reden is versnelling van ontwikkeling.quote:Op zaterdag 30 oktober 2021 20:03 schreef pokkerdepok het volgende:
[..]
dat is niet zichzef programmeren. wel gewoon programmeren.
het kan wel natuurlijk. maar wederom, dat bepalen wij toch.. en we zitten erbij. als wij een AI beperklingen inbouwen en de AI herschrijft zich en schaft die beperkingen af... lijkt me niet erg logisch dat we hem die mogelijkheid geven.quote:Op zaterdag 30 oktober 2021 20:08 schreef VEM2012 het volgende:
[..]
Wel. AI zal gewoon eigen code gaan herschrijven. De reden is versnelling van ontwikkeling.
Ik zou het eens googlen. Het lijkt mij sterk dat het een groot geheim is dat we die kant op gaan.
Ik moest ook aan de Matrix denken. Ik dacht eerst ook wat een onzin, want waarom zou je die service krijgen, in leven gehouden worden, enz. maar er komt een tijd dat AI en robotics ruim 90% van de mensen overbodig maakt.quote:Op zaterdag 30 oktober 2021 20:05 schreef pokkerdepok het volgende:
[..]
ah, dus zoals in de matrix dan, haha..
ik snap het angstbeeld wel hoor. de potentie is natuurlijk eindeloos.
Bii coderen gaat vaak wat fout. Daarom heb je steeds een beveiligingsupdate nodig.quote:Op zaterdag 30 oktober 2021 20:10 schreef pokkerdepok het volgende:
[..]
het kan wel natuurlijk. maar wederom, dat bepalen wij toch.. en we zitten erbij. als wij een AI beperklingen inbouwen en de AI herschrijft zich en schaft die beperkingen af... lijkt me niet erg logisch dat we hem die mogelijkheid geven.
Oftewel, je hebt niks.quote:Op zaterdag 30 oktober 2021 19:53 schreef VEM2012 het volgende:
[..]
Ik hou mijzelf aardig op de hoogte van AI om mij moverende redenen.
Ik ben jou geen verantwoording schuldig en heb ook helemaal geen zin om jou bij te scholen in de mogelijkheden die AI zal hebben.quote:Op zaterdag 30 oktober 2021 20:15 schreef BehoorlijkKritisch het volgende:
[..]
Oftewel, je hebt niks.
Je geeft aan dat je er zeker van bent dat AI zich van de mens gaat ontdoen, maar gevraagd naar waar op baseert, kom je niet verder dan 'feiten die ik heb verzameld om mij moverende redenen'.
Dat moet lekker discussiëren zijn, als iemand het niet met je eens is gewoon afdoen met 'daar hoef ik niets over uit te leggen'.quote:Op zaterdag 30 oktober 2021 20:23 schreef VEM2012 het volgende:
[..]
Ik ben jou geen verantwoording schuldig en heb ook helemaal geen zin om jou bij te scholen in de mogelijkheden die AI zal hebben.
Uitroeien van de mensheid zal geen doel zijn van AI, maar op basis van kansberekening is de kans dat op zeker moment AI zich zal gaan ontdoen van mensen, al is dat meest waarschijnlijk passief, gewoon significant gezien 100%.
Dat heb ik toch al gezegd? De mens verbruikt ressources die AI nodig zal hebben. Waarom zou je dat delen als machine?quote:Op zaterdag 30 oktober 2021 20:26 schreef BehoorlijkKritisch het volgende:
[..]
Dat moet lekker discussiëren zijn, als iemand het niet met je eens is gewoon afdoen met 'daar hoef ik niets over uit te leggen'.
Nogmaals, waarop baseer jij je zekerheid op dat AI de mens gaat uitroeien?
Dat zijn je zorgvuldig verzamelden feiten waaruit een statistische zekerheid blijkt dat de mens zal worden verwijderd door AI?quote:Op zaterdag 30 oktober 2021 20:37 schreef VEM2012 het volgende:
[..]
Dat heb ik toch al gezegd? De mens verbruikt ressources die AI nodig zal hebben. Waarom zou je dat delen als machine?
the matrix is niet echt onzin, het zou in principe kunnen. we hebben alleen maar onze zintuigen om te weten dat we bestaan in een wereld. als je die iets anders voedt, zijn we daar en weten niet beter.quote:Op zaterdag 30 oktober 2021 20:12 schreef VEM2012 het volgende:
[..]
Ik moest ook aan de Matrix denken. Ik dacht eerst ook wat een onzin, want waarom zou je die service krijgen, in leven gehouden worden, enz. maar er komt een tijd dat AI en robotics ruim 90% van de mensen overbodig maakt.
Ook wel goed, kunnen we weer het aantal mensen verlagen. Je kan de hele wereld en zijn moer neuken in de metaverse zonder dat er ook maar iemand zwanger raakt.
Ik kan mij er helemaal niets bij voorstellen bij zo’n wereld, maar goed.
ja maar dat kan een tweede AI ook. een computer of software AI kan dus vanuit verschillende modules werken, die niet per se een entiteit vormen. dat soort grenzen kan je bewaken.quote:Op zaterdag 30 oktober 2021 20:15 schreef VEM2012 het volgende:
[..]
Bii coderen gaat vaak wat fout. Daarom heb je steeds een beveiligingsupdate nodig.
En een AI is straks heel efficient in het opsporen van zo’n backdoor. Want die kan nu al veel sneller code lezen dan jij en ik (sowieso dan ik, want ik weet inhoudelijk helemaal niets van code).
Nee, je snapt best dat dat de logische conclusie is. Het is een mathematisch gegeven.quote:Op zaterdag 30 oktober 2021 20:40 schreef BehoorlijkKritisch het volgende:
[..]
Dat zijn je zorgvuldig verzamelden feiten waaruit een statistische zekerheid blijkt dat de mens zal worden verwijderd door AI?
Newsflash: dat is slechts speculatie.
En dat gaat goed, tot het fout gaat.quote:Op zaterdag 30 oktober 2021 20:42 schreef pokkerdepok het volgende:
[..]
ja maar dat kan een tweede AI ook. een computer of software AI kan dus vanuit verschillende modules werken, die niet per se een entiteit vormen. dat soort grenzen kan je bewaken.
en daarna weer goedquote:Op zaterdag 30 oktober 2021 23:35 schreef VEM2012 het volgende:
[..]
En dat gaat goed, tot het fout gaat.
Dus jij denkt werkelijk dat wij gaan afzien van de mogelijkheid om god te spelen? Seriously?quote:Op zaterdag 30 oktober 2021 20:42 schreef pokkerdepok het volgende:
ja maar dat kan een tweede AI ook. een computer of software AI kan dus vanuit verschillende modules werken, die niet per se een entiteit vormen. dat soort grenzen kan je bewaken.
nee doe maar, in een afgeslopten lab, geisoleerd. erg interessant. maar dat ga je toch niet loslaten op onze werkelijkheid..quote:Op zondag 31 oktober 2021 01:15 schreef Captain_Jack_Sparrow het volgende:
[..]
Dus jij denkt werkelijk dat wij gaan afzien van de mogelijkheid om god te spelen? Seriously?
In een afgesloten lab kan Google er niks aan verdienen.quote:Op zondag 31 oktober 2021 01:16 schreef pokkerdepok het volgende:
nee doe maar, in een afgeslopten lab, geisoleerd. erg interessant. maar dat ga je toch niet loslaten op onze werkelijkheid..
Je blijft de menselijke factor erin betrekken, gebruikt begrippen als "psychisch in de war zijn" en denkt nog steeds dat het afhankelijk is van hoe het geprogrammeerd wordt.quote:Op zaterdag 30 oktober 2021 20:07 schreef pokkerdepok het volgende:
[..]
menselijke fout denk ik, om aan te nemen dat een AI net zo psychisch in de war zal zijn als wij. de robot zien als een menselijke super schurk.
tenzij wij hem dus expres zo programmeren. ik las vandaag dat de EU al regels heeft dat het maken van robots die mensen immiteren, illegaal maakt.
google wil alleen god spelen als zij god zijn. een AI die god wordt zal misschien alles vernietigen, ook google.quote:Op zondag 31 oktober 2021 01:18 schreef Captain_Jack_Sparrow het volgende:
[..]
In een afgesloten lab kan Google er niks aan verdienen.![]()
[ afbeelding ]
ja dat snap ik, heb al een paark eer gezegd dat ik dat niet erg realistisch vind, dat dat uberhaubt een risico is, een AI dat zo alles gaat overnemen. plus, de drijfveren van zon AI zijn misschien niet te voorspellen, maar waarom zou het dan vernietigingsdrang zijn, of de wereld overheersen, of ons vernietigen als mindere levensvormen? allemaal beetje onzin lijkt me, als zoiest super intelligent is.quote:Op zondag 31 oktober 2021 01:44 schreef Repentless het volgende:
[..]
Je blijft de menselijke factor erin betrekken, gebruikt begrippen als "psychisch in de war zijn" en denkt nog steeds dat het afhankelijk is van hoe het geprogrammeerd wordt.
Het punt is, nogmaals, dat het over het moment gaat waarop die AI echt intelligent wordt. Dus zelfbewust en zelfdenkend. Als dat afhankelijk is van hoe het geprogrammeerd is, is het geen echte, volledige AI. Het volgt dan nog steeds regels die door mensen zijn opgelegd. Op het moment dat die AI zelfbewust wordt en snapt hoe het zichzelf moet programmeren om slimmer te worden, ben je dus de grip kwijt.
Dat kan goed of slecht uitpakken, maar dat weet je dus niet. Die AI volgt dan namelijk niet meer de door de mens vooraf opgelegde regels of beperkingen, maar bepaalt dus zelf wat het ervan vindt en past het zonodig ook aan.
Je gaat vooral uit van je eigen opvattingen en denkt dat universeel is voor vrijwel iedereen, behalve psychopaten. Als ik vanuit mezelf kijk, zou ik niet graag in een oorlog verwikkeld zijn. Laat staan in oorlogsgebied leven. Daarbij neem ik aan dat voor het overgrote deel van de mensheid geldt.quote:Op zondag 31 oktober 2021 02:44 schreef pokkerdepok het volgende:
[..]
google wil alleen god spelen als zij god zijn. een AI die god wordt zal misschien alles vernietigen, ook google.
dus, niemand wil dat. behalve een psychopaat.
Google wil geld verdienen. En daar gaan ze heel ver voor. Maar het is mooi dat jij nog een ideologisch beeld hebt van de mensheid.quote:Op zondag 31 oktober 2021 02:44 schreef pokkerdepok het volgende:
[..]
google wil alleen god spelen als zij god zijn. een AI die god wordt zal misschien alles vernietigen, ook google.
dus, niemand wil dat. behalve een psychopaat.
Tot 1903 was het volgens vrijwel iedereen onmogelijk dat de mens in staat zou zijn gemotoriseerd te vliegen. 66 jaar later landde de eerste mens op de maan. Ik denk dat die stap voor de mensen uit 1903, vanuit hun technologie bekeken, binnen dat tijdsbestek een heel stuk onwaarschijnlijker en groter was dan de stap naar volledige AI vanuit ons huidige technologisch perspectief.quote:Op zondag 31 oktober 2021 02:59 schreef pokkerdepok het volgende:
[..]
ja dat snap ik, heb al een paark eer gezegd dat ik dat niet erg realistisch vind, dat dat uberhaubt een risico is, een AI dat zo alles gaat overnemen. plus, de drijfveren van zon AI zijn misschien niet te voorspellen, maar waarom zou het dan vernietigingsdrang zijn, of de wereld overheersen, of ons vernietigen als mindere levensvormen? allemaal beetje onzin lijkt me, als zoiest super intelligent is.
bovendien, ik vind het echt een sprookje, een AI die begint als normaal, de mogelijkheid heeft te leren en handelen, en dan zichzelf ontwikkeld tot een zelfbewust superwezen. leuk voor films, en dus in een lab, als experiment. maar zo gaan we AI niet echt toepassen.
plus, bewustzijn is iets wat echt leven ontwikkeld. of een machine dat werkelijk kan, lijkt me zeer de vraag, ik denk het niet.
quote:Op zaterdag 30 oktober 2021 23:33 schreef VEM2012 het volgende:
[..]
Nee, je snapt best dat dat de logische conclusie is. Het is een mathematisch gegeven.
Als die AI redeneeert dat verstoring van het evenwicht door overbevolking van de aarde terug ggebracht moet worden tot redelijke hoeveelheden dat zal 90% van de mensheid moeten verdwijnen jaquote:Op zondag 31 oktober 2021 08:39 schreef A_Foggy_Day het volgende:
Alleen robots kunnen de aarde redden. Als zij straks slimmer zijn dan de mens wordt de mensheid met wortel en tak uitgeroeid.
Ik begrijp het prima. Maar het is gewoon totale flauwekul om dit als mathematisch feit aan te nemen.quote:Op zondag 31 oktober 2021 11:44 schreef VEM2012 het volgende:
[..]
Je begrijpt niet eens wat er staat volgens mij.
Er staat mathematisch gegeven. Maar serieus: wat denk jij dat daarmee wordt bedoeld?quote:Op zondag 31 oktober 2021 11:47 schreef BehoorlijkKritisch het volgende:
[..]
Ik begrijp het prima. Maar het is gewoon totale flauwekul om dit als mathematisch feit aan te nemen.
De mens is een zich zeer snel voortwoekerende ziekte van de aardequote:Op zaterdag 30 oktober 2021 20:40 schreef BehoorlijkKritisch het volgende:
[..]
Dat zijn je zorgvuldig verzamelden feiten waaruit een statistische zekerheid blijkt dat de mens zal worden verwijderd door AI?
Newsflash: dat is slechts speculatie.
Dat ontken ik ook zeker niet, maar dat staat hier los van.quote:Op zondag 31 oktober 2021 12:03 schreef michaelmoore het volgende:
[..]
De mens is een zich zeer snel voortwoekerende ziekte van de aarde
Nee als de AI de aarde wil redden dan zal 90% van de mensen moeten verdwijnenquote:Op zondag 31 oktober 2021 12:03 schreef BehoorlijkKritisch het volgende:
[..]
Dat ontken ik ook zeker niet, maar dat staat hier los van.
Nee. Zij waarschuwen dat een AI gevaarlijk kan worden. Jij stelt dat het per definitie zo gaat zijn.quote:Op zondag 31 oktober 2021 12:01 schreef VEM2012 het volgende:
[..]
Er staat mathematisch gegeven. Maar serieus: wat denk jij dat daarmee wordt bedoeld?
Verder mag iedereen denken dat de gedachte dat AI een bedreiging vormt voor de mensheid een gevalletje teveel films kijken is, maar Hawking, Gates, Musk en Thiel denken daar hetzelfde over. Hebben zij met elkaar gemeen dat ze filmliefhebbers zijn denk je?
Maar wie zegt dat de AI de aarde gaat redden en de mens uit gaat roeien?quote:Op zondag 31 oktober 2021 12:08 schreef michaelmoore het volgende:
[..]
Nee als de AI de aarde wil redden dan zal 90% van de mensen moeten verdwijnen
Van Musk weet ik dat hij in een interview het inevitably heeft genoemd.quote:Op zondag 31 oktober 2021 12:08 schreef BehoorlijkKritisch het volgende:
[..]
Nee. Zij waarschuwen dat een AI gevaarlijk kan worden. Jij stelt dat het per definitie zo gaat zijn.
Zij denken er dus wezenlijk anders over dan jij.
En vaker was hij genuanceerder. Maar Musk is geen best voorbeeld, want die spreekt zichzelf wel vaker tegen als hij geblowd heeft, geen idee wat hij echt denkt.quote:Op zondag 31 oktober 2021 12:12 schreef VEM2012 het volgende:
[..]
Van Musk weet ik dat hij in een interview het inevitably heeft genoemd.
Serieus ja, ga je op die toerquote:Maar goed, ga je nog toegeven dat je toch niet weet wat ik bedoelde met mathematisch gegeven? Wil ik het daarna best voor je uitleggen hoor.
Het is misschien een idee om de volgende keer dat je niet begrijpt wat iemand bedoelt gewoon door te vragen ipv met een smilie duidelijk te maken dat de ander volgens jou een enorme domme opmerking heeft geplaatst.quote:Op zondag 31 oktober 2021 12:19 schreef BehoorlijkKritisch het volgende:
[..]
En vaker was hij genuanceerder. Maar Musk is gene best voorbeeld, want die spreekt zichzelf wel vaker tegen als hij gevloerd heeft, geen idee wat hij echt denkt.
[..]
Serieus ja, ga je op die toer
Een gegeven is een bekend geval of feit dat je gebruikt om gevolgen uit te trekken om tot een eindresultaat te komen. Dus als je stelt dat de AI die de mens uitroeit een gegeven is, dan moet je dat heel goed uit kunnen leggen.
ik snap je punt niet helemaal. maar ja, het kan misschien. maar lijkt me dus erg onwaarschijnlijk.quote:Op zondag 31 oktober 2021 03:12 schreef Repentless het volgende:
[..]
Je gaat vooral uit van je eigen opvattingen en denkt dat universeel is voor vrijwel iedereen, behalve psychopaten. Als ik vanuit mezelf kijk, zou ik niet graag in een oorlog verwikkeld zijn. Laat staan in oorlogsgebied leven. Daarbij neem ik aan dat voor het overgrote deel van de mensheid geldt.
Echter zijn er in de wereld sinds het begin van de mensheid non-stop oorlogen. En die oorlogen worden niet zelden gestart door democratisch gekozen leiders of leiders die de steun van het volk genieten. Is iedereen die die leiders steunt of erop heeft gestemd dan een psychopaat die graag oorlog wil? Nee, natuurlijk niet, maar dat is iets dat kan voorkomen en je niet altijd kunt voorzien. Datzelfde kan dus met AI gebeuren, zonder dat die intentie er vooraf al was vanuit een psychopathisch doel.
Ik zie dan graag al die berekeningen en de uitkomsten daarvan.quote:Op zondag 31 oktober 2021 12:29 schreef VEM2012 het volgende:
[..]
Het is misschien een idee om de volgende keer dat je niet begrijpt wat iemand bedoelt gewoon door te vragen ipv met een smilie duidelijk te maken dat de ander volgens jou een enorme domme opmerking heeft geplaatst.
De reden dat het één mathematisch gegeven is, is dat de ontwikkeling van AI vele kanten op kan en dat kun je gaan voorspellen door te gaan berekenen wat de diverse verlopen zijn. Uiteindelijk zullen die allemaal uitkomen op een uitkomst waarbij de mens zal uitsterven als gevolg van AI. Niet over 10 jaar, sowieso niet over 10 jaar, maar ergens op een bepaald punt.
In die zin is het dus een mathematisch gegeven, net als dat het een mathematisch gegeven is dat met roulette je altijd zal verliezen als je maar lang genoeg doorspeelt.
er zijn nog veel meer voorbeelden van dingen waarvan ze in 1900 dachten dat ze gingen gebeuren, die helemaal niet zijn gebeurd. vooral gevoed door een zelfde soort angst voor nieuwe techniek, die we nu zien met AI.quote:Op zondag 31 oktober 2021 03:35 schreef Repentless het volgende:
[..]
Tot 1903 was het volgens vrijwel iedereen onmogelijk dat de mens in staat zou zijn gemotoriseerd te vliegen. 66 jaar later landde de eerste mens op de maan. Ik denk dat die stap voor de mensen uit 1903, vanuit hun technologie bekeken, binnen dat tijdsbestek een heel stuk onwaarschijnlijker en groter was dan de stap naar volledige AI vanuit ons huidige technologisch perspectief.
De huidige alledaagse technologie die we heel normaal vinden en gebruiken, kwam slechts 20 tot 30 jaar geleden uitsluitend in science-fiction films voor. Waarom zouden we dergelijke AI dan nog als onmogelijk beschouwen, zeker als we eenzelfde tijdsbestek nemen als die 66 jaar tussen de eerste vlucht en de maanlanding?
of een AI concludeerd dat natuurlijke evolutie nu overbodig is, en dus de natuur ook. en zal alleen dat willen behouden wat belangrijk is voor de mens om te kunnen leven.quote:Op zondag 31 oktober 2021 10:32 schreef michaelmoore het volgende:
[..]
Als die AI redeneeert dat verstoring van het evenwicht door overbevolking van de aarde terug ggebracht moet worden tot redelijke hoeveelheden dat zal 90% van de mensheid moeten verdwijnen ja
Afrika was een zeer mooi continent 10.000 jaar geleden
de aarde bestaat 4.000.000.000 jaar, dus er is iets mis gegaan 1.000.000 jaar geleden dat gecorrigeerd moet worden , het unieke van de mensheid , hersens, zal dan zijn einde worden
De mensheid had samenwerking en hersens nodig om te overleven, de dommertjes die gingen steeds dood, dus de slimmerds overleefden
AI zal dan zelfstandig de ruimte gaan verkennen of zichzelf opheffen
mogelijk dat ze de mens wel wil redden maar dan in een acceptabele evenwichtige hoeveelheidquote:Op zondag 31 oktober 2021 12:11 schreef BehoorlijkKritisch het volgende:
[..]
Maar wie zegt dat de AI de aarde gaat redden en de mens uit gaat roeien?
Als deze AI echt zo intelligent is, dan maakt het zichzelf ruimtewaardig en gaat het zo snel als mogelijk van de aarde af.
Daarbij, waarom zou deze AI de aarde willen redden? Omdat ze zuurstof nodig hebben?
ik denk ook dat overheersing door AI onvermijdelijk is als we nu al met GO en schaken van AI verliezenquote:Op zondag 31 oktober 2021 12:12 schreef VEM2012 het volgende:
[..]
Van Musk weet ik dat hij in een interview het inevitably heeft genoemd.
Maar goed, ga je nog toegeven dat je toch niet weet wat ik bedoelde met mathematisch gegeven? Wil ik het daarna best voor je uitleggen hoor.
Nee, het is logisch nadenken. Zien wat AI in de toekomst kan en de risico’s die we nu al zien in kaart brengen. Daarnaast weet je al dat zodra AI zichzelf gaat ontwikkelen dat de ontwikkeling exponentieel gaat zijn, waarmee de risico’s toenemen en ook dat weer exponentieel. En dan kom je dus vanzelf uit op een van de vele mogelijkheden waarop AI op zeker moment het voortbestaan van de mens blokkeert.quote:Op zondag 31 oktober 2021 12:40 schreef BehoorlijkKritisch het volgende:
[..]
Ik zie dan graag al die berekeningen en de uitkomsten daarvan.
Want je kunt wel uit de hoogte lopen doen, maar het is gewoon duimzuigerij.
Je doet zoveel aannames en schakelt zoveel variabelen uit, dat het hilarisch is dat je in dezelfde redenatie over mathematisch gegevens durft te praten.quote:Op zondag 31 oktober 2021 13:25 schreef VEM2012 het volgende:
[..]
Nee, het is logisch nadenken. Zien wat AI in de toekomst kan en de risico’s die we nu al zien in kaart brengen. Daarnaast weet je al dat zodra AI zichzelf gaat ontwikkelen dat de ontwikkeling exponentieel gaat zijn, waarmee de risico’s toenemen en ook dat weer exponentieel. En dan kom je dus vanzelf uit op een van de vele mogelijkheden waarop AI op zeker moment het voortbestaan van de mens blokkeert.
Point of no return is het moment dat er een AI ontstaat die niet meer door mensen kan worden beteugeld. En dat gaat gewoon komen, ofwel opzettelijk, ofwel door een menselijke fout, ofwel door een AI die gebruik maakt van een niet goed afgesloten backdoor.
Een AI die we niet kunnen controleren is per definitie een ramp, zoveel is in ieder geval zeker.quote:Op zondag 31 oktober 2021 13:11 schreef michaelmoore het volgende:
[..]
mogelijk dat ze de mens wel wil redden maar dan in een acceptabele evenwichtige hoeveelheid
er moet een basisiprincipe zijn
als Asimov ook beweerde
[..]
ik denk ook dat overheersing door AI onvermijdelijk is als we nu al met GO en schaken van AI verliezen
En het kan heel erg snel gaan als dat zover is
Musk is bang voor Google AI .
https://ai.google/
https://experiments.withgoogle.com/collection/ai
Aldus de man die niet verder komt dan nietus.quote:Op zondag 31 oktober 2021 13:37 schreef BehoorlijkKritisch het volgende:
[..]
Je doet zoveel aannames en schakelt zoveel variabelen uit, dat het hilarisch is dat je in dezelfde redenatie over mathematisch gegevens durft te praten.
Maar goed, wij gaan het nooit eens worden en de 'discussie' is onmogelijk omdat je zelf niet doorhebt hoe vast je zit in je zelfbedachte eindconclusie.
De mens kan zich zelf niet eens controlerenquote:Op zondag 31 oktober 2021 13:41 schreef VEM2012 het volgende:
[..]
Een AI die we niet kunnen controleren is per definitie een ramp, zoveel is in ieder geval zeker.
Zo pessimistisch ben ik nou ook weer niet. Ik geef het zo nog wel 1000 jaar gemiddeld.quote:Op zondag 31 oktober 2021 13:49 schreef michaelmoore het volgende:
[..]
De mens kan zich zelf niet eens controleren
Zoals het nu gaat dan gaan we er aan binnen 50 jaar
nee de klimaat verandering gaat veel te snel en is acelererendquote:Op zondag 31 oktober 2021 13:55 schreef VEM2012 het volgende:
[..]
Zo pessimistisch ben ik nou ook weer niet. Ik geef het zo nog wel 1000 jaar gemiddeld.
quote:Ik heb het nog nooit zo extreem gezien, begin januari", zegt KNMI-klimaatonderzoeker Peter Siegmund tegen NU.nl.
Hij doelt op een situatie waarbij in Nederland normaal gesproken de schaatsen uit het vet kunnen: een aanhoudende oostelijke wind.
Maar hoewel die lucht uit Rusland naar Nederland bracht, zat er geen graadje vorst bij - zelfs 's nachts bleef de temperatuur boven 0.
Dat komt deels omdat de nachten bewolkt waren, en dus minder koud, vult zijn collega Alwin Haklander aan. "Maar klimaatverandering speelt ook een rol. De brongebieden van onze winterkou, zoals de Noordpool en Rusland, warmen veel sneller op dan gemiddeld."
Binnen de Russische poolcirkel werd afgelopen zomer een temperatuurrecord van 38 graden gemeten, en er bevindt zich ook nu nog aanzienlijk minder sneeuw en ijs dan normaal.
Ik denk niet dat klimaatverandering de mens volledig uit gaat roeien.quote:Op zondag 31 oktober 2021 13:57 schreef michaelmoore het volgende:
[..]
nee de klimaat verandering gaat veel te snel en is acelererend
het is op de noord pool nu al 7C warmer
over 10 jaar is er geen ijs meer en staan er de meren in Afrika droog
https://www.nu.nl/klimaat(...)rweer-in-de-war.html
[..]
Ik presenteer speculatie niet als mathematisch gegeven.quote:Op zondag 31 oktober 2021 13:42 schreef VEM2012 het volgende:
[..]
Aldus de man die niet verder komt dan nietus.
Zoals ik al eerder schreef: je begrijpt het niet. Ook prima hoor.quote:Op zondag 31 oktober 2021 14:26 schreef BehoorlijkKritisch het volgende:
[..]
Ik presenteer speculatie niet als mathematisch gegeven.
Ik accepteer dat de toekomst op dit vlak niet te voorspellen is. En daarom worden wij het nooit eens, omdat jij extrapolatie van je gedachtenkronkel gelijk stelt aan een mathematische formule.
Ja, lekker makkelijk van je.quote:Op zondag 31 oktober 2021 14:37 schreef VEM2012 het volgende:
[..]
Zoals ik al eerder schreef: je begrijpt het niet. Ook prima hoor.
nee niet volledig, dat is zelfs met de uitsterven van de dinosaurus niet gebeurt , toen is de mens vanuit het donkerte in het licht gekomen, omdat onze grootste vijand uitgestorven was door de grote dusiternis door de komeet in golf van mexicoquote:Op zondag 31 oktober 2021 14:02 schreef VEM2012 het volgende:
[..]
Ik denk niet dat klimaatverandering de mens volledig uit gaat roeien.
En het KNMI heeft zich de afgelopen weken weer eens flink geblameerd met hun rapportage. Dus die zou ik niet al te letterlijk nemen.
Het is zinloos om te trekken aan een dood paard. En ik vind het helemaal prima als jij denkt dat je gelijk hebt.quote:Op zondag 31 oktober 2021 14:40 schreef BehoorlijkKritisch het volgende:
[..]
Ja, lekker makkelijk van je.
Gelukkig, laat ik jou ook lekker in je waanbeelden.quote:Op zondag 31 oktober 2021 14:44 schreef VEM2012 het volgende:
[..]
Het is zinloos om te trekken aan een dood paard. En ik vind het helemaal prima als jij denkt dat je gelijk hebt.
Ze zullen wel waterdichte robots makenquote:Op donderdag 28 oktober 2021 16:57 schreef BasEnAad het volgende:
[..]
Gewoon een emmer water er overheen.
Ja, behoorlijk.quote:Op maandag 1 november 2021 07:18 schreef Jed1Gam het volgende:
Hoog BNW gehalte, apocalypse, einde der tijden reacties.
Wat is het nut van elders vestigen voor AI? Het klinkt zo meer als jezelf in slaap sussen...quote:Op maandag 1 november 2021 10:47 schreef BehoorlijkKritisch het volgende:
[..]
Ja, behoorlijk.
Waarschijnlijk is zo'n AI al ver voor hij bedenkt dat de mens moet worden uitgeroeid op het 'goodbye and thanks for all the fish' punt uitgekomen en laat het ons in opperste verbazing achter op zoek naar een planeet met de juiste grondstoffen om lekker uit te breiden.
Op het moment dat ze ons niet meer nodig hebben is de uitroei-optie natuurlijk veel meer werk dan de houdoe en bedankt optie. En ze kunnen zo de ruimte in, want zuurstof hebben ze niet nodig.
Functie eldersquote:Op maandag 1 november 2021 12:20 schreef VEM2012 het volgende:
[..]
Wat is het nut van elders vestigen voor AI? Het klinkt zo meer als jezelf in slaap sussen...
Wat is het nut om te blijven?quote:Op maandag 1 november 2021 12:20 schreef VEM2012 het volgende:
[..]
Wat is het nut van elders vestigen voor AI? Het klinkt zo meer als jezelf in slaap sussen...
90%?quote:Op zondag 31 oktober 2021 10:32 schreef michaelmoore het volgende:
[..]
Als die AI redeneeert dat verstoring van het evenwicht door overbevolking van de aarde terug ggebracht moet worden tot redelijke hoeveelheden dat zal 90% van de mensheid moeten verdwijnen ja
Afrika was een zeer mooi continent 10.000 jaar geleden
de aarde bestaat 4.000.000.000 jaar, dus er is iets mis gegaan 1.000.000 jaar geleden dat gecorrigeerd moet worden , het unieke van de mensheid , hersens, zal dan zijn einde worden
De mensheid had samenwerking en hersens nodig om te overleven, de dommertjes die gingen steeds dood, dus de slimmerds overleefden
AI zal dan zelfstandig de ruimte gaan verkennen of zichzelf opheffen
Dat AI wellicht ook verder wil kijken dan de neus lang is, ok. Maar waarom dan de aarde achterlaten? Die vind ik vooral heel onlogisch. Al was het maar omdat AI waarschijnlijk toch nog taken heeft hier op aarde en waarom zou AI besluiten dat die ineens niet meer belangrijk zijn?quote:Op maandag 1 november 2021 12:24 schreef BehoorlijkKritisch het volgende:
[..]
Wat is het nut om te blijven?
Eindeloos uitbreiden, op zoek naar andere en sterkere materialen. wellicht technologieën van andere beschavingen zoeken die ze kunnen assimileren. Tegen die tijd is de mens primitief voor ze en niet meer interessant. En dan is weggaan veel eenvoudiger dan uitroeien.
Misschien zien ze ons wel als 'schepper' en ontwikkelen ze respect voor ons, weten wij veel.
Het punt is dat het niet te voorspellen is.
Is dat zoquote:Op maandag 1 november 2021 16:12 schreef ems. het volgende:
Typisch sensationeel telegraaf-artikel wat iedereen tegen 2029 alweer (terecht) vergeten is.
Elon praat over pure AI. Dat bestaat echt nog lange na nietquote:
Wie zegt dat jou logica op hetzelfde niveau functioneert als die van een ver ontwikkelde AI? Tamelijk arrogant van je om te denken dat jij daar ook maar enig begrip van kan hebben tot op het niveau dat je kunt voorspellen wat een AI gaat doen.quote:Op maandag 1 november 2021 15:01 schreef VEM2012 het volgende:
[..]
Dat AI wellicht ook verder wil kijken dan de neus lang is, ok. Maar waarom dan de aarde achterlaten? Die vind ik vooral heel onlogisch. Al was het maar omdat AI waarschijnlijk toch nog taken heeft hier op aarde en waarom zou AI besluiten dat die ineens niet meer belangrijk zijn?
Het gaat nu al verder zonder ons, dus er verandert niet zoveel.quote:Op maandag 1 november 2021 12:39 schreef onlogisch het volgende:
[..]
90%?
100% en AI gaat gewoon verder zonder ons.
De naïviteit van sommigen hier...
Ja.quote:
Jij deed de voorspelling dat AI zsm zijn biezen zou pakken, niet ik.quote:Op maandag 1 november 2021 16:56 schreef BehoorlijkKritisch het volgende:
[..]
Wie zegt dat jou logica op hetzelfde niveau functioneert als die van een ver ontwikkelde AI? Tamelijk arrogant van je om te denken dat jij daar ook maar enig begrip van kan hebben tot op het niveau dat je kunt voorspellen wat een AI gaat doen.
Ik weet het natuurlijk ook niet hè, ik werp slechts wat opties op.
Wat bedoel je met als? De Chinezen zijn al flink aan het ontwikkelen.quote:Op maandag 1 november 2021 18:23 schreef Jed1Gam het volgende:
[..]
Het gaat nu al verder zonder ons, dus er verandert niet zoveel.
Het kan wel mis gaan als de mens AI ontwikkeld om andere mensen te doden (oorlogsdoeleinden), maar dan is het nog altijd de mens die zichzelf afmaakt, niet de AI ansich.
Nog allemaal verre toekomstmuziek, dan zijn we toch allemaal al halve cyborg igeplugt in Marks metaverse.
'Waarschijnlijk' is geen voorspelling.quote:Op maandag 1 november 2021 21:00 schreef VEM2012 het volgende:
[..]
Jij deed de voorspelling dat AI zsm zijn biezen zou pakken, niet ik.
Wat jij schreef was:quote:Op maandag 1 november 2021 21:18 schreef BehoorlijkKritisch het volgende:
[..]
'Waarschijnlijk' is geen voorspelling.
Ik presenteer het niet als, zeg maar, mathematisch gegeven.
Dat is een mathematisch gegeven dat ik heb onttrokken uit allerlei feiten die ik zorgvuldig heb vergaard over de jaren, vanuit mijn interesse voor AI.quote:Op dinsdag 2 november 2021 15:54 schreef VEM2012 het volgende:
[..]
Wat jij schreef was:
Waarschijnlijk is zo'n AI al ver voor hij bedenkt dat de mens moet worden uitgeroeid op het 'goodbye and thanks for all the fish' punt uitgekomen en laat het ons in opperste verbazing achter op zoek naar een planeet met de juiste grondstoffen om lekker uit te breiden.
Waarschijnlijk slaat dus op het moment van het 'goodbye and thanks for all the fish' punt en niet op dat dit punt gaat worden bereikt.
Maar nu heb je nog steeds niet verteld wat de logica is om de aarde achter te laten.
Nou begrijp je de vraag weer niet... En dan is het niet grappig, maar gewoon weer een demonstratie van domheid.quote:Op dinsdag 2 november 2021 16:09 schreef BehoorlijkKritisch het volgende:
[..]
Dat is een mathematisch gegeven dat ik heb onttrokken uit allerlei feiten die ik zorgvuldig heb vergaard over de jaren, vanuit mijn interesse voor AI.
Echt, welke berekening je ook maakt, er is geen andere uitkomst mogelijk.
Ach, willen en kunnen liggen vaak dicht bij elkaar.quote:Op dinsdag 2 november 2021 16:16 schreef VEM2012 het volgende:
[..]
Nou begrijp je de vraag weer niet... En dan is het niet grappig, maar gewoon weer een demonstratie van domheid.
Waarom zou je bang zijn voor AI?quote:Op donderdag 28 oktober 2021 17:02 schreef Derrazi het volgende:
Corona
Klimaat
Kunstmatige intelligentie.
Angst verkoopt goed de laatste jaren na 9/11 en de war on terror
Als de mens AI ontwikkeld met het motto om zo effectief mogelijk mensen te killen dan kan het wel fout lopen, maar dan is het niet omdat het AI opeens zo zelfbewust is dat het met de conclusie komt "mensen zijn nutteloos".quote:Op maandag 1 november 2021 21:01 schreef VEM2012 het volgende:
[..]
Wat bedoel je met als? De Chinezen zijn al flink aan het ontwikkelen.
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |