Robots in 2029 slimmer dan de mens

quote:

Op maandag 1 november 2021 21:01 schreef VEM2012 het volgende:

[..]
Wat bedoel je met als? De Chinezen zijn al flink aan het ontwikkelen.

Als de mens AI ontwikkeld met het motto om zo effectief mogelijk mensen te killen dan kan het wel fout lopen, maar dan is het niet omdat het AI opeens zo zelfbewust is dat het met de conclusie komt "mensen zijn nutteloos".

Het blijft dan toch een veredeld programma dat zijn taak tot perfectie uitvoert, zodoende is het de mens die zichzelf uitroeid. Zie het als een heel effectieve kernbom.

Als een AI echt slimmer is dan een mens, dan zouden ze die dierlijke instincten (elkaar zo nodig afmaken juist niet hebben), want het levert niks op. De mens maakt elkaar af, de natuur en alle dieren. Niet omdat het nou zo slim is om de hele planeet naar de klote te helpen, maar gierigheid, lust en ego die hier tot drijven.

De crux is de balans tussen een systeem wat zichzelf aan kan passen (wat nodig is voor ontwikkeling, leren, evolutie etc) waarin wel ‘respect’ voor (menselijk) leven dusdanig grondig verankerd is dat de autonome aanpassingen deze ‘regel’ niet overboord gooien.

Asimov’s 3 wetten klinken leuk, maar zijn ten eerste lastig te vatten in een structuur die voor een stuk software echt betekent wat wij ermee bedoelen, en zelfs binnen onze interpretatie zijn ze niet ideaal.

Hebben echt nog een eind te gaan.