abonnement bol.com Unibet Coolblue
pi_178737772
24-04-2018

Vergroot kunstmatige intelligentie de kans op een kernoorlog?

Sommige deskundigen vrezen van wel.

Dat blijkt uit een nieuw rapport van het RAND Center for Global Risk and Security. Het rapport is gebaseerd op een serie workshops waarbij wetenschappers, beleidsmakers en andere deskundigen zich bogen over de vraag: ‘Hoe kan kunstmatige intelligentie tegen 2040 van invloed zijn op de kans op een kernoorlog?’.

Misschien denk je in eerste instantie dat kernwapens en KI weinig met elkaar te maken hebben. Maar dat is niet zo. “De connectie tussen kernoorlog en kunstmatige intelligentie is niet nieuw, sterker nog: de histories van de twee zijn met elkaar verweven,” vertelt onderzoeker Edward Geist. Hij vertelt dat KI in een pril stadium ontwikkeld werd omwille van militaire doeleinden. Een mooi voorbeeld daarvan is een experiment uit de jaren tachtig, waarbij KI werd ingezet om op basis van data die tijdens verkennende missies waren verzameld verschillende plaatsen aan te wijzen die tijdens een eventuele kernoorlog konden worden aangevallen.

Mutual Assured Destruction
Uit de workshops blijkt dat het eigenlijk twee kanten op gaan. Sommige onderzoekers denken bijvoorbeeld dat kunstmatige intelligentie een bedreiging vormt voor de nucleaire stabiliteit. Die stabiliteit is op dit moment gebaseerd op de militaire strategie MAD (Mutual Assured Destruction, oftewel gegarandeerde wederzijdse vernietiging). Deze strategie stelt dat landen met kernwapens deze niet tegen elkaar zullen inzetten, omdat het niet alleen resulteert in de vernietiging van het aangevallen land, maar ook in de vernietiging van de aanvaller (aangezien het aangevallen land ongetwijfeld met kernwapens terugslaat). Volgens sommige onderzoekers zou kunstmatige intelligentie deze militaire strategie de komende decennia kunnen ondermijnen. En wel doordat kunstmatige intelligentie in staat is om de wapensystemen van de tegenstander nauwkeuriger dan ooit te lokaliseren en aan te vallen. In zo’n scenario kan de aanvaller die wapensystemen uitschakelen, waarna het aangevallen land niet meer terug kan slaan, MAD dus geen rol meer speelt en het gemakkelijker wordt om naar de kernwapens te grijpen.

Wapenwedloop
En zelfs als landen niet de intentie hebben om de kernwapensystemen van andere landen uit te schakelen, kan de gedachte dat zij daar dankzij KI wel toe in staat zijn, al voldoende zijn om tot een kernoorlog of in ieder geval een wapenwedloop te leiden. Stel je voor dat land A laat doorschemeren dat het precies weet waar de kernwapens van land B liggen. Dan zal land B zich kwetsbaar voelen; in zekere zin zijn haar kernwapens – die toch vooral moeten afschrikken – nutteloos geworden, omdat land A ze elk moment weg kan nemen. Land B zal dan ook op zoek gaan naar nieuwe manieren om zich tegen land A te beschermen en die Mutual Assured Destruction-strategie in ere te herstellen.

Stabiliserende werking
Andere onderzoekers stellen dat KI de wereld echter ook veiliger kan maken. Bijvoorbeeld doordat de systemen beter in staat zijn om tegenstanders te monitoren en hun verrichtingen te interpreteren. Dat zou de kans op onterechte escalatie verkleinen. Ook is het mogelijk dat toekomstige kunstmatige intelligente systemen minder foutgevoelig zijn dan wij mensen, met onze eigen belangen en emoties. In die zin zouden de systemen op lange termijn dus ook stabiliserend kunnen werken.

Of dat in 2040 echter al gaat gebeuren? Daar zijn de meeste deskundigen niet van overtuigd. Zij stellen dat de technologie tegen die tijd waarschijnlijk nog niet is uitgekristalliseerd. Zo kan deze pas in combinatie met kernwapens worden ingezet als deze onmogelijk te hacken is. En zover zijn we nog niet. Het is dan ook te hopen dat kernwapenlanden – in een poging anderen te slim af te zijn en als eersten de vruchten van KI te plukken – niet vroegtijding naar de kunstmatig intelligente systemen grijpen, aldus de deskundigen.

(scientias.nl)
Death Makes Angels of us all
And gives us wings where we had shoulders
Smooth as raven' s claws...
pi_178989657
03-05-2018

Telemanipulatie van meerdere robots



Onderzoeker Jeroen van Oosterhout ontwikkelde een systeem met haptische ondersteuning waarmee het tegelijk aansturen van twee robots beter is uit te voeren. Eerder deze week promoveerde hij op dit onderwerp aan de TU Delft

‘Normaal gesproken voeren we onderhoud en reparatie direct met de hand uit. Maar in sommige gevallen kan dit niet omdat de plaats in kwestie bijvoorbeeld diep in de zee ligt (voor oliewinning) of nucleair verontreinigd is (bijvoorbeeld bij een toekomstige kernfusie-centrale). Dan gebruiken we tele-manipulatie. Hierin bedient een operator een speciale masterrobot om een slave robot in de taakomgeving te bewegen. Maar de slave robot kan niet zomaar elk gewicht verplaatsen. Te zware onderdelen tillen we met een hijskraan; maar dit vereist voor nauwkeurig plaatsing nog steeds de slave robot. We hebben het dan over coöperatie met twee asymmetrische slaves’, zegt Jeroen van Oosterhout.

Kernfusie
Operators van dit soort systemen moeten door een strenge selectie en trainingen. ‘Desondanks kost het werken met deze twee systemen tot wel 23 keer langer dan direct met de hand. Dat moet verbeterd worden. Het succes van toekomstige kernfusie-centrales hangt bijvoorbeeld grotendeels af van de operationele tijd van die centrales. Een bepalende factor hierin is het onderhoud van die centrales, dat via tele-manipulatie moet worden uitgevoerd. Dit onderhoud is complex. Daarom onderzocht ik de impact van interface-ontwerpkeuzes en haptische ondersteuning (de operator voelt dan een sturende kracht) om de coördinatie tussen twee asymmetrische slaves te verbeteren en daarmee tijdwinst te boeken.’

Varianten
Voor de interface tussen de operator en de slaves bestaan veel oplossingen, maar slechts twee hoofdvarianten: twee coöpererende operators, of één individuele operator. Van haptische ondersteuning is bekend dat dit een individuele operator effectief kan ondersteunen via krachten op de interface. Maar om de informatie te coördineren tussen de twee slaves, moest van Oosterhout een nieuwe haptic assistance controller ontwerpen. Dit nieuwe haptische ondersteuningssysteem helpt operators met de coördinatie over twee asymmetrische telerobots door de interfaces haptisch te koppelen via de taakdefinitie.

Opmerkelijk
De nieuwe haptic assistance blijkt de taakprestatie aanzienlijk te verbeteren, zowel bij twee coöpererende operators als bij één. ‘En opmerkelijk genoeg presteren twee operators zonder ondersteuning aanzienlijk beter dan één operator, maar verdwijnt dit verschil wanneer beide gevallen haptisch ondersteund worden. De haptische ondersteuning stelt één operator dus in staat om de asymmetrische interactieve subtaken net zo goed uit te voeren als de twee operators samen.’

Bron: TU Delft

(visionenrobotics.nl)
Death Makes Angels of us all
And gives us wings where we had shoulders
Smooth as raven' s claws...
pi_179125522
11-05-2018

’Robots zijn stap in menselijke evolutie’

— De Japanse hoogleraar Hiroshi Ishiguro werd beroemd met spectaculaire robots die hij tot op de porie nauwkeurig naar zichzelf heeft gemodelleerd. „Hoe menselijker de robot, hoe makkelijker we ermee communiceren”, vindt hij.

De Japanse hoogleraar Hiroshi Ishiguro werd beroemd met spectaculaire robots die hij tot op de porie nauwkeurig naar zichzelf heeft gemodelleerd. „Hoe menselijker de robot, hoe makkelijker we ermee communiceren”, vindt hij.



Ⓒ FOTO Wim Kooijman

De grap wordt veel gemaakt en Ishiguro gaat hem zelf ook niet uit de weg: Hoe weet de interviewer dat zijn gesprekspartner de echte professor is en niet een van de exact op hem gelijkende humanoïde robots die hij heeft gemaakt? „Weet je zeker dat ik dit ben?”, vraagt de hoogleraar als hij de kwestie opwerpt wat het uitmaakt of je te maken hebt met een soortgenoot of met een robot.

De net als zijn mechanische dubbelgangers altijd in het zwart geklede hoogleraar baart al meer dan tien jaar opzien met de robots waarmee hij zichzelf heeft gekopieerd. Ishiguro gebruikt ze voor onderzoek naar hoe mensen reageren op apparaten die veel op een soortgenoot lijken, maar dat niet zijn. De eerste werden nog volledig op afstand bestuurd en ingesproken door een mens, terwijl nieuwere steeds meer zelf kunnen.

Tijdens een presentatie op And&-festival van de Universiteit van Leuven liet Ishiguro vorige week zien hoe zijn intelligente vrouwelijke robot Erica er als persoonlijkheid nog een schepje bovenop deed. Het publiek zag haar boos worden op een student die aangaf liever les te krijgen van een mens, terwijl volgens Erica toch echt wetenschappelijk was aangetoond dat robots betere docenten zijn.

Het maakte de robot - volgens Ishiguro de mooiste ter wereld - meteen een stuk interessanter dan de brave ja-knikkers en uw-wens-is-mijn-bevel-types die uit de meeste robotfabrieken komen.

Door de emotionele reactie wordt Erica menselijker en sympathieker.

„Erica wordt boos om op die manier haar gewenste doel te bereiken. In die drang bevindt zich de oorsprong van emotie. Ik denk dat de volgende stap in de ontwikkeling van robots zal zijn dat ze niet alleen meer op mensen gaan lijken in uiterlijke zin, maar ook dat ze zijn voorzien van verlangens en bepaalde intenties. Daarnaast zal er gebouwd worden aan een enorme database die gebruikt kan worden om de conversatievaardigheden sterk te verbeteren.”

Is het ook belangrijk dat Erica eruitziet als een mooie vrouw?

„Ik wilde een populaire robot maken en een ander voordeel is dat één van de eigenschappen van een mooi gezicht is dat gezichtsuitdrukkingen er heel duidelijk op af te lezen zijn. Daar zijn maar hele kleine bewegingen voor nodig.”

Wat is de gedachte achter uw onderzoek met zeer realistische robots?

„Ik ben geïnteresseerd in mensen. Mijn onderzoek richt zich op de interactie tussen mensen met robots die een zeer sterke gelijkenis met mensen vertonen. We weten dat onze hersenen heel sterk zijn afgestemd op het omgaan met en herkennen van mensen. Door dit te bestuderen, kunnen we nieuwe manieren vinden om de interactie tussen mensen en robots te verbeteren.”

Waarom zouden we robots willen die op mensen lijken?

„Om bijvoorbeeld in Japan de gevolgen te ondervangen van de vergrijzing, zal het in de toekomst belangrijk zijn dat mensen met robots in een goede verstandhouding leven. Omdat ons brein zo op menselijke gezichten is gericht, wordt het natuurlijker en makkelijker om met ze om te gaan als robots op mensen lijken. Dat is het belangrijkste wetenschappelijk doel van mijn werk.”

Hebben uw realistisch uitziende robots ook praktisch nut?

„Ik gebruik mijn robot zelf om college te geven als ik niet aanwezig kan zijn. Daarnaast kun je ze inzetten als receptionist, nieuwslezer of televisiepresentator. Robots met een menselijk voorkomen zijn vooral nuttig in situaties waarin sprake is van kortstondige interactie. Voor de langere gesprekken werkt een mechanisch uitziende robot beter.”

Denkt u dat we al snel omringd zullen zijn door menselijk aandoende robots?

„Nee, want die zijn erg duur om te maken. In Japan staat in veel huishoudens een slimme speaker als Alexa of Google Home. De volgende versie van Alexa is al uitgerust met een scherm en ik verwacht dat de generatie daarna als eerste menselijke vormen gaat krijgen. Mensen vinden het niet leuk om te praten tegen een doos. Ze willen tegen een mens praten.”

Robots die uiteindelijk meer op ons gaan lijken, eigen intenties en verlangens gaan koesteren en misschien in de toekomst wel slimmer worden dan wij: is dat wenselijk?

„We moeten wel voorzichtig zijn en veiligheidsmaatregelen inbouwen, zodat wij ze altijd met een druk op de knop weer kunnen uitzetten. Ik zie de ontwikkeling van robots als een deel van de mensheid. Het gebruik van technologie is wat ons onderscheidt van apen. Het is een stap in de evolutie. Niet veranderingen in de genen, maar het kunnen toepassen van technologie zorgt ervoor dat we naar de maan kunnen.”

Lopen we niet het gevaar dat we zelf overbodig worden en dat gevoelens die we ontwikkelen voor die steeds sympathiekere robots ten koste gaan van de emotionele band met onze medemensen?

„Ik denk juist dat het nodig is dat we een goede band ontwikkelen met robots. Ik zie niet in waarom we anders moeten omgaan met robots dan met mensen, als we uiteindelijk dezelfde gevoelens voor ze kunnen ontwikkelen. Waarom zou er verschil moeten bestaan tussen mensen en robots? Dat begrijp ik niet.”

Vindt u dat robots dan net als mensen ook rechten moeten krijgen?

„Ik zie niet in waarom niet. Als we een goede verstandhouding willen met robots, dan zullen we ze ook rechten moeten geven. Maar dat is niet aan wetenschappers en ingenieurs zoals ik, maar aan de samenleving. Die moet bepalen of ook robots daarin worden opgenomen.”

Wanneer gaat dat spelen? In Saudi-Arabië heeft de eerste robot al een burgerschap gekregen.

„Dat was meer een grap. Maar ik denk dat het nog veel te vroeg is, omdat de technologie nog sterk moet verbeteren, zeker als het gaat om algemene intelligentie, voordat ze op het niveau van een mens komen. ”

(telegraaf.nl)
Death Makes Angels of us all
And gives us wings where we had shoulders
Smooth as raven' s claws...
pi_179722330
10-06-2018

Dit is ‘Norman’: de eerste artificieel intelligente psychopaat


 © rv

Wetenschap Amerikaanse wetenschappers aan het Massachusetts Institute of Technology hebben de eerste “psychopathische artificiële intelligentie” gecreëerd. De bot kreeg de toepasselijke naam ‘Norman’ naar Norman Bates, de seriemoordenaar in de thriller Psycho. Norman bewijst hoe belangrijk de data is waarmee het algoritme gevoed wordt. Hij dankt zijn psychopathische karakter immers puur aan de gruwelijke beelden die hij te zien kreeg.

De MIT-onderzoekers trainden Norman in het genereren van tekstbeschrijvingen voor beelden. Hij kreeg echter enkel gewelddadige foto’s over de dood te zien die gepost werden “in de donkerste uithoeken van Reddit”, een populaire sociale nieuwswebsite waar gebruikers berichten uitwisselen.

De wetenschappers onderzochten vervolgens hoe Norman reageerde op inktvlekken die gebruikt worden in psychologische Rorschachtests en vergeleken zijn reacties met die van een ander algoritme dat een standaardtraining had gekregen. Dat laatste herkende bijvoorbeeld bloemen en bruidstaarten in de prenten. Norman zag echter onder andere het beeld van een doodgeschoten man en van een man die stierf nadat hij werd aangereden.



 © rv - In dit beeld ziet Norman een man die vermoord werd door een snelheidsduivel. De gewone artificiële intelligentie zag een close-up van een bruidstaart op de tafel.

“Norman heeft alleen maar afschuwelijke bijschriften van foto’s geobserveerd, dus hij ziet dood in elk beeld waarnaar hij kijkt”, vertelden de MIT-onderzoekers aan CNN. Met hun onderzoek willen ze aantonen dat AI-algoritmes niet van nature bevooroordeeld zijn, maar dat hun bedrag opmerkelijk kan beïnvloed worden door de manier waarop ze de data binnenkrijgen en door de mensen die hen de data aanreiken.

“Norman is een studie naar de gevaren van artificiële intelligentie die de verkeerde kant uitgaat wanneer partijdige informatie gebruikt wordt in de algoritmen voor zelflerende systemen”, zegt MIT.

Het onderzoeksteam denkt echter dat Norman zijn manier van denken zal kunnen bijsturen door te leren uit menselijke feedback. Mensen kunnen immers dezelfde Rorschachtest afleggen en hun antwoorden toevoegen aan de datapool.

(HLN)
Death Makes Angels of us all
And gives us wings where we had shoulders
Smooth as raven' s claws...
  vrijdag 27 juli 2018 @ 00:00:48 #105
167383 Molurus
ex-FOK!ker
pi_180757358
Het perfecte biertje. :)

Niet meer aanwezig in dit forum.
abonnement bol.com Unibet Coolblue
Forum Opties
Forumhop:
Hop naar:
(afkorting, bv 'KLB')