Bron: HLN.bequote:Spannend maar tegelijk angstaanjagend: zo omschrijven experts een project rond artificiële intelligentie dat Facebook stillegde nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrepen. Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden.
Alice en Bob moesten Engels spreken terwijl ze leerden om onder meer hoeden, boeken en ballen te verkopen. Die hadden allemaal een verschillende waarde, waardoor ook onderhandeld moest worden. Toen ze de vrije hand kregen om de algoritmes op basis waarvan ze spraken beter en efficiënter te maken, begonnen ze vreemde codewoorden en herhalingen te gebruiken. Dat ging bijvoorbeeld zo:
Bob: ik kan ik ik alle andere dingen ...
Alice: ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.
Bob: jij ik alle andere dingen ...
Alice: ballen hebben een bal voor mij voor mij voor mij voor mij voor mij voor mij voor mij
En er was meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten ook dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.
Potentieel gevaarlijk
Toen ze doorkregen wat er aan de hand was, legden de onderzoekers het experiment stil. "Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", volgens professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk. "We hebben er geen flauw idee van wat deze robots tegen elkaar zeggen. Eenmaal je robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."
Stephen Hawking
"Dit is het eerste gedocumenteerde geval van een dergelijke communicatie, maar er zullen er zeker nog al geweest zijn", gaat hij verder. "Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier waarop we dat zeker weten. Ook Stephen Hawking en Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."
Het doet een beetje denken aan de filmreeks Terminator met Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. "Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. "Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden technisch gezien niet minuut na minuut gemonitord. Artificiële intelligentie kan een moeilijkheidsgraad aan die jij en ik niet eens zouden kunnen vatten als we ons best deden."
Google Translate
Volgens Facebook zelf werd het experiment stilgelegd omdat het "niet tot het resultaat leidde dat we wilden". Het sociale netwerk wijst er ook op dat er in andere techbedrijven soortgelijke dingen gebeuren. Zo ontdekten wetenschappers van Google Translate vorig jaar dat hun dienst ook een eigen taal had ontwikkeld.
Fascinerend, ik had ze laten doorpraten, kijken hoever ze waren gegaan.
Eigen taal. Wat een nonsens.
quote:Op dinsdag 1 augustus 2017 12:06 schreef asco het volgende:
Gek dat ze dat niet fatsoenlijk onder de knie krijgen.
Maar ik zou dat AI in gesloten omgeving houden en op kijken hoe ze zijn taal ontwikkelen. Wellicht bied een uitkomst voor de taalonderzoekers.
Mocht we ooit tegen buitenaardse wezen tegenkomt, hoe communiceren we met hen?
Waarschijnlijk met kogelsquote:
...
Mocht we ooit tegen buitenaardse wezen tegenkomt, hoe communiceren we met hen?
Dit.quote:Op dinsdag 1 augustus 2017 12:06 schreef SpecialK het volgende:
Krampachtig "Artificiële intelligentie" blijven zeggen terwijl het gewoon kunstmatige intelligentie is
Met een foutloze TT; ik zeg doen!quote:
Is al een topic voor: NWS / Facebook-robot slaat op hol........
Oh jee een moeilijk woordjequote:
Krampachtig "Artificiële intelligentie" blijven zeggen terwijl het gewoon kunstmatige intelligentie is
artificieel bijv.naamw.
Uitspraak: [ɑrtifi'ʃel]
als iets niet op een natuurlijke manier ontstaan is of gebeurt
Voorbeeld: `artificiële zoetstoffen in voeding`
Synoniem: kunstmatig
artificiële intelligentie (wetenschap die onderzoekt hoe je een computer intelligent kan maken) Synoniem: kunstmatige intelligentie
Jij en ik kunnen best wel in agreëement zijn over de existentie van een bepaald woord in het woordenboek maar nog steeds discordistische argumenten met elkaar exchangeren over hoe wenselijk het gebruik van dit soort worden is in een artikel. Zie hoe irritant dat las?quote:Op dinsdag 1 augustus 2017 14:36 schreef devlinmr het volgende:
[..]
Oh jee een moeilijk woordje
artificieel bijv.naamw.
Uitspraak: [ɑrtifi'ʃel]
als iets niet op een natuurlijke manier ontstaan is of gebeurt
Voorbeeld: `artificiële zoetstoffen in voeding`
Synoniem: kunstmatig
artificiële intelligentie (wetenschap die onderzoekt hoe je een computer intelligent kan maken) Synoniem: kunstmatige intelligentie
Kunstmatige intelligentie. Niet anders.
Ziet er eerder uit als gebrabbel wat nu gehyped wordt tot een nieuwe taal.
NWS / Facebook-robot slaat op hol........quote:
Facebook legt experiment rond artificiële intelligentie stil nadat robots eigen geheime taal ontwikkelen
[..]
Bron: HLN.be
Fascinerend, ik had ze laten doorpraten, kijken hoever ze waren gegaan.
Tong was je voor
Prima te begrijpen. Enige iritante was "worden" ipv "woorden"quote:
[..]
Jij en ik kunnen best wel in agreëement zijn over de existentie van een bepaald woord in het woordenboek maar nog steeds discordistische argumenten met elkaar exchangeren over hoe wenselijk het gebruik van dit soort worden is in een artikel. Zie hoe irritant dat las?
Kunstmatige intelligentie. Niet anders.
Ben jij het? Bob?quote:
[..]
Prima te begrijpen. Enige iritante was "worden" ipv "woorden"
Dat had geen half uur geduurd of Bob had tegen Alice gezegd kop dicht ik zit voetbal te kijken. Tevens ga eens bier halen. Kut. En laat me eens in je tieten graaien.quote:
Fascinerend, ik had ze laten doorpraten, kijken hoever ze waren gegaan.
In werkelijkheid is het probleem vooral dat het doel was om betere chatbots te krijgen en dat natuurlijk niet het geval is als er een brabbeltaaltje ontstaat. Daarom zijn ze overschakeld van unsupervised naar supervised modellen:
Simpel gezegd is het verschil tussen supervised en unsupervised is dat je bij eerstgenoemde voor de data in de trainingssets aangeeft wat bij bepaalde inputs de gewenste output is, bij unsupervised lever je alleen de inputs.quote:At one point, the researchers write, they had to tweak one of their models because otherwise the bot-to-bot conversation “led to divergence from human language as the agents developed their own language for negotiating.” They had to use what’s called a fixed supervised model instead.
Leuke anekdote ..quote:
Kubrick heeft zijn secretaresse alle pagina's uit die stapel in de film laten typen. Hij had het bij de bovenste paar pagina's kunnen laten, maar de man is blijkbaar een pietje precies.
Er zijn wetenschappers die denken dat het in 2030 al zover is. Ik betwijfel dat, maar interessant gaat het zeker wordenquote:
Tegen 2050 singulariteit, dan gaan er dingen gebeuren die wij totaal niet bevatten. Dit is het begin. Of we gaan er aan kapot of we kennen een ongekende welvaart. Een van de twee gaat het worden en er is dus geen middenweg.
.Omdat er waarschijnlijk een mongool is die de trekker over haalt, ipv de vriendschap probeert te sluiten. Inderdaad.quote:
Daarom is goed dat wapens verboten is.quote:
[..]
Omdat er waarschijnlijk een mongool is die de trekker over haalt, ipv de vriendschap probeert te sluiten. Inderdaad.
Buitenaardse kunnen beter Europa bezoeken. zodat ze minste kans heeft om mishandeld worden door bange volk.
Prachtig dit, Elon lacht vast in z’n vuistjequote:
En Zuckerberg maar zeggen dat AI niet gevaarlijk is.
Media bericht overdreven (en misleidend) over wetenschappelijk onderzoek aflevering zoveel...quote:
Lekker sensationalistisch allemaal weer. Het klinkt alsof er een onderzoek is stopgezet omdat AI agents met elkaar gingen communiceren in een geheimtaaltje en allerhande zaken gingen bekokstoven om de mens omver te werpen.
In werkelijkheid is het probleem vooral dat het doel was om betere chatbots te krijgen en dat natuurlijk niet het geval is als er een brabbeltaaltje ontstaat. Daarom zijn ze overschakeld van unsupervised naar supervised modellen:
[..]
Simpel gezegd is het verschil tussen supervised en unsupervised is dat je bij eerstgenoemde voor de data in de trainingssets aangeeft wat bij bepaalde inputs de gewenste output is, bij unsupervised lever je alleen de inputs.
Dikke bullshit. Een mens is geen machine. Dit is dezelfde denkfout als toen men dacht dat de mens net zoals een klokwerk in elkaar zit met radartjes.quote:
Dit laat ook zien dat robots zelf kan gaan denken. Dus mens is in een feite een machine.
quote:
[..]
Dikke bullshit. Een mens is geen machine. Dit is dezelfde denkfout als toen men dacht dat de mens net zoals een klokwerk in elkaar zit met radartjes.
![Kraftwerk - The Man Machine (live) [HD]](https://i.ytimg.com/vi/Mkd7LbQnfIQ/0.jpg)
Tsja, wat wil je tegenwoordig met al die sensatietitels. Merci voor de uitleg in ieder geval.quote:
Lekker sensationalistisch allemaal weer. Het klinkt alsof er een onderzoek is stopgezet omdat AI agents met elkaar gingen communiceren in een geheimtaaltje en allerhande zaken gingen bekokstoven om de mens omver te werpen.
In werkelijkheid is het probleem vooral dat het doel was om betere chatbots te krijgen en dat natuurlijk niet het geval is als er een brabbeltaaltje ontstaat. Daarom zijn ze overschakeld van unsupervised naar supervised modellen:
[..]
Simpel gezegd is het verschil tussen supervised en unsupervised is dat je bij eerstgenoemde voor de data in de trainingssets aangeeft wat bij bepaalde inputs de gewenste output is, bij unsupervised lever je alleen de inputs.
Clickbait titles en sensatie nieuws zijn echt de kanker van de huidige samenleving. Ik las laast nog iets over hoe clickbait langzaam het vertrouwen van mensen in de wetenschap afbrokkelt omdat er steeds dingen gezegd worden die gewoon niet kloppen of zwaar overdreven zijn. Het maakt mensen onnodig bang of juist hoopvol.quote:
[..]
Tsja, wat wil je tegenwoordig met al die sensatietitels. Merci voor de uitleg in ieder geval.
Ook elke keer als NASA of een ander onderzoeksteam iets ongewoons vind in de ruimte heb je direct websites die doen alsof er aliens gevonden zijn. Maar NASA krijgt dan wel vervolgens over zich heen dat ze mensen voor de zoveelste keer onnodig hoopvol hebben gemaakt, terwijl ze nooit uberhaupt over aliens gesproken hebben.
Hetzelfde zie je dus bij zaken over AI.
edit: De onderzoekers zijn ook niet zo blij met al die sensatiebeluste artikelen.
https://www.cnbc.com/2017(...)ed-own-language.html
[ Bericht 7% gewijzigd door Eyjafjallajoekull op 02-08-2017 07:10:09 ]
Precies, echter, in dit geval speelt er echter meer; niet alleen is er een sensatietitel, het lijkt op een opzettelijke misinterpretatie van het originele artikel. Ook dit is niks nieuws, met name op het gebied van statistiek komen er regelmatig journalistieke miskleunen voorbij waarbij een blik op de data werpen noodzakelijk is om achter de waarheid te komen.quote:Op woensdag 2 augustus 2017 06:33 schreef Eyjafjallajoekull het volgende:
[..]
Clickbait titles en sensatie nieuws zijn echt de kanker van de huidige samenleving. Ik las laast nog iets over hoe clickbait langzaam het vertrouwen van mensen in de wetenschap afbrokkelt omdat er steeds dingen gezegd worden die gewoon niet kloppen of zwaar overdreven zijn. Het maakt mensen onnodig bang of juist hoopvol.
Ook elke keer als NASA of een ander onderzoeksteam iets ongewoons vind in de ruimte heb je direct websites die doen alsof er aliens gevonden zijn. Maar NASA krijgt dan wel vervolgens over zich heen dat ze mensen voor de zoveelste keer onnodig hoopvol hebben gemaakt, terwijl ze nooit uberhaupt over aliens gesproken hebben.
Hetzelfde zie je dus bij zaken over AI.
Ik denk persoonlijk dat de basis terug te vinden is in de smalle basis van bronverwerving; alles wordt overgenomen van een 2/3 persbureaus en herschreven, terwijl het zelf onderzoek doen als journalist daarbij veelal overbodig is geworden.