Een "bug"quote:Op zondag 23 april 2017 19:40 schreef jogy het volgende:
Bericht van een jaartje oud maar wel relevant. Bedenk maar eens wat een bug teweeg kan brengen in potentiële echte AI.
Elite's AI Created Super Weapons and Started Hunting Players. Skynet is Here
[..]
Ik geloof wel dat het een bug is, ik geloof ook dat 'een foutje maken is menselijk' potentieel extreem verneukeratief zal zijn in de ontwikkeling van een AI. Onvoorziene omstandigheden, zaken die de AI kan gebruiken die het menselijke vermogen ver te boven gaat, dat soort gekkigheid. Dit was ook niet echt helemaal een bug maar gewoon 'teveel rechten en mogelijkheden' geven aan de ingame AI. Best briljant eigenlijk.quote:Op maandag 24 april 2017 14:30 schreef ChrisCarter het volgende:
[..]
Een "bug"
Geslaagde test bedoelen ze.
Daarom, zo ondenkbaar is het niet dat als een AI die marge krijgt om zo te denken dat ze de mensheid als dreiging ziet.quote:Op maandag 24 april 2017 14:42 schreef jogy het volgende:
[..]
Ik geloof wel dat het een bug is, ik geloof ook dat 'een foutje maken is menselijk' potentieel extreem verneukeratief zal zijn in de ontwikkeling van een AI. Onvoorziene omstandigheden, zaken die de AI kan gebruiken die het menselijke vermogen ver te boven gaat, dat soort gekkigheid. Dit was ook niet echt helemaal een bug maar gewoon 'teveel rechten en mogelijkheden' geven aan de ingame AI. Best briljant eigenlijk.
het is zeker niet ondenkbaar. Heb je eergister Doctor Who gekeken? Ook weer een 'leuk' voorbeeld van voorwaarden die anders worden geïnterpreteerd, niet fout an sich maar op een manier waar men zich niet op had voorbereid.quote:Op maandag 24 april 2017 15:33 schreef ChrisCarter het volgende:
[..]
Daarom, zo ondenkbaar is het niet dat als een AI die marge krijgt om zo te denken dat ze de mensheid als dreiging ziet.
Nee ik ben totaal niet bij met de nieuwe DocWho maar heb dan ook de hele week vooral mijn plafond bekeken Zal eens kijken of ik het ergens kan opduikelen!quote:Op maandag 24 april 2017 15:42 schreef jogy het volgende:
[..]
het is zeker niet ondenkbaar. Heb je eergister Doctor Who gekeken? Ook weer een 'leuk' voorbeeld van voorwaarden die anders worden geïnterpreteerd, niet fout an sich maar op een manier waar men zich niet op had voorbereid.
Geen idee hoe ver je achter loopt maar op zich is dit seizoen wel weer een goed instapmoment. Nieuwe compagnion en alles. Hoef je maar twee afleveringen te kijken om er weer 'in' te zitten.quote:Op maandag 24 april 2017 15:44 schreef ChrisCarter het volgende:
[..]
Nee ik ben totaal niet bij met de nieuwe DocWho maar heb dan ook de hele week vooral mijn plafond bekeken Zal eens kijken of ik het ergens kan opduikelen!
Dat China op het gebied van AI koploper is vind ik wel een beetje verontrustend. Maar die verontrusting had ik ook gehad als de VS dat was geweest, lastig. Hopelijk komt er nog een andere vooralsnog onbekende partij zonder enige banden met de (grote) landen die een goed werkende AI in elkaar kan frotten met een voor de mensheid positieve 'persoonlijkheid'.quote:Op dinsdag 16 mei 2017 07:47 schreef ChrisCarter het volgende:
https://www.nrc.nl/nieuws(...)ren-4867794-a1530016
De auteur heeft een goede kijk op de huidige situatie.
Maar hoelang zal een onbekende partij onafhankelijk blijven bij iets groots als dit? Die worden al dan niet hardhandig ergens ingelijfd danquote:Op dinsdag 16 mei 2017 11:01 schreef jogy het volgende:
[..]
Dat China op het gebied van AI koploper is vind ik wel een beetje verontrustend. Maar die verontrusting had ik ook gehad als de VS dat was geweest, lastig. Hopelijk komt er nog een andere vooralsnog onbekende partij zonder enige banden met de (grote) landen die een goed werkende AI in elkaar kan frotten met een voor de mensheid positieve 'persoonlijkheid'.
De eerste die een echte echte AI ter wereld brengt is binnen een etmaal oppermachtig lijkt me . Alles is tegenwoordig aangesloten aan het internet, direct of via een omweg aan elkaar gepatched en weet ik het wat dus dan is het wel klaar. Dan heb je een zwaard van Damocles over de wereld hangen waar je van gaat janken. (Economie, infrastructuur, defensie, communicatie en zorginstellingen)quote:Op dinsdag 16 mei 2017 14:53 schreef ChrisCarter het volgende:
[..]
Maar hoelang zal een onbekende partij onafhankelijk blijven bij iets groots als dit? Die worden al dan niet hardhandig ergens ingelijfd dan
Daarom hopen dat het een beetje eem humanistisch ingestelde groep isquote:Op dinsdag 16 mei 2017 15:07 schreef jogy het volgende:
[..]
De eerste die een echte echte AI ter wereld brengt is binnen een etmaal oppermachtig lijkt me . Alles is tegenwoordig aangesloten aan het internet, direct of via een omweg aan elkaar gepatched en weet ik het wat dus dan is het wel klaar. Dan heb je een zwaard van Damocles over de wereld hangen waar je van gaat janken. (Economie, infrastructuur, defensie, communicatie en zorginstellingen)
Met verstand van programmeren. Ookal is de intentie helemaal goed, er kan altijd een gekke bug in zitten, men heeft iets over het hoofd gezien of de AI doet iets waar men helemaal geen notie van had dat het überhaupt mogelijk zou zijn.quote:Op dinsdag 16 mei 2017 15:10 schreef ChrisCarter het volgende:
[..]
Daarom hopen dat het een beetje eem humanistisch ingestelde groep is
Ik vind dit echt verontrustend. En tevens iets waar ik al heel lang bang voor ben. Internet is geweldig maar aan de andere kant; als het in verkeerde handen valt kan het de hele wereld verwoesten.quote:Op dinsdag 16 mei 2017 15:10 schreef ChrisCarter het volgende:
[..]
Daarom hopen dat het een beetje eem humanistisch ingestelde groep is
Een goed voorbeeld (de plus kant op) is die 22-jarige die de flaw ontdekte in die ransomware afgelopen week.quote:Op dinsdag 16 mei 2017 15:14 schreef jogy het volgende:
[..]
Met verstand van programmeren. Ookal is de intentie helemaal goed, er kan altijd een gekke bug in zitten, men heeft iets over het hoofd gezien of de AI doet iets waar men helemaal geen notie van had dat het überhaupt mogelijk zou zijn.
Ja maar hoe lang zou de mensheid (wie/wat dan ook) de AI nog bij kunnen benen voor het zichzelf helemaal dichtpatched?quote:Op dinsdag 16 mei 2017 15:17 schreef ChrisCarter het volgende:
[..]
Een goed voorbeeld (de plus kant op) is die 22-jarige die de flaw ontdekte in die ransomware afgelopen week.
De minkant kan dus zijn dat mensen exploits gaan vinden bij zoiets.
Dat is het grappige en jammere aan de mens. Ten tijde van conflict komen de meeste ontwikkelingen maar die zijn vaak niet gericht op samenwerking maar juist verdere splitsingquote:Op dinsdag 16 mei 2017 15:49 schreef jogy het volgende:
[..]
Ja maar hoe lang zou de mensheid (wie/wat dan ook) de AI nog bij kunnen benen voor het zichzelf helemaal dichtpatched?
Het is eeuwig zonde dat de globale maatschappij gestoeld is op concurrentie en niet op samenwerking. Niet alleen met dit hoor maar gewoon met alles maar vooral met belangrijke zaken zoals dit. (Maar ook ruimtevaart, infrastructuur, voedselvoorzieining etc) Een AI die opgebouwd wordt vanuit een gigantisch open source project zou het beste zijn lijkt me.
Jup. Mensen zijn (ook) stom, soms. .quote:Op dinsdag 16 mei 2017 15:53 schreef ChrisCarter het volgende:
[..]
Dat is het grappige en jammere aan de mens. Ten tijde van conflict komen de meeste ontwikkelingen maar die zijn vaak niet gericht op samenwerking maar juist verdere splitsing
'Iedereen monitoren', klinkt nogal negatief/repressief vind ik. . Maar wel eens, iedereen kijkt in ieder geval mee naar de inhoud van het project en kan hun eigen code-controle uitvoeren.quote:Beter zou zijn het als universeel open source aan te vliegen ja. Iedereen monitoren in plaats van in de handen van een enge firma.
Ik bedoelde dat iedereen het dan kan monitoren haha sorry.quote:Op dinsdag 16 mei 2017 16:28 schreef jogy het volgende:
[..]
Jup. Mensen zijn (ook) stom, soms. .
[..]
'Iedereen monitoren', klinkt nogal negatief/repressief vind ik. . Maar wel eens, iedereen kijkt in ieder geval mee naar de inhoud van het project en kan hun eigen code-controle uitvoeren.
zerodayquote:Op dinsdag 16 mei 2017 15:17 schreef ChrisCarter het volgende:
[..]
Een goed voorbeeld (de plus kant op) is die 22-jarige die de flaw ontdekte in die ransomware afgelopen week.
De minkant kan dus zijn dat mensen exploits gaan vinden bij zoiets.
Ja, dat idee heb ik ook.quote:Op donderdag 1 juni 2017 21:38 schreef jogy het volgende:
https://www.inverse.com/a(...)ificial-intelligence
Scientists Say Controlling A.I. Will Be Impossible for 3 Reasons
Je moet het ook niet willen controleren maar 'gewoon' goed 'opvoeden'.
Jep strakke regels meegeven, waarbij hsf binnen bepaalde kaders moet blijven ten allen tijden.quote:Op donderdag 1 juni 2017 21:38 schreef jogy het volgende:
https://www.inverse.com/a(...)ificial-intelligence
Scientists Say Controlling A.I. Will Be Impossible for 3 Reasons
Je moet het ook niet willen controleren maar 'gewoon' goed 'opvoeden'.
Maar ja, wie of wat laat je het opvoeden doen? In mijn naïviteit denk ik dat van de koplopers in deze sector Google of misschien Apple nog de minst slechte opties zijn.quote:
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |