quote:Scientists develop a memristor that can be conditioned just like a real synapse
An international collaboration of researchers from UMass Amherst, HP, and the Air Force have built a proof-of-concept memristor that could lead to real-world neuromorphic chips. The memristor is made of a silicon-oxygen-nitrogen material laced with clumps of silver nanoparticles at the electrical terminals. When current is applied across the memristor, the silver nanoparticles shuffle around within their parent oxynitride matrix, to line up within a lightning-bolt-like path of least electrical resistance. The electrical field exerts enough force on particles within a given radius of that path to scoot them subtly into line in the memristor’s ON state. The heat released by the electricity both permits and enables the movement.
If the memristor has been activated within a few seconds, it will still be in its ON state, with the silver nanoparticles still helpfully arranged into a nano-wire. This mimics short-term potentiation, which is an important kind of neuronal conditioning that we depend on for learning and memory. After a bunch of activations within a short period of time, silver drifts slowly toward one pole of the memristor and away from the other, mimicking desensitization (another form of classical conditioning) as calcium is depleted within the “tapped-out” upstream neuron. When the field is released and the memristor allowed to cool down and “rest,” those silver nanoparticles relax back to where they originally were, in discrete clumps around each electrode.
....
..
Passive crossbar arrays van memristors bieden een veel grotere opslagdichtheid dan bestaand geheugen, maar om bruikbaar te zijn moet men een oplossing voor het "sneak path problem" vinden.quote:Op maandag 10 oktober 2016 00:23 schreef Digi2 het volgende:
[..]
[ afbeelding ]
Blijkbaar is men nog steeds bezig met de memristor technologie maar grootschalige toepassing heeft 6 jaar na de opening van dit topic nog niet plaatsgevonden
SPOILEROm spoilers te kunnen lezen moet je zijn ingelogd. Je moet je daarvoor eerst gratis Registreren. Ook kun je spoilers niet lezen als je een ban hebt.Essentieel is dat enkel de geadresseerde elementen (individueel, of per rij) beïnvloed worden. Dat is ook het geval bij bvb een LED array:
Plaats een stroombron tussen lijn 2 en lijn 6, dan zal de stroom enkel door LED2,6 gaan die de lijnen verbindt, en niet bvb via LED2,5 naar lijn 5, dan via LED1,5 naar lijn 1 en LED1,6 naar lijn 6, omdat diodes slechts in één richting geleiden, en LED1,5 in de verkeerde richting staat (we negeren de drempelspanning gemakshalve).
Memristors geleiden in beide richtingen, als je die in een array plaatst zal er wel stroom door de memristors in de andere rijen lopen. Reeds bij een kleine 4*4 array zal de stroom door die "sneak paths" groter zijn dan door de geadresseerde memristor.
Het wordt moeilijk om de weerstand van een bepaalde memristor te meten als die parallel staat met andere, en een bit wegschrijven wordt ook moeilijk als je daarmee de andere memristors beïnvloedt... En zelfs als lezen en schrijven betrouwbaar lukt, heb je nog steeds het probleem van energieverbruik: een individuele memristor verbruikt misschien minder energie dan een ander type geheugencel, maar geplaatst in een n*n array stijgt de benodigde stroom met ongeveer factor (n-1)/2 (als n voldoende groot).
Die problemen kan je oplossen met bvb een transistor per memristor, maar dan verlies je meteen het belangrijkste voordeel van de technologie, je zal slechts dezelfde dichtheid kunnen bereiken die men nu reeds heeft. Bvendien zijn het twee verschillende technologieën, en kan het moeilijk zijn om die op één chip te combineren.
[ Bericht 0% gewijzigd door crystal_meth op 12-10-2016 01:13:06 ]Ich glaube, dass es manchmal nicht genügend Steine gibt und
Ich bin mir sicher, dass auch schöne Augen weinen
Juist kei gemakkelijk. Je doet een chip of een QR code op de verpakking waarin staat hoelang op hoeveel watt in welke modus. Magnetron leest uit en voert uit. Few minutes.quote:Op dinsdag 31 mei 2016 11:56 schreef Bosbeetle het volgende:
[..]
Die valt ook weer onder dit plaatje
[ afbeelding ]
Alle eten tot een bepaalde tempratuur opwarmen, of tot een bepaalde vochtigheidsgraad is relatief eenvoudig. Bepalen welk gerecht het is is enorm lastig.
Dat kan dus alleen met een voorverpakt gerecht niet met een zelfbedacht geheel...quote:Op woensdag 12 oktober 2016 14:18 schreef LXIV het volgende:
[..]
Juist kei gemakkelijk. Je doet een chip of een QR code op de verpakking waarin staat hoelang op hoeveel watt in welke modus. Magnetron leest uit en voert uit. Few minutes.
http://nanotechweb.org/cws/article/tech/66546quote:Oct 11, 2016
Memristor could make embedded memory for low-power chips
Researchers at Hewlett Packard Labs in California, the University of Massachusetts Amherst and Seoul National University are reporting on a new low-current, self-rectifying memristor made from titanium ion electron traps in a niobium oxide matrix. The device might be used as an embedded memory on low-power chips and for storing data in Internet of Things (IoT) appliances.
A memristor, or memory resistor, is a resistor that "remembers" how much current has flowed through it. Unlike other modern-day electronics memories like those made from CMOS devices, memristors are able to “remember” their state (that is the information stored in them), even if you lose power. They also use much less energy.
So-called resistance-switching memristors made from transition metal oxides are promising for electronic components in a variety of future device applications thanks to the fact that their conductance reversibly changes in response to an applied stimulus. Such devices include high-density non-volatile memory as well as emerging applications such as “stateful” logic and bio-inspired neuromorphic devices.
However, one of the drawbacks of such memristors is the electrical power that is wasted during the data writing process. This occurs because of the additional current that flows through cells other than the addressed cell.
Solving the 'sneak path' problem
“This sneak path problem, as it is known, limits the size of the memory array that can be used and thus the total memory density since large sneak path currents make it difficult to successfully write to the addressed cell,” explains team member Kyung Min Kim of Hewlett Packard Labs in Palo Alto. “To overcome this challenge, researchers have introduced a ‘selector’ component in series with the memristor in each cell but since selector technology is not as mature as memristor technology we are struggling to develop appropriate selectors.
“Our team has taken a different approach to solving the sneak path problem without introducing a separate selector. We have developed a memristor with a large intrinsic current-rectifying characteristic that acts as an internal or integral selector. What is more, we have described how to use this self-selecting memristor to reduce power consumption to just 8% of that in conventional crossbar circuits.”
In principle, when the memristor is combined with a series selector in each cell of the crossbar, the net power consumption could be reduced to 0.31% of the power consumed in standard crossbars, he adds.
Technology is fully CMOS compatible
The new device is based on titanium (Ti) ion electron traps in a niobium oxide (NbOx) matrix. The researchers deposited the active material in the structure using a technique called atomic layer deposition (ALD), which allows them to control the sub-atomic monolayers in the structure and so precisely control how the Ti traps are distributed in the NbOx matrix. The resistance in the memristor can be switched from high to low (and vice versa) using much lower currents (and thus power) than previously demonstrated devices, Kim tells nanotechweb.org.
According to the team, led by Stanley Williams, also of Hewlett Packard Labs, the new memristor could be used to make embedded memories for low-power chips, such as ASICS. “Since the technology is fully CMOS compatible, it might also be used to store data in or near sensors at the edge of IoT devices,” says Kim. “Eventually, it might find use as a stand-alone non-volatile memory for low-power systems.”
The researchers, reporting their work in DOI: 10.1021/acs.nanolett.6b01781, say that they will now be fabricating full crossbar arrays while continuing to improve the individual cell performance of the memristors, in terms of both the resistance state retention lifetime and reducing the writing voltage.
(een nonlinear selector is één waarin de stroom bvb exponentieel stijgt met de spanning. Dat vermindert de stroom door de sneak paths in verhouding tot de stroom door de geadresseerde cel, omdat over de cellen in de sneak paths slechts 1/3 van de aangelegde spanning staat)quote:
A Pt/NbOx/TiOy/NbOx/TiN stack integrated on a 30 nm contact via shows a programming current as low as 10 nA and 1 pA for the set and reset switching, respectively, and a self-rectifying ratio as high as ∼105, which are suitable characteristics for low-power memristor applications. It also shows a forming-free characteristic. A charge-trap-associated switching model is proposed to account for this self-rectifying memrisive behavior. In addition, an asymmetric voltage scheme (AVS) to decrease the write power consumption by utilizing this self-rectifying memristor is also described. When the device is used in a 1000 × 1000 crossbar array with the AVS, the programming power can be decreased to 8.0% of the power consumption of a conventional biasing scheme. If the AVS is combined with a nonlinear selector, a power consumption reduction to 0.31% of the reference value is possible.
Je zou een extra aansluiting kunnen maken tussen de diode in sperrichting en de memristor. Deze terminal kan je dan gebruiken om een stroom in tegengestelde richting door de memristor te laten lopen en de memristor resetten. Een andere mogelijkheid is zenerdioden te gebruiken. Daarmee kan je bij een hogere sperspanning wel geleiding krijgen en de memristor restten.quote:Op zaterdag 29 oktober 2016 04:06 schreef crystal_meth het volgende:
Had dit bericht gemist bij m'n vorige post:
[..]
http://nanotechweb.org/cws/article/tech/66546
[..]
(een nonlinear selector is één waarin de stroom bvb exponentieel stijgt met de spanning. Dat vermindert de stroom door de sneak paths in verhouding tot de stroom door de geadresseerde cel, omdat over de cellen in de sneak paths slechts 1/3 van de aangelegde spanning staat)
Niet de eerste Self-rectifying memristor ("memristor met diodewerking"), in october 2014 was er bvb een bericht over een self-rectifying memristor met maximaal rectifying ratio van 600, die geschikt zou zijn voor een crossbar van maximaal 212*212 (voor een 10% read margin).
In m'n vorige post schreef ik dat een LED array geen last van sneak paths had omdat in elk sneak path één van de drie LEDs in sperzin staat; bij een memristor kan je niet simpelweg een diode toevoegen, omdat een memristor gereset (op 0 gezet) wordt door een negatieve spanning aan te leggen (het lezen gebeurt met een kleine positieve spanning/stroom, op 1 zetten met een hoge positieve spanning/stroom). Een normale diode laat haast geen stroom door in sperrichting, dus zou je de memristor niet kunnen resetten.
Ook met memristors is deze architectuur mogelijk. De grote vraag naar Deep Learning AI zal hopelijk ook interesse naar memristors bevorderen.quote:IBM scientists say radical new ‘in-memory’ computing architecture will speed up computers by 200 times
IBM Research announced Tuesday (Oct. 24, 2017) that its scientists have developed the first “in-memory computing” or “computational memory” computer system architecture, which is expected to yield yield 200x improvements in computer speed and energy efficiency — enabling ultra-dense, low-power, massively parallel computing systems.
Their concept is to use one device (such as phase change memory or PCM*) for both storing and processing information. That design would replace the conventional “von Neumann” computer architecture, used in standard desktop computers, laptops, and cellphones, which splits computation and memory into two different devices. That requires moving data back and forth between memory and the computing unit, making them slower and less energy-efficient.
De huidige digitale technologie staat ver af van hoe biologische systemen werken. Memristors, PCM, Mram en andere technologien kunnen behulpzaam zijn efficienter en zuiniger te werken vooral m.b.t. AI toepassingen. Neuronen hebben een digitale en analoge component, het simuleren van de analoge component is hetgeen veel rekenkracht vereist in de huidige neuronale netwerken. Een voordeel van volledig digitale systemen is dat ze snel exact te clonen zijn. Analoog&digitale zullen mogelijk enige training benodigen om de ¨synapsen¨ van de juiste ¨gewichten¨ te voorzien. Het is wel mogelijk grofweg de ¨gewichten¨ te copieren maar het is waarschijnlijk dat achteraf finetuning nodig blijkt afhankelijk van de toepassing omdat elk IC analoog iets anders zal zijn. Het laatste systeem van Deepmind, Alpha Go Zero berust op volledige zelftraining. In dit geval speelt het vooraf finetunen van de ¨gewichten¨ geen rol en is dus niet van belang.quote:
Blijft toch een leuk verhaal, ze verslaan eindelijk Go door een neuraal netwerk allerhande menselijke potjes go te laten gebruiken etc. Die heetten alphaGo Fan en alphaGo Lee (genoemd naar de mensen die ze versloegen) en die gebruikten 176 GPUs en 48 TPUs en toen maakten ze een zelflerende alphaGo Zero en die gebruikt maar 4TPUsquote:Op vrijdag 27 oktober 2017 09:26 schreef Digi2 het volgende:
[..]
De huidige digitale technologie staat ver af van hoe biologische systemen werken. Memristors, PCM, Mram en andere technologien kunnen behulpzaam zijn efficienter en zuiniger te werken vooral m.b.t. AI toepassingen. Neuronen hebben een digitale en analoge component, het simuleren van de analoge component is hetgeen veel rekenkracht vereist in de huidige neuronale netwerken. Een voordeel van volledig digitale systemen is dat ze snel exact te clonen zijn. Analoog&digitale zullen mogelijk enige training benodigen om de ¨synapsen¨ van de juiste ¨gewichten¨ te voorzien. Het is wel mogelijk grofweg de ¨gewichten¨ te copieren maar het is waarschijnlijk dat achteraf finetuning nodig blijkt afhankelijk van de toepassing omdat elk IC analoog iets anders zal zijn. Het laatste systeem van Deepmind, Alpha Go Zero berust op volledige zelftraining. In dit geval speelt het vooraf finetunen van de ¨gewichten¨ geen rol en is dus niet van belang.
Cool! gek dat ik daarover in al die youtube video's over alphago en deep learning niks gezien heb . Maar dit is idd veelbelovendquote:Op vrijdag 27 oktober 2017 09:26 schreef Digi2 het volgende:
[..]
De huidige digitale technologie staat ver af van hoe biologische systemen werken. Memristors, PCM, Mram en andere technologien kunnen behulpzaam zijn efficienter en zuiniger te werken vooral m.b.t. AI toepassingen. Neuronen hebben een digitale en analoge component, het simuleren van de analoge component is hetgeen veel rekenkracht vereist in de huidige neuronale netwerken. Een voordeel van volledig digitale systemen is dat ze snel exact te clonen zijn. Analoog&digitale zullen mogelijk enige training benodigen om de ¨synapsen¨ van de juiste ¨gewichten¨ te voorzien. Het is wel mogelijk grofweg de ¨gewichten¨ te copieren maar het is waarschijnlijk dat achteraf finetuning nodig blijkt afhankelijk van de toepassing omdat elk IC analoog iets anders zal zijn. Het laatste systeem van Deepmind, Alpha Go Zero berust op volledige zelftraining. In dit geval speelt het vooraf finetunen van de ¨gewichten¨ geen rol en is dus niet van belang.
Ze zijn ook bezig om machine learning op quantum computers toe te passen, stond laast een interessante special in nature over quantum software, en wat de pitfalls zijn etc. We stappen zo langzamerhand in de computer wereld weer helemaal opnieuw in een groot avontuur. De eerste quantum computers met tientallen tot honderden qubits komen in zicht.quote:Op vrijdag 27 oktober 2017 16:43 schreef Maanvis het volgende:
[..]
Cool! gek dat ik daarover in al die youtube video's over alphago en deep learning niks gezien heb . Maar dit is idd veelbelovend
Er wordt hier keihard aan gewerkt. Nog een paar jaar en dan zitten ze in veel electronica. Snelheden gaan ervan omhoog, productiekosten omlaag, je kunt weer kleiner produceren.quote:
De borg zijn niet ver weg. Wij gaan met technologie samen.quote:Op vrijdag 27 oktober 2017 13:11 schreef Bosbeetle het volgende:
[..]
Blijft toch een leuk verhaal, ze verslaan eindelijk Go door een neuraal netwerk allerhande menselijke potjes go te laten gebruiken etc. Die heetten alphaGo Fan en alphaGo Lee (genoemd naar de mensen die ze versloegen) en die gebruikten 176 GPUs en 48 TPUs en toen maakten ze een zelflerende alphaGo Zero en die gebruikt maar 4TPUs
Het leuke is dat die Fan en Lee dus wel kunnen leren van Zero en dus nu ook beter zijn geworden die noemen we AlphaGo Master. Maar zero versloeg Fan in 100 potjes 0 tegen 100 en tegen Master won hij 89 -11... Zero heeft ook eigen nog onbekende tactieken gevonden.
We zijn dus nu computers daadwerkelijk superhumaan een spelletje aan het leren spelen. De enige data die Zero eigenlijk gebruikt heeft zijn de regels van GO.
Wat ook leuk is, is dat wij mensen nu ook die tactieken van AlphaGO zero weer kunnen leren.
Dwave machines bijv. zijn geen volledige quantum computers maar kunnen heel handig zijn voor bepaalde probleemoplossingen. Het voordeel van hun systematiek is dat het flink op te schalen is. De laatste generatie heeft circa 1000 operatieve ¨Qbits¨. Blijkbaar is Quantum computing vrij eenvoudig te gebruiken voor IA toepassingen. Ik vermoed dat dit vooral voorkomt uit de mogelijkheid van instantane backpropagation door de vele hidden layers van complexe neurale netwerken zoals bijv. tensorflow.quote:Op vrijdag 27 oktober 2017 16:51 schreef Bosbeetle het volgende:
[..]
Ze zijn ook bezig om machine learning op quantum computers toe te passen, stond laast een interessante special in nature over quantum software, en wat de pitfalls zijn etc. We stappen zo langzamerhand in de computer wereld weer helemaal opnieuw in een groot avontuur. De eerste quantum computers met tientallen tot honderden qubits komen in zicht.
Het 11 dagen vasthouden van geheugen van deze organische memristor is relatief kort t.a.v. anorganische memristors. Het lijkt me echter geen onoverkomenlijk probleem omdat je het zou kunnen refreshen, om de 5 dagen bijvoorbeeld. Dit zou vanwege de extreem lage refreshrate weinig stroom verbruiken. Je zult dan echter waarschijnlijk een kleine lithiumbatterij in elke computer moeten plaatsen, ook in de desktops. Mogelijk is de batterij voor de systeemklok al voldoende.quote:Organic Memristor Sets Records for Speed and Durability
October 31
Modern electronic devices are based on circuit elements like resistors, capacitors, and inductors. However, there’s a fourth still-experimental type of component called a memristor. Engineers have been trying to perfect the memristor for years, but so far attempts to make these components a reality have failed on one or more fronts. However, a new organic memristor design from an international team of scientists could solve most of the outstanding problems and finally make these components commercially viable.
The memristor was first theorized in the early 1970s, but the technology of the day was not sophisticated enough to build one. A memristor is a two-terminal electrical component that has properties of both resistors and non-volatile memory. The electrical resistance isn’t constant, but changes based on the charge that has passed through the memristor in the past. That is, it remembers its history even if the power is shut off.
Past memristor designs in laboratories have failed in at least one of several ways. They were often too slow to switch states, or they just didn’t retain their memory for very long after the power was cut. The new organic memristor designed by a team of researchers led by Thirumalai Venky Venkatesan at the National University of Singapore is able to switch states in just 50 nanoseconds, similar to traditional resistors. It can also hold that state for more than 11 days without power.
The memristor is composed of the transition metal ruthenium complexed with “azo-aromatic ligands.” The theoretical work enabling this material was performed at Yale, and the organic molecules were synthesized at the Indian Association for the Cultivation of Sciences. Despite containing organic molecules, the memristors are very stable. No degradation of the on/off ratio after more than 10^12 read cycles. Venkatesan says this material is easy and cheap to make. None of the materials needed are particularly rare or dangerous, and fabrication techniques are based on existing technology.
There’s still a lot of work to be done before memristors will be ready for consumer devices, but the effects on daily life could be huge when that day arrives. Memristors could replace both storage and RAM with a single chip, and the capacity of memristor-based devices could be almost unfathomably huge. Some theoretical designs for multi-layer memristors have a storage capacity of 1 petabyte per cubic centimeter. Maybe spinning hard drives won’t be the capacity kings for as long as we thought.
quote:Memristors, Artificial Synapses & Neomorphic Computing. Dr Phil Moriarty on the limitations of the Von Neumann architecture and what could be next.
Dit Topic was ik begonnen in 2010, met een sneltreinvaart gaan de ontwikkelingen van de memristor niet maar met de opkomst van A.I. en het hoge energieverbruik van A.I. geïmplementeerd op van Neuman systemen maken het nog steeds een interessant onderzoeksterrein als alternatief.quote:Op maandag 14 september 2020 15:27 schreef Maanvis het volgende:
Huh, ik zag die computerphile dinges voorbij komen maar ik had niet door dat het over de memristors ging. Maar eens kijken dan
Is het net zoals kernfusie telkens 50 jaar totdat ie er komt?quote:Op maandag 14 september 2020 15:42 schreef Digi2 het volgende:
[..]
Dit Topic was ik begonnen in 2010, met een sneltreinvaart gaan de ontwikkelingen van de memristor niet maar met de opkomst van A.I. en het hoge energieverbruik van A.I. geïmplementeerd op van Neuman systemen maken het nog steeds een interessant onderzoeksterrein als alternatief.
Memristors worden al vervaardigd maar nog niet op grote commerciele schaal. De benodigde infrastructuur voor het vervaardigen van memristors is al voorhanden omdat die compatible is met die van de IC fabrikage. Voor Kernfusie moet dat steeds specifiek gemaakt worden zoals voor ITER of Wendelstein. De beschikbaarheid voor experimenten is dus veel eenvoudiger en goedkoper voor memristors dan voor kernfusie.quote:Op maandag 14 september 2020 16:26 schreef Maanvis het volgende:
[..]
Is het net zoals kernfusie telkens 50 jaar totdat ie er komt?
|
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |