Nové umělé neurální zařízení provádí výpočty neuronových sítí s použitím 100 až 1 000krát méně energie

SEM obraz umělého neurálního zařízení. Půjčka Sangheon Oh / Nature Nanotechnology

Výcvik neuronových sítí pro provádění úkolů, jako je rozpoznávání obrazu nebo navigace v autě s vlastním řízením, může jednoho dne vyžadovat méně výpočetního výkonu շնորհիվ díky novému umělému neuronovému zařízení vyvinutému vědci z University of San Diego v Kalifornii. Zařízení může provádět výpočty neuronových sítí s využitím 100–1 000krát menšího energetického prostoru než stávající hardwarový systém založený na CMOS.

Vědci referují o své práci v nedávném článku Přírodní nanotechnologie,

Neuronové sítě jsou série propojených vrstev umělých neuronů, kde výstup jedné vrstvy poskytuje přístup k další. Tento vstup je generován pomocí matematického výpočtu, který se nazývá nelineární aktivační funkce. To je důležitá součást provozu neuronové sítě. Použití této funkce však vyžaduje velké připojení výpočetního výkonu, protože to znamená přenos dat do dvou samostatných jednotek – paměti և externího procesoru և.

Hardwarová neuronová síť PCB

Speciální deska s plošnými spoji postavená s řadou aktivačních (nebo neuronových) zařízení – sada synaptických zařízení. Půjčka Sangheon Oh / Nature Nanotechnology

Výzkumníci UC v San Diegu nyní vyvinuli zařízení o velikosti nanometrů, které může účinně vykonávat aktivační funkci.

„Výpočty neuronových sítí v hardwarovém systému jsou čím dál neúčinnější, protože modely neuronových sítí jsou stále složitější,“ řekl Duygu Kuzum, profesor na UC Engineering School v Jacobs v San Diegu. „Vyvinuli jsme umělé neurální zařízení v měřítku, které provádí tyto výpočty v hardwarovém systému velmi prostorovým a energeticky účinným způsobem.“

Nová studie vedená doktorandem Kuzumem ang Sangheonem Ohem byla provedena ve spolupráci s DOE Energy Frontier Research Center, vedeným profesorem fyziky v San Diegu Ivanem Schulerem, zaměřenou na rozvoj hardwarových investic do energeticky účinného umělého neurálu. sítí.

Zařízení provádí jednu z nejčastěji používaných aktivačních funkcí při výcviku neuronových sítí, která se nazývá směrovaná lineární jednotka. Zvláštností této funkce je, že vyžaduje vybavení, které vydrží postupnou změnu pracovní odolnosti. A to je přesně to, co vědci UC v San Diegu vyvinuli ve svém zařízení: může se postupně přepínat z izolátoru do stavu vysílače, provádí se s trochou tepla.

Aktivační pole zařízení

Pole aktivačních (nebo neuronových) zařízení. Půjčka Sangheon Oh / Nature Nanotechnology

Tento přepínač se nazývá Mottův přepínač. Vyskytuje se v tenké vrstvě nanometrů oxidu vanadičitého. Nad touto vrstvou je ohřívač nanodrátů vyrobený z titanového zlata. Jak proud protéká nanovodičem, vrstva oxidu vanadičitého se pomalu zahřívá a způsobuje pomalý, kontrolovaný přechod z izolátoru na vodič.

„Tato architektura zařízení je velmi zajímavá a inovativní,“ uvedl Oh, který je hlavním autorem studie. Typicky materiály ve fázi blízkého proudu prochází z izolátoru na vodič náhle, protože proud protéká přímo materiálem. „V tomto případě projdeme proud nanovarem na povrchu materiálu, abychom jej zahřáli, což způsobilo velmi postupnou změnu odporu.“

K implementaci zařízení vědci nejprve vytvořili sadu těchto takzvaných aktivačních (nebo neurálních) zařízení spolu s množstvím synaptického zařízení. Poté spojili dvě pole na speciální desce s plošnými spoji a spojili je dohromady, aby vytvořili hardwarovou verzi neuronové sítě.

Vědci použili síť ke zpracování obrazu. V tomto případě obrázek knihovny San Diega Geysel. Přepínač provedl typ zpracování obrazu s názvem detekce hran, který identifikuje obrysy nebo hrany obrazových objektů. Tato zkušenost ukázala, že integrovaný hardwarový systém může provádět křečovité akce, které jsou nezbytné pro mnoho typů hlubokých neuronových sítí.

Vědci tvrdí, že tato technologie by mohla být dále rozšířena tak, aby prováděla složitější úkoly, jako je rozpoznávání obličejových předmětů v autě s vlastním pohonem. „Může se to stát v důsledku průmyslového zájmu a spolupráce,“ řekl Kuzum.

„Teď je to důkaz porozumění,“ řekl Kuzum. „Je to malý systém, ve kterém shromažďujeme pouze jednu synaptickou vrstvu s jednou aktivační vrstvou. Spojením mnoha z nich můžete vytvořit propracovanější systém pro různé aplikace. “

Odkaz. „Sangheon Oh, Yuhan Shi, Javier del Valle, Pavel Salev, Yichen Lu, Zhisheng Huang, Yoav Kalcheim, Ivan K. Schuller a Duygu Kuzum,„ Neuron pro aktivaci lahví s úsporou energie pro úplný hardware Úvod do neuronových sítí. “ , Přírodní nanotechnologie,
DOI: 10.1038 / s41565-021-00874-8:

Tuto práci podpořili Naval Research Office, Samsung Electronics, National Science Foundation, National Institutes of Health, the Qualcomm Scholarship, the US Department of Energy, and the Office of Science through the Energy Frontier Research Center.

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Houby mohou léčit bakterie a obohatit půdu o živiny

Aeroskulární mykorhizní houby se rozprostírají přes dlouhé vláknité struktury zvané krásně až k zemi. Krásy, menší než lidské vlasy, lze vidět mezi kořeny...

Světlo zapíná barvy a vzory objektů

Nový systém využívá ultrafialové světlo, které se promítá na objekty natřené barvou aktivující světlo, ke změně reflexních vlastností barvy a vytváření obrazů během několika...

Ne! Je pravděpodobnější, že žádosti o půjčku zpracované kolem poledne budou zamítnuty

Úředníci bankovních půjček pravděpodobněji budou schvalovat žádosti o půjčky dříve a později během dne, zatímco „únava z rozhodování“ kolem poledne je spojena s nedodržováním...

Náročné modely před oddělením v Bothnian Bay

19. dubna 2021 Mořský led na severu Baltského moře vykazuje některé přesvědčivé vzory, než se na jaře roztaví a setře. Na rozdíl od mořského ledu, který...

Výjimečná biologická rozmanitost ve 14,7 milionu let starém tropickém deštném pralese a osvětluje vývoj

Ekologická rekonstrukce bioty Zhangpu. Obrazový kredit: NIGPAS Nově objevený miocénní biom osvětluje vývoj deštného pralesa Mezinárodní výzkumná skupina vedená profesorem WANG Bo a profesorem SHI...

Newsletter

Subscribe to stay updated.