Ny halvledarteknik med ECRAM-enheter förbättrar noggrannheten och prestandan i AI-träning.
StockholmEtt forskarteam vid POSTECH och Korea University har förbättrat AI-beräkning med hjälp av analog hårdvara. De visade att elektrochemisk RAM (ECRAM) kan förbättra AI-prestanda. Detta framsteg syftar till att övervinna begränsningarna hos traditionell digital hårdvara som CPU:er och GPU:er, som har svårt att skala AI-applikationer.
Här är några viktiga egenskaper hos den nya teknologin:
- Analog hårdvara använder en korspunktsstruktur för parallell bearbetning.
- ECRAM-enheter styr elektrisk ledningsförmåga genom jonrörelse.
- Teknologin har en treterminalstruktur för lågenergiförbrukning.
- Forskargruppen lyckades tillverka en 64×64 ECRAM-matris.
En studie i Science Advances visar att ECRAM-enheter arrangerade i ett 64×64-galleri har utmärkt elektrisk prestanda och omkopplingsförmåga. De visade också hög framgångsfrekvens och konsistens. Detta är betydelsefullt eftersom tidigare matriser endast var 10×10. Genom att använda Tiki-Taka-algoritmen, en sofistikerad inlärningsmetod, förbättrade de träffsäkerheten vid träning av AI neurala nätverk.
En viktig del av denna forskning är hur hårdvaran behåller "vikt", vilket innebär att den fortsätter lära sig korrekt utan att överbelasta det neurala nätverket. Till skillnad från vanlig halvledarminne är ECRAM:s trepartssystem för att läsa och skriva data mer effektivt och energisnålt. Detta är särskilt viktigt för kommersiella tillämpningar där energibesparing är av stor betydelse.
Denna forskning kan ha en stor inverkan på AI-beräkningar. Analog hårdvara möjliggör parallell bearbetning, något som digital hårdvara inte kan åstadkomma lika effektivt. Detta är särskilt fördelaktigt för uppgifter som kräver kontinuerlig databehandling. Det kan leda till förbättringar inom många AI-områden, inklusive generativ AI och mer effektiva maskininlärningsmodeller.
Stödet från handels-, industri- och energiministeriet samt andra grupper visar hur viktigt denna forskning är för utvecklingen av industriell teknologi och halvledare. Analog hårdvara som är utformad för AI kan revolutionera branschen genom att erbjuda ett mer skalbart och effektivt sätt att hantera AI-beräkningar.
Den framgångsrika implementeringen av ECRAM-enheter i stor skala visar deras potential för kommersiellt bruk och antyder att analog hårdvara skulle kunna erbjuda fördelar jämfört med digitala lösningar för AI-träning och uppgifter. Denna utveckling inte bara främjar teknologin utan skapar också nya sätt att effektivt förbättra AI:s kapacitet.
Studien publiceras här:
http://dx.doi.org/10.1126/sciadv.adl3350och dess officiella citering - inklusive författare och tidskrift - är
Kyungmi Noh, Hyunjeong Kwak, Jeonghoon Son, Seungkun Kim, Minseong Um, Minil Kang, Doyoon Kim, Wonjae Ji, Junyong Lee, HwiJeong Jo, Jiyong Woo, Hyung-Min Lee, Seyoung Kim. Retention-aware zero-shifting technique for Tiki-Taka algorithm-based analog deep learning accelerator. Science Advances, 2024; 10 (24) DOI: 10.1126/sciadv.adl335020 november 2024 · 17:56
AI lär sig att känna av ytor med hjälp av banbrytande kvantteknik och laserprecision
20 november 2024 · 01:02
Kraftfull AI för mobilen: Kompakta språkmodeller som sparar energi och främjar integritet
18 november 2024 · 14:36
Mindre djur, större precision: ny AI-teknik för avancerade beteendestudier av möss
Dela den här artikeln