Ny studie: Avancerad halvledarteknik förbättrar AI-träning och minskar energiförbrukning.

StockholmForskare vid POSTECH och Korea University har förbättrat halvledartekniken genom att använda elektrokemiskt RAM (ECRAM) för att stärka AI-beräkningar. Denna utveckling hjälper till att övervinna begränsningarna hos nuvarande digital hårdvara, såsom CPU och GPU, som har svårt att hänga med i den snabba utvecklingen av AI, inklusive generativa AI-applikationer.

Här är några viktiga punkter:

Forskningsgruppen består av professor Seyoung Kim, Kyungmi Noh, Hyunjeong Kwak och professor Hyung-Min Lee. ECRAM-enheter justerar sin elektriska ledningsförmåga genom jonrörelse. Dessa enheter använder en struktur med tre terminaler för att effektivisera läs- och skrivoperationer av data. Teamets ECRAM-enheter tillverkades i ett 64×64-arrangemang, vilket är en betydande förbättring jämfört med den tidigare 10×10-arrayen.

Analog hårdvara förändrar motståndet hos halvledare genom att använda extern spänning eller ström. Denna metod bearbetar AI-uppgifter samtidigt via en korspunktsmatris. Även om analog hårdvara är effektiv för specifika uppgifter och kontinuerlig data, har den svårigheter att hantera de varierande behoven vid inlärning och härledning inom beräkningar.

Forskningsgruppen hanterade dessa utmaningar genom att skapa ECRAM-enheter. Dessa enheter styr elektrisk ledningsförmåga genom jonkoncentration och har separata kanaler för att läsa och skriva data, vilket kräver relativt låg effekt. Teamet skapade en 64×64-array av ECRAM-enheter, vilket är den största som rapporterats. Resultaten visade utmärkt elektrisk prestanda, tillförlitlig omkoppling, hög framgångsfrekvens och konsekvens.

Läs också:

Idag · 14:35

AI-genererad ryggsmärthjälp: lika bra som läkare

Forskarna använde Tiki-Taka-algoritmen, en avancerad inlärningsmetod, på sin effektiva hårdvara. Detta förbättrade noggrannheten i AI-nätverks träning. De upptäckte att hårdvarans träningsmetod håller vikterna stabila och inte överbelastar neurala nätverk. Denna upptäckt kan vara viktig för att eventuellt kommersialisera teknologin.

Denna innovation kan förändra AI-beräkningar. Digital hårdvara har begränsningar vad gäller energi och skalbarhet. En analog lösning baserad på ECRAM kan vara mer energieffektiv och skalbar för AI. Den tre-terminalstruktur som möjliggör lågenergianvändning är lovande för storskaliga applikationer.

Professor Seyoung Kim pratade om hur stora arraystrukturer och specialiserade AI-algoritmer skulle kunna överträffa nuvarande digitala metoder både i prestanda och energianvändning. Denna forskning kan bana väg för nya AI-träningstekniker som kan hantera mer komplexa och större AI-modeller.

Studien fick stöd från flera koreanska organisationer, däribland handels-, industriministern och KEIT. Samarbetet mellan universitet och företag visar en stark ansträngning att förbättra halvledarteknik för AI. Denna utveckling kan snart leda till viktiga kommersiella tillämpningar, då AI snabbt expanderar inom många områden.

Att använda ECRAM-enheter i analog hårdvara kan göra AI-beräkningar mer effektiva och skalbara jämfört med dagens digitala hårdvara. Fors denna forskargrupps arbete pekar mot en spännande framtida utveckling för AI-teknologi.