In-memory computing: rýchlejšie a energeticky efektívnejšie

Výskum na ETH Zürich v oblasti počítačových systémov. Zdroj: https://ethz.ch

Big Data aplikácie vyžadujú vysoký výpočtový výkon pri čo najmenšej spotrebe energie. Súčasné počítačové systémy narážajú na svoje limity v oboch oblastiach. Profesor na ETH Zürich Onur Mutlu pracuje na alternatívnych systémoch a získal ocenenie Intel 2021 Outstanding Researcher Award za svoju prácu na In-Memory-Computing Systems, ktoré sú rýchlejšie a energeticky efektívnejšie.

Možno ste už počuli, že Moorov zákon sa blíži ku koncu. Toto empirické pozorovanie uvádza, že počítače zdvojnásobujú svoj výkon približne každé 2 roky. Alternatívne prístupy na zlepšenie efektívnosti výpočtovej techniky sú preto veľmi žiadané. Prof. Onur Mutlu, ktorého výskumné záujmy zahŕňajú spolunavrhovanie hardvéru a softvéru na ETH Zürich, presadzuje prístup kombinovania výpočtovej techniky a pamäte. Vďaka spracovaniu v pamäti (PIM) sú aplikácie veľkých dát, ako je analýza genómu, podstatne rýchlejšie a energeticky efektívnejšie.

Nedávno spoločnosť UPMEM so sídlom v Grenobli uviedla na trh prvú komerčne dostupnú architektúru PIM. Namiesto procesora alebo CPU (Central Processing Units) obsahuje DPU (DRAM Processing Units), čo sú pamäťové prvky, ktoré tiež spracovávajú dáta. Mutlu a jeho výskumná skupina charakterizovali, analyzovali a testovali nový systém a porovnali ho s predchádzajúcim najmodernejším systémom s CPU. Zistili, že vďaka novému systému je výpočtová technika až 23-krát rýchlejšia a päťkrát energeticky účinnejšia. Nový systém je najzaujímavejší pre dátovo náročné aplikácie – konkrétne príklady zahŕňajú génovú analýzu alebo modely predpovedí počasia. Ako uviedol Mutlu: „Nie je to zlé pre prvú komerčnú verziu systému na spracovanie v pamäti, v porovnaní so systémom CPU zameraným na procesor, ktorý bol optimalizovaný už desaťročia.“

Oveľa rýchlejšie a energeticky efektívnejšie

Mutlu a jeho kolegovia testovali nový systém pre aplikácie v oblastiach analýzy údajov, databáz, bioinformatiky, analýzy obrazu a videa a neurónových sietí. Systém PIM je najvhodnejší pre pracovné zaťaženia vyžadujúce malú komunikáciu medzi DPU (napríklad databázové a obrazové aplikácie) a predovšetkým jednoduché aritmetické operácie (napríklad analýzy videa alebo filtrovanie údajov). Ako konštatoval Mutlu: „Očakávame, že ako sa tieto systémy budú vyvíjať, stanú sa ešte rýchlejšími a energeticky účinnejšími a ich aplikácie sa stanú ešte viac rozmanitejšími.“

Aké spoločnosti by mohli využívať tento nový výpočtový systém? Ako uviedol Mutlu: „Energetická efektívnosť a udržateľnosť by mali byť kľúčovými cieľmi každého odvetvia. Ale spoločnosti, ktoré už majú predstavu o tom, ako budú používať nový hardvér PIM, budú z toho okamžite profitovať. Ak bude ich pracovné zaťaženie vhodné pre novú architektúru, výkon a energetická účinnosť sa výrazne zlepšia.“

Široké potenciálne využitie

Dátové centrá by už mohli využívať systém PIM. Ako uviedol Mutlu: „Každá softvérová spoločnosť by to mala zvážiť, aby bola pripravená na budúcnosť.“ PIM je tiež substrát, vďaka ktorému sú vstavané systémy, ako sú okuliare AR/VR, drony, autá s vlastným pohonom a iné, oveľa efektívnejšie. Ďalej dodal: „Spoločnosti pôsobiace v týchto oblastiach by sa mali zamyslieť nad tým, ako by mohli využiť PIM vo svojich systémoch.“

Mutlu spolupracuje s niekoľkými hardvérovými a softvérovými spoločnosťami vrátane Intelu. Spoločnosť Intel spustila ocenenie Outstanding Researcher Awards pre výskumníkov, ktorí inovujú a spolupracujú s Intelom na pokroku v oblasti výpočtovej techniky. Mutlu je jedným z víťazov v roku 2021 – spolu so 16 kolegami z celého sveta.

Systémy PIM umožňujú zásadne efektívnejší prístup k výpočtovej technike, súčasné štandardné systémy, v ktorých je procesor na rozdiel od procesorov v centre pozornosti a pamäťové jednotky sú umiestnené ďaleko od neho. V takýchto systémoch v dnešnej dobe pohyb dát medzi procesorom a pamäťou obmedzuje rýchlosť a efektivitu spracovania dát, aj keď samotný procesor je veľmi výkonný. A presun údajov vyžaduje najviac energie – oveľa viac energie ako skutočný výpočet. Ako vysvetlil Mutlu: „Prístup k hlavnej pamäti len raz spotrebuje sto až tisíckrát viac energie ako komplexný doplnok.“

Aktívna spolupráca s priemyslom

Mutlu si vie predstaviť spoluprácu s ďalšími spoločnosťami alebo softvérovými vývojármi na projektoch ako testovanie a vývoj aplikácií pomocou systému UPMEM PIM a iných prototypových PIM systémov. Zaujíma sa o spoluprácu s firmami, ktoré chcú zásadne zefektívniť svoje výpočty a tým ušetriť veľa energie.

Ako dodal na záver Mutlu: „Paradigma PIM má tiež veľmi priaznivé vlastnosti z hľadiska bezpečnosti.“ Projekt, ktorý skúma bezpečnostné výhody PIM, by mohol byť vzrušujúci aj pre spoločnosti, ktoré sa starajú o bezpečnosť svojich údajov.