Samsung a prezentat prima memorie HBM din lume cu AI integrată

576
Samsung a prezentat prima memorie HBM din lume cu AI integrat
Sursa Foto: Samsung Global Newsroom

Samsung Electronics a anunțat miercuri că a dezvoltat prima memorie High Bandwidth Memory (HBM) din industrie, integrată cu puterea de procesare a inteligenței artificiale (AI) – HBM-PIM. Noua arhitectură de procesare aduce capacități de calcul AI puternice în memoria de înaltă performanță. În acest fel va accelera procesarea pe scară largă în centrele de date, sistemele de calcul de înaltă performanță și aplicații mobile compatibile cu AI.

Tehnologia AI se numește PIM – prescurtarea „processing-in-memory – procesare-în-memorie”. Designul Samsung HBM-PIM oferă o procesare mai rapidă a datelor AI, deoarece datele nu trebuie să se mute la CPU-ul principal pentru procesare. Potrivit Samsung Newsroom, nu sunt necesare modificări generale ale hardware-ului sau software-ului sistemului pentru a utiliza tehnologia. Noua arhitectură de memorie crește de peste două ori performanța sistemului și reduce consumul de energie cu peste 70%.

Memorie cu lățime de bandă ridicată – Samsung HMB

Kwangil Park, vicepreședinte senior pentru planificarea produselor de memorie la Samsung Electronics a declarat. „Revoluționarul nostru HBM-PIM este prima soluție PIM programabilă din industrie. Este adaptată pentru diverse sarcini de lucru bazate pe AI, cum ar fi HPC, instruire și inferență. Ne bazăm pe această descoperire și colaborăm cu furnizorii de soluții AI pentru aplicații PIM mai avansate”.

O serie de parteneri de sistem AI, cum ar fi Laboratorul Național Argonne, testează HBM-PIM de la Samsung în interiorul acceleratoarelor AI, iar validările sunt așteptate să se finalizeze până în iulie.

High Bandwidth Memory memorie cu lățime de bandă înaltă. Primul cip HBM a fost produs de SK Hynix în 2013. Primele dispozitive care au utilizat o memorie HBM au fost GPU-urile AMD Fiji. Producătorii de top de memorii HBM sunt: AMD, Intel, Samsung, SK Hynix și Xilinx.

Rick Stevens, director asociat la Laboratorul Național Argonne a comentat. „Sunt încântat să văd că Samsung abordează provocările HBM pentru computerele HPC și AI. Proiectarea HBM-PIM a demonstrat performanțe impresionante și câștiguri de putere pentru clase importante de aplicații AI. Așteptăm cu nerăbdare să lucrăm împreună pentru a evalua performanța sa la problemele suplimentare de interes pentru Laboratorul Național Argonne”.

În general, serverele de astăzi au canale de memorie DDR4 care conectează DIMM-uri de memorie la un procesor. Această conexiune poate fi un blocaj în procesarea intensivă a memoriei. Memoria cu lățime de bandă ridicată este concepută pentru a evita acel blocaj.

În schimb, HBM-PIM aduce puterea de procesare direct acolo unde sunt stocate datele. HBM-PIN plasează un motor AI optimizat DRAM în fiecare bancă de memorie – o subunitate de stocare – care permite procesarea paralelă și minimizarea mișcării datelor.