Samsung a prezentat marți cele mai noi progrese ale sale cu tehnologia de procesare în memorie (PIM) la HotChips 33. Aceasta este o conferință de semiconductori unde cele mai notabile inovații în microprocesoare și IC sunt dezvăluite în fiecare an. Compania spune că Samsung HBM-PIM aduce mai multă putere de procesare în aplicații.
Dezvăluirile Samsung includ prima integrare cu succes a memoriei sale cu lățime de bandă (HBM-PIM) activată PIM într-un sistem de accelerare comercializat și aplicații PIM extinse pentru a accepta modulele DRAM și memoria mobilă, în accelerarea mișcării spre convergența memoriei și logicii.
Prima integrare Samsung HBM-PIM într-un accelerator AI
În februarie, Samsung a introdus primul HBM-PIM (High Bandwidth Memory – Processing-In-Memory) din industrie (Aquabolt-XL). Acesta încorporează funcția de procesare AI în HBM2 Aquabolt de la Samsung, pentru a îmbunătăți procesarea datelor de mare viteză în supercomputerele și aplicațiile AI. HBM-PIM a fost testat de atunci în acceleratorul AI Xilinx Virtex Ultrascale + (Alveo). Aici a oferit un câștig de performanță al sistemului de aproape 2,5 ori, precum și o reducere de peste 60% a consumului de energie.
„HBM-PIM este prima soluție de memorie adaptată AI din industrie. Aceasta a fost testată în sisteme de accelerare AI ale clienților, demonstrând un potențial comercial extraordinar”. A declarat Nam Sung Kim, vicepreședinte al produselor și tehnologiei DRAM la Samsung Electronics, conform Samsung Newsroom. „Prin standardizarea tehnologiei aplicațiile vor deveni mult mai numeroase. Se vor extinde în HBM3 pentru supercomputerele de generație următoare și aplicații AI. Vor ajunge în memoria mobilă pentru AI pe dispozitive, precum și pentru modulele de memorie utilizate în centrele de date.”
Xilinx Inc. este o companie fondată în 1984 și are sediul în San Jose, California, SUA. Este cel mai mare dezvoltator și producător de IC-uri logice programabile. Xilinx nu produce semiconductori, dar este un producător de echipamente IC.
„Xilinx a colaborat cu Samsung Electronics pentru a permite soluții de înaltă performanță pentru centrele de date, rețea și aplicații de procesare a semnalului în timp real. Colaborarea a început cu familia Virtex UltraScale + HBM și a prezentat recent noile și interesantele noastre produse Versal HBM din serie”. A spus Arun Varadarajan Rajagopal, senior director, Product Planning la Xilinx, Inc. „Suntem încântați să continuăm această colaborare cu Samsung. Ajutăm la evaluarea sistemelor HBM-PIM pentru potențialul lor de a obține performanțe majore și eficiență energetică în aplicațiile AI.”
Module DRAM alimentate de PIM
Acceleration DIMM (AXDIMM) aduce procesarea la modulul DRAM în sine. Cu un motor AI construit în interiorul cipului tampon, AXDIMM poate efectua procesarea paralelă a mai multor ranguri de memorie (seturi de cipuri DRAM) în loc să acceseze doar un rang la rând, îmbunătățind foarte mult performanța și eficiența sistemului. Deoarece modulul își poate păstra factorul de formă tradițional DIMM, AXDIMM facilitează înlocuirea drop-in fără a necesita modificări ale sistemului. În prezent testat pe serverele clienților, AXDIMM poate oferi aproximativ dublu performanțe în aplicații AI și o scădere cu 40% a consumului de energie la nivel de sistem.
Tehnologia de memorie mobilă Samsung LPDDR5-PIM poate oferi capabilități AI independente fără conectivitate la centrul de date. Testele de simulare au arătat că LPDDR5-PIM aduce performanțe mai mult decât duble, reducând în același timp consumul de energie cu peste 60% atunci când este utilizat în aplicații precum recunoașterea vocală, traducere și chatbot.
Samsung intenționează să își extindă portofoliul de memorie AI, colaborând cu alți lideri din industrie. În acest fel se preconizează finalizarea standardizării platformei PIM în prima jumătate a anului 2022. Compania va continua să încurajeze un ecosistem PIM extrem de robust pentru asigurarea unei aplicabilități largi pe piața memoriei.