Samsung lanciert den HBM-PIM-Speicher mit künstlicher Intelligenz

Von Samsung gibt es erstmals einen Stapelspeicher mit integrierten FP16-Rechenwerken. So kann Rechenleistung mithilfe künstlicher Intelligenz verbessert werden.

Samsung Speicher — Der neue HBM-PIM-Speicher von Samsung. - Samsung

Das Wichtigste in Kürze

Der HBM-PIM ist der erste Speicher seiner Art, welcher auf künstliche Intelligenz setzt.
Dieser Speicher kann laut Samsung so seine Leistung und Geschwindigkeit drastisch erhöhen.
Insgesamt soll hier eine FP16-Rechenleistung mit 1,2 Teraflops möglich sein.

Samsung lancierte kürzlich einen neuen High-Bandwidth-Memory (HBM) mit einer integrierten künstlichen Intelligenz. Der HBM-PIM soll mit seiner Processing-in-Memory-Architektur (PIM) die Arbeit deutlich beschleunigen. Dies zeigt sich vor allem bei grossen Datenmengen in Rechenzentren, High-Performance-Computing (HPC)-Systemen und KI-fähigen mobilen Anwendungen.

Neuer Speicher von Samsung für KI-Training

Bei einigen Rechenbeschleunigerkarten kommen bereits Varianten von HBM und HBM2E zum Einsatz. Solche Chip-Stapel für hohe Datentransferraten seien vor allem fürs KI-Training wichtig. In diesen Situationen kommt es darauf an, grosse Datenbestände an Trainingsdaten zu durchforsten. Bei der neuen Lösung von Samsung kommen dabei simple FP16-Rechenwerke zum Zug.

So kann der neue HBM-PIM also die gespeicherten Daten auch gleich selbständig auswerten, wie «IT-Magazine» berichtet. Er liefert also einfach gesagt je nach Situation gleich die Ergebnisse anstatt der Rohdaten. Laut eigenen Angaben soll der HBM-PIM bis zu 70 Prozent effizienter und doppelt so schnell rechnen, wie vergleichbare Prozessoren. Dabei soll die FP16-Rechenleistung mit einer Kapazität von 6 Gigabyte bis zu 1,2 Teraflops erreichen.