Samsung lanciert den HBM-PIM-Speicher mit künstlicher Intelligenz
Von Samsung gibt es erstmals einen Stapelspeicher mit integrierten FP16-Rechenwerken. So kann Rechenleistung mithilfe künstlicher Intelligenz verbessert werden.
Das Wichtigste in Kürze
- Der HBM-PIM ist der erste Speicher seiner Art, welcher auf künstliche Intelligenz setzt.
- Dieser Speicher kann laut Samsung so seine Leistung und Geschwindigkeit drastisch erhöhen.
- Insgesamt soll hier eine FP16-Rechenleistung mit 1,2 Teraflops möglich sein.
Samsung lancierte kürzlich einen neuen High-Bandwidth-Memory (HBM) mit einer integrierten künstlichen Intelligenz. Der HBM-PIM soll mit seiner Processing-in-Memory-Architektur (PIM) die Arbeit deutlich beschleunigen. Dies zeigt sich vor allem bei grossen Datenmengen in Rechenzentren, High-Performance-Computing (HPC)-Systemen und KI-fähigen mobilen Anwendungen.
Neuer Speicher von Samsung für KI-Training
Bei einigen Rechenbeschleunigerkarten kommen bereits Varianten von HBM und HBM2E zum Einsatz. Solche Chip-Stapel für hohe Datentransferraten seien vor allem fürs KI-Training wichtig. In diesen Situationen kommt es darauf an, grosse Datenbestände an Trainingsdaten zu durchforsten. Bei der neuen Lösung von Samsung kommen dabei simple FP16-Rechenwerke zum Zug.
So kann der neue HBM-PIM also die gespeicherten Daten auch gleich selbständig auswerten, wie «IT-Magazine» berichtet. Er liefert also einfach gesagt je nach Situation gleich die Ergebnisse anstatt der Rohdaten. Laut eigenen Angaben soll der HBM-PIM bis zu 70 Prozent effizienter und doppelt so schnell rechnen, wie vergleichbare Prozessoren. Dabei soll die FP16-Rechenleistung mit einer Kapazität von 6 Gigabyte bis zu 1,2 Teraflops erreichen.
