Mobile-Menu

Storage für KI: Training, Inferenz und Betrieb – Teil 3 Architektur und Skalierbarkeit von Speichersystemen

Von Michael Matzer 6 min Lesedauer

Anbieter zum Thema

DataCore Software GmbH

Die Prioritäten für Storage haben sich durch den Erfolg Künstlicher Intelligenz erheblich geändert. Stehen bislang Applikationen im Mittelpunkt, die Daten verarbeiten sollen, so werden künftig die Daten selbst in den Fokus rücken, und das erfordert moderne hybride Speicherarchitekturen.

Für den erfolgreichen Unternehmenseinsatz von KI-Modellen führt kein Weg an hybriden Speicherarchitekturen vorbei.(Bild: KI-generiert)
Für den erfolgreichen Unternehmenseinsatz von KI-Modellen führt kein Weg an hybriden Speicherarchitekturen vorbei.
(Bild: KI-generiert)

Auf der einen Seite ist hohe Kapazität gefragt, damit die KI-Apps und -Agenten stets über GPUs ausreichend große Mengen unterschiedlicher Daten verarbeiten können, besonders im Training. Das Medium der Wahl ist ein Array von Festplatten. Deren Kapazität liegt mittlerweile bei 60 TB (komprimiert).

Auf der anderen Seite sind beim Schritt der Inferenz geringe Latenz und hohe IOPS gefragt. Diese Workloads greifen am schnellsten auf NVMe-optimierte Flash-Memory-Appliances und SSDs zu, die geringe Latenz und hohen IOPS gewährleisten. Sie sind zwar etwas teurer als Festplatten, liefern aber die nötige Performance, um GPU-Cluster auszulasten. Doch welche Workloads erfordern welchen Storage?

Weiterführende Inhalte