Mobile-Menu

Storage für KI: Training, Inferenz und Betrieb – Teil 1 Auf der Suche nach der passenden KI-Infrastruktur

Von Michael Matzer 3 min Lesedauer

Anbieter zum Thema

DataCore Software GmbH
FAST LTA GmbH

Immer mehr Unternehmen investieren in KI-unterstützende Technologien ihrer IT-Infrastruktur. Dazu gehören Rechenleistung, Netzwerke und natürlich Speicher. Schnell stoßen sie bei ihren Projekten auf spezifische Anforderungen, die jede KI-Workload aufweist.

Eine geeignete Storage-Infrastruktur ist eine der grundlegenden Komponenten für den Betrieb von KI-Modellen im Unternehmen.(Bild: KI-generiert)
Eine geeignete Storage-Infrastruktur ist eine der grundlegenden Komponenten für den Betrieb von KI-Modellen im Unternehmen.
(Bild: KI-generiert)

KI-Modelle und ihre Nutzung lassen sich unter den Schritten Training, Inferenz und Betrieb betrachten. Im Training greifen große Sprachmodelle (LLMs) – sei es für generative oder prädiktive Modelle – auf relativ große Dateimengen zu, denn dabei wird quasi das Weltwissen des Modells geladen. Dabei ist es gleichgültig, ob dieses Wissen, abgelegt im „Knowledge Graph“, über firmeninterne Daten oder über externe Daten verfügt – beide müssen geprüft und geschützt werden.

Mithilfe von Retrieval Augmented Generation (RAG) lassen sich begrenze Datenpools je nach Bedarf erweitern. Da hierbei Datenindizes, viele kleine Chunks und Vektordaten für Worteinbettungen angelegt werden, sollte der Nutzer beachten, dass sein Storage-System nicht nur große Dateien aus Data Lakes, sondern auch viele kleine solcher Dateien effizient verarbeiten kann.

Weiterführende Inhalte