Speicherinfrastruktur Der unterschätzte Baustein agentischer KI

Anbieter zum Thema

Dell GmbH

FAST LTA GmbH

KI-Agenten leben von Daten. Entsprechend hoch sind die Anforderungen an die Speicherinfrastruktur: Sie muss Informationen schnell zugänglich, kontrollierbar, effizient nutzbar und zuverlässig wiederherstellbar machen. Storage wird dadurch von einer passiven Backend-Komponente zu einer zentralen Arbeitsgrundlage agentischer KI.

In Diskussionen über agentische KI geht es meist um KI-Modelle, GPUs oder die Orchestrierung von Workflows. Die Speicherinfrastruktur spielt dagegen – wenn überhaupt – nur eine Nebenrolle. Das ist zwar verständlich, denn Storage wird traditionell vor allem die Aufgabe zugeschrieben, Daten zuverlässig zu speichern und bereitzustellen. Er wird als Backend der IT betrachtet: zweifellos wichtig, aber im Hintergrund angesiedelt und mit einer eher passiven Rolle ausgestattet. In Zeiten agentischer KI wird dieser Blick der Speicherinfrastruktur aber nicht mehr gerecht.

KI-Agenten greifen fast bei jedem Arbeitsschritt auf Daten zu. Sie suchen nach Informationen, rufen Dokumente und Datensätze ab, vergleichen Inhalte und aktualisieren Systeme. Weist die zugrundeliegende Datenschicht Schwächen auf, weil sie etwa schwer durchsuchbar, langsam oder unzureichend geschützt ist, übernehmen die Agenten diese Schwächen und potenzieren sie unter Umständen sogar. Agentische KI stellt hohe Anforderungen an die Datenbasis, und diese haben wiederum direkte Konsequenzen für den Storage. Er muss deutlich mehr bieten als lediglich Speicherkapazität.

Schnellen Zugriff auf Unternehmenswissen unterstützen

Um ihre Aufgaben zuverlässig bearbeiten zu können, benötigen KI-Agenten Zugriff auf relevantes Unternehmenswissen. Dafür kommen beispielsweise RAG-Architekturen (Retrieval-Augmented Generation) zum Einsatz. Sie greifen auf Unternehmensdaten zu, ermitteln daraus die für eine Anfrage relevanten Informationen und stellen sie dem KI-Modell als Kontext zur Verfügung. Dabei greifen verschiedene Komponenten ineinander – etwa für Suche, Indexierung, Datenqualität und Orchestrierung. Der Storage bildet dafür die zugrunde liegende Datenbasis und muss die benötigten Informationen schnell und performant bereitstellen.

Dazu ist eine Speicherinfrastruktur mit niedrigen Zugriffslatenzen und hoher I/O-Performance erforderlich, die auch viele parallele, wiederholte und kleinteilige Datenzugriffe effizient bedienen kann. Ist der Zugriff auf die benötigten Daten langsam, beeinträchtigt das nicht nur die Leistung der KI-Agenten, sondern erhöht auch den Ressourcenbedarf der Suchprozesse. Eine geeignete Storage-Infrastruktur schafft damit eine wichtige Voraussetzung für die Performance und Wirtschaftlichkeit von agentischer KI.

Kontrollierte Datennutzung ermöglichen

Die Speicherinfrastruktur muss auch einen kontrollierten Umgang mit Unternehmensdaten unterstützen. KI-Agenten lesen organisationseigene Informationen nicht nur aus, sondern können sie häufig auch verändern oder übermitteln. Gleichzeitig setzen gesetzliche Vorgaben wie die DSGVO oder der EU AI Act Grenzen für die Verarbeitung von Daten durch KI-Systeme. Unabhängig davon liegt es auch im Eigeninteresse von Unternehmen, dass KI-Agenten sensible Daten nicht ungewollt verarbeiten oder sogar offenlegen.

Ihre Datenzugriffe müssen deshalb kontrolliert und nachvollziehbar sein. Dabei geht es nicht nur um die ursprünglichen Datenbestände, sondern auch um daraus abgeleitete Informationen wie Embeddings, Indizes und Metadaten. Berechtigungen und Sicherheitsmechanismen müssen auch für KI-Zugriffe gelten. Storage kann dafür wichtige Funktionen bereitstellen. Rollen- und dateibasierte Berechtigungen können den Zugriff einschränken, Audit-Funktionen machen nachvollziehbar, wer auf welche Daten zugegriffen hat.

Effizientes Inferencing unterstützen

Bei agentischer KI spielt nicht nur das Training großer Modelle eine wichtige Rolle, sondern auch das Inferencing, also der Einsatz der trainierten Modelle im laufenden Betrieb. Wenn Agenten mehrstufige Aufgaben bearbeiten, greifen sie fortlaufend auf Kontext zu. Je komplexer die Aufgaben werden, desto mehr Kontext muss für die Verarbeitung verfügbar gehalten werden. Das kann insbesondere den knappen GPU-Speicher stark belasten.

Eine wichtige Rolle spielt dabei der sogenannte KV-Cache, der bereits verarbeiteten Kontext für weitere Verarbeitungsschritte vorhält und dafür viel GPU-Speicher in Anspruch nehmen kann. In Szenarien mit langen Kontexten und hoher Parallelität kann es deshalb sinnvoll sein, einen Teil des KV-Cache aus dem GPU-Speicher auf Storage auszulagern und bei Bedarf wieder abzurufen. Dadurch steht mehr GPU-Speicher für das eigentliche Inferencing zur Verfügung, während der Kontext für die weiteren Schritte des Agenten erhalten bleibt.

Verlässliche Wiederherstellung gewährleisten

Auch an die Resilienz der Datenbasis stellt agentische KI hohe Anforderungen. Werden Daten beschädigt oder kompromittiert, kann sich dieses Problem durch KI-Agenten über mehrere Arbeitsschritte hinweg fortsetzen, bevor es erkannt wird. Die Speicherinfrastruktur muss Daten gut schützen und im Ernstfall zuverlässig wiederherstellen können. Mit geeigneten Backup- und Recovery-Verfahren sowie verlässlichen Wiederherstellungspunkten lässt sich dafür sorgen, dass KI-Agenten bei einer Störung auf einen bekannten und geprüften Datenbestand zurückgreifen können. Dabei müssen neben den eigentlichen Datenbeständen auch zugehörige Indizes und Metadaten konsistent wiederhergestellt werden können.

Recovery wird dadurch zu einem wichtigen Bestandteil einer KI-fähigen Storage-Infrastruktur. Je autonomer Agenten handeln, desto wichtiger ist die Gewissheit, dass sie nach einer Störung wieder mit vertrauenswürdigen Daten arbeiten können. Eine schnelle und zuverlässige Wiederherstellung trägt damit nicht nur zur Resilienz, sondern auch zur sicheren Skalierung agentischer KI bei.

Auch die Architektur muss passen

Nicht nur an die Leistungsfähigkeit und Funktionen der Speicherinfrastruktur stellt agentische KI hohe Anforderungen, sondern auch an ihre Architektur. KI-Agenten greifen auf unterschiedliche Datenbestände zu und führen verschiedene Workloads aus. Dafür können jeweils unterschiedliche Speicherumgebungen sinnvoll sein, etwa für den Zugriff auf unstrukturierte Daten, auf Objektbestände, auf Anwendungsdaten oder auf besonders geschützte Daten.

Die Herausforderung besteht darin, diese unterschiedlichen Umgebungen zu einer funktionierenden Gesamtarchitektur zu verbinden. Unternehmen sollten darauf achten, dass ihre Speicherinfrastruktur die verschiedenen Anforderungen abdecken kann, ohne dabei neue Datensilos zu schaffen. Sie sollte die unterschiedlichen Anforderungen entlang des KI-Lebenszyklus durchgängig unterstützen können: vom Training über den Zugriff auf Unternehmenswissen und das Inferencing bis hin zu Governance und Recovery.

Einen solchen integrierten Ansatz bildet beispielsweise die Dell AI Factory mit der Dell AI Data Platform ab. Diese verbindet Data Engines für Aufgaben wie Datenverarbeitung, Suche und Orchestrierung mit Storage Engines für die zugrunde liegende Dateninfrastruktur. So lassen sich unterschiedliche Datenbestände und KI-Workloads in einer ganzheitlichen Architektur unterstützen.

Storage wird zur Grundlage des „Knowledge Layers“

Die Speicherinfrastruktur wandelt sich von einer passiven Backend-Komponente zur Arbeitsgrundlage agentischer KI. Sie muss schnellen Zugriff auf relevantes Unternehmenswissen ermöglichen, eine sichere und kontrollierte Datennutzung unterstützen und verlässliche Wiederherstellung gewährleisten. Damit wird Storage zu einer zentralen Grundlage des „Knowledge Layers“ agentischer KI: Er stellt die Datenbasis bereit, auf der die verschiedenen Komponenten für den Zugriff auf Unternehmenswissen aufsetzen.

* Der Autor: Christian Winterfeldt ist Senior Director Data Center Sales bei Dell Technologies

Storage für KI: Training, Inferenz und Betrieb, Teil 1

Auf der Suche nach der passenden KI-Infrastruktur

(ID:50997578)