Storage für Trainings- und Voice-Workloads DeepL setzt für Sprach-KI auf das Vast AI Operating System

Anbieter zum Thema

DeepL SE

VAST Data

FAST LTA GmbH

DeepL will das AI Operating System von Vast Data als Datenbasis für seine Forschungs- und Entwicklungsumgebungen einsetzen. Der Anbieter von Sprach-KI erwartet davon eine effizientere Nutzung seiner bestehenden NVMe-Infrastruktur und mehr Kapazität für Trainings- und Voice-Workloads.

Nach eigenen Angaben nutzen mehr als 200.000 Business-Teams und Millionen Einzelnutzer die Übersetzungsdienste von DeepL. Mit der Nutzerbasis wachsen Umfang und Vielfalt der KI-Workloads, welche die Forschungsteams des Unternehmens abdecken müssen. Das Training zunehmend anspruchsvoller Sprachmodelle setze voraus, dass Forschende große Datensätze schnell und zuverlässig abrufen und verarbeiten können. Besonders datenintensiv seien neue Bereiche wie die Echtzeit-Sprachbearbeitung, deren Trainingsanforderungen deutlich über denen reiner Textmodelle lägen.

Stefan Andresen, Chief Scientist bei DeepL, verweist darauf, dass die Infrastruktur mit den Anforderungen der Forschung Schritt halten müsse. Vast biete die dafür nötige Leistung und Zuverlässigkeit und erlaube es zugleich, die bestehende Infrastruktur deutlich effizienter zu nutzen.

Mehr Kapazität auf vorhandener Hardware

DeepL will Vast einsetzen, um eine leistungsfähigere und widerstandsfähigere Datenumgebung aufzubauen. Nach aktuellen Planungen erwartet das Unternehmen, auf seiner Hardware etwa die dreifache Speicherkapazität zu erreichen. Forschungsteams sollen dadurch mehr Spielraum bei der Skalierung der Modellentwicklung erhalten, ohne dass die physische Infrastruktur im gleichen Maß wachsen muss.

Für die Migration der Daten aus der bestehenden Umgebung will DeepL die SyncEngine-Technologie von Vast nutzen. Sie soll den Übergang auf die neue Plattform erleichtern.

Das Vast AI Operating System stellt File- und Object-Storage auf einer einheitlichen Plattform bereit. DeepL verspricht sich davon mehr Flexibilität für sich verändernde KI-Workloads sowie eine vereinfachte Datenstruktur. Vast zufolge bildet die Plattform eine gemeinsame Datenbasis für Modellentwicklung, Training und Inferenz. Organisationen sollen File- und Object-Datendienste konsolidieren und konsistent auf Daten über eine verteilte KI-Infrastruktur hinweg zugreifen können.

Cloud-Anbindung als Ausblick

Langfristig plant DeepL, Vast über die eigenen Rechenzentren hinaus auch in Cloud-Umgebungen einzusetzen. Forschungsteams sollen so über alle Standorte hinweg konsistenten Zugriff auf die benötigten Daten erhalten. Das manuelle Kopieren von Datensätzen zwischen Umgebungen, das Experimente und Modellentwicklung verlangsamen kann, würde sich damit verringern. Auch der Wechsel zwischen Datentraining und Produktivumgebungen soll effizienter werden.

Hintergrund: DeepL Voice

Von Bedeutung ist dies laut DeepL vor allem wegen der Investitionen in Echtzeit-Sprachübersetzung. Die Lösung DeepL Voice, im November 2024 eingeführt, überträgt die Technologie des Unternehmens auf mehrsprachige Livedialoge. Jüngere Entwicklungen sollen es ermöglichen, die Stimmcharakteristik eines Sprechers über Sprachen hinweg zu erhalten. Entwicklung und Training solcher Funktionen stellen nach Angaben des Unternehmens hohe Anforderungen an Datenzugriff und Infrastrukturleistung.

Jeff Denworth, Mitgründer von Vast Data, sieht in DeepL ein Beispiel dafür, wie schnell sich die Infrastrukturanforderungen durch KI verändern. Sobald KI in den Produktivbetrieb gehe, sei die Zuverlässigkeit der Infrastruktur ebenso wichtig wie die reine Leistung. Forschende sollten bei einem Wechsel von Modell oder Produkt die Infrastruktur nicht umbauen müssen.

Storage für KI: Training, Inferenz und Betrieb, Teil 1

Auf der Suche nach der passenden KI-Infrastruktur

(ID:50997820)