PCs mit leistungsfähigem Speicher für KI-Workloads Heute besorgen – oder verschieb’ es lieber auf morgen?

Anbieter zum Thema

FAST LTA GmbH

Impossible Cloud GmbH

Was man mit Sicherheit sagen kann, ist, dass KI-PCs in aller Munde sind. Die Hersteller kämpfen bereits darum, auf diesem rasant wachsenden Markt Fuß zu fassen. Bei so viel Marketing-Hype um diese Computer kann es für Unternehmen verlockend sein, sofort zu investieren. Allerdings steckt diese neue Computergeneration noch in den Kinderschuhen, so dass IT-Verantwortliche darauf achten sollten, dass ihre gerade neu erworbenen Systeme nicht schon bald veraltet sind.

KI-PCs und auf maschinellem Lernen basierende Arbeitsprozesse erfordern im Allgemeinen eine beträchtliche Menge an Speicher- und Datenabrufkapazität, sodass es wichtig ist, dass die SSD und der Arbeitsspeicher den Anforderungen entsprechen.

Was ist ein KI-PC?

KI-PCs waren anfangs ein etwas unklares Konzept. Im Wesentlichen sind es aber einfach Computer, deren Architektur speziell für KI-Arbeitslasten optimiert ist.

Im Mittelpunkt dieses neuen technologischen Wettrüstens steht die Neural Processing Unit (NPU), eine Klasse von Hardware-Beschleunigern, die, wie Microsoft es formuliert, „über eine Architektur verfügt, die das neuronale Netz des menschlichen Gehirns simuliert“. Diese Module sind darauf ausgelegt, komplexe Datenmuster zu erkennen, um KI-Arbeitslasten effizienter zu bewältigen und maschinelle Lernaufgaben zu optimieren.

Auch wenn Microsoft nach der Einführung seiner Copilot+-PCs im Juni die Leistung der NPUs angepriesen hat, ist immer noch umstritten, wie zentral sie für die Funktionalität eines KI-PCs sind.

Nvidia hat vor kurzem angedeutet, dass seine RTX-GPUs allein genug Leistung für ein „Premium-KI-PC“-Erlebnis bieten, verglichen mit dem „einfachen“ Erlebnis mit einer NPU auf dem Prozessor.

Auch wenn dies Zweifel daran aufkommen lässt, wie wichtig Computer, die als KI-PCs vermarktet werden, für KI-Workloads sind, versprechen NPUs dennoch klare Vorteile. Im Vergleich zu ihren GPU-Pendants sind NPUs speziell für lokale KI-Aufgaben optimiert und gleichzeitig energieeffizienter – ideal also gerade für akkubetriebene Geräte.

Ihre Architektur, so Qualcomm, „hat sich mit der Entwicklung neuer KI-Algorithmen, Modelle und Anwendungsfälle weiterentwickelt“ und gibt durch die Konzentration auf KI-Aufgaben für CPU und GPU Kapazitäten frei.

Wie viel Speicherplatz benötigen KI-PCs?

Eine gute Faustformel lautet: wahrscheinlich mehr, als man glaubt. Microsoft behauptet zwar, dass man für die Copilot+-PCs mindestens 256 GB benötigt, in der Realität könnte es allerdings dazu führen, dass Unternehmen in kurzer Zeit völlig unterversorgt sind.

Die Zukunft der KI-PCs von OEMs, mit der Unterstützung von Chip-Herstellern und ISVs, deutet auf enorme Veränderungen und ein Wachstum der Anwendungen und Anforderungen an diese Geräte hin. Mit Blick auf die Zukunft müssen sich Unternehmen auf diese künftigen Anforderungen einstellen. Die Welt, in der wir heute leben, wird in relativ kurzer Zeit ganz anders aussehen.

Auch ohne KI-PCs lohnt es sich, in Hochgeschwindigkeits-NVMe-SSDs für KI-Workloads zu investieren, da sie schneller und energieeffizienter als HDDs sind und die KI-Engine schnell in den DRAM laden und Datensätze aus dem Speicher abrufen können.

Was den Speicherplatz angeht, rät Asus anders als Microsoft: „1 TB ist das absolute Minimum. 2 TB sind deutlich besser.“ Je nach Arbeitslast benötigt man möglicherweise mehr Speicherplatz, zumal am Markt auch SSDs mit 4 TB zur Verfügung stehen.

Kleine Sprachmodelle – eine Form des maschinellen Lernens auf lokaler Ebene – geben KI-PCs die Möglichkeit, Daten selektiv zwischen dem internen Speicher eines PCs und Cloud-Speichernetzwerken zu verschieben, was nach Ansicht von Rob May – er ist Gründer und Geschäftsführer von ramsac und der britische Cybersicherheitsbotschafter für das Institute of Directors – das Beste aus beiden Welten bereitstellt.

„Dieser gemischte Ansatz verbindet die Stärken der Cloud für intensive Aufgaben und Datenspeicherung mit der Geschwindigkeit und den Datenschutzvorteilen der lokalen Verarbeitung“, erklärt er.

Diese Kombination von Vorteilen, so May weiter, „senkt die Latenzzeit, spart Bandbreite, verbessert die Datensicherheit und reduziert die Menge an sensiblen Daten, die in die Cloud gesendet werden.“

„Speicherhungrig“ – der Storage-Insider-Podcast, Folge 8

Speichergrößen: Michael Heuer, Keepit

Sicherheit und Datenschutz

KI-Anwendungen sind für Unternehmen heute zweifellos leichter zugänglich, dank der Plug-and-play-Dienste, die in der Cloud gehostet werden. Dies bietet Unternehmen zwar den Vorteil, dass sie diese Anwendungen optimal nutzen können, ohne sich um die Speicherung vor Ort kümmern zu müssen, doch das Cloud-Computing ist nicht ohne Sicherheitsrisiken.

Da immer mehr Unternehmen auf Cloud-Umgebungen umsteigen, gibt es auch immer mehr Angriffe auf diese Netzwerke. Eine von Thales Cloud Security durchgeführte Studie von 2023 hat ergeben, dass 39 Prozent der Unternehmen im vergangenen Jahr in ihrer Cloud-Umgebung von einer Datenverletzung betroffen waren.

KI-PCs können dazu beitragen, diesen potenziellen Schaden zu begrenzen, da sie unterscheiden können, welche Daten in die Hände eines Drittanbieters in der Cloud gelegt werden dürfen und welche am besten im Unternehmen bleiben.

Selbst wenn es zu einem Cyberangriff kommt oder die Cloud aufgrund von Verbindungsproblemen nicht verfügbar ist, können lokale KI-Modelle die Kontinuität der lokalen Nutzung im Unternehmen gewährleisten. Allerdings ist ein hybrider und umfassender Ansatz erforderlich, um lokalen Bedrohungen wie Manipulationsversuchen oder Malware zu begegnen.

Wo stehen wir heute bei KI-PCs, und wann sollte ich upgraden?

Marktanalysten gehen übereinstimmend davon aus, dass im Jahr 2024 rund 50 Millionen KI-PCs ausgeliefert werden – das ist etwa jeder fünfte gelieferte PC.

Microsoft-Copilot+-PCs, die am 18. Juni auf den Markt kamen, trugen dazu bei, diese Produkte in den Mainstream zu bringen. Sie verfügen über eine Rechenleistung von mehr als 40 TOPS (Billionen von Operationen pro Sekunde), eine zunehmend wichtige Kennzahl in der Welt der KI-PCs.

Dieser von Microsoft gesetzte Standard könnte jedoch nicht mehr allzu lange relevant sein, da die Ryzen-AI-300-Serie von AMD, die voraussichtlich noch in diesem Jahr mit Copilot+ kompatibel sein wird, ihre NPUs auf 55 TOPs steigert.

IT-Verantwortliche mit „FOMO“, also der Angst, etwas zu verpassen, möchten möglicherweise sofort eine Charge neuer KI-PCs bestellen. Andere wollen angesichts der rasanten Entwicklung des Marktes vielleicht abwarten, wie sich diese neue Technologie entwickelt, und stattdessen lieber ihre bestehenden Systeme mit neuem Arbeitsspeicher und SSDs aufrüsten. Dies kann helfen, dass potenzielle Kunden nicht zweimal kaufen müssen, insbesondere wenn sie sich in der Mitte oder gegen Ende ihres Erneuerungszyklus befinden.

Wenn Ihr Aktualisierungszyklus noch drei oder vier Jahre aussteht, ist es vielleicht günstiger abzuwarten, bis sich die Leistung, die Anwendungen und die Kosten von KI-PCs verbessern, bevor man sich für eine Neuanschaffung entscheidet.

Käufer sollten darauf achten, dass die Einheiten nicht mit der Hauptplatine verlötet sind, was sonst dazu führen könnte, dass sie mit unzureichendem Speicher, Arbeitsspeicher und Funktionalität festsitzen. Sie sollten außerdem die Datensätze bedenken, die von KI-Modellen genutzt werden. Je mehr sie über die Vorlieben der Nutzer und ihre Systemnutzung erfahren, desto stärker können diese wachsen.

Eine Unterspezifizierung bei neuen KI-PCs könnte ein Fehler sein, für den man möglicherweise bis zu fünf Jahre bezahlen muss. Vorausschauendes Denken kann sich also wirklich lohnen!

* Der Autor: Christian Marhoefer, Regional Director DACH, Benelux and Nordics, Kingston Technology

Aktuelles eBook

Storage für HPC & KI

Speichersysteme für das HPC und für die verschiedenen Disziplinen der KI sind hohen Anforderungen ausgesetzt. Denn sie müssen enorme Datenmengen in kürzester Zeit bereitstellen oder sammeln. Wie können diese Herausforderungen gemeistert werden?

Die Themen im Überblick:

• Aktuelle Trends in der Künstlichen Intelligenz
• High-Performance Computing – Explosion der Innovationen
• Künstliche Intelligenz – nahezu Echtzeit-Datenverarbeitung

eBook „Storage für HPC & KI“ kostenlos downloaden

(ID:50177557)