Mit seiner optimierten Softwareversion will Kioxia eine Open-Source-Lösung für skalierbare, KI-gestützte Anwendungen bieten. Die optimierte SSD-Nutzung ermöglicht ein gutes Gleichgewicht zwischen Suchleistung und Vektoranzahl, ohne Hardwareänderungen.
Kioxia meistert den Balanceakt zwischen Leistung und Zugänglichkeit, indem es seine SSD-zentrierten Architekturen als Open-Source-Version zur Unterstützung der KI-Community bereitstellt.
Kioxia hat die Open-Source-Version seiner AiSAQ-Software (All-in-Storage-ANNS with Product Quantization) weiterentwickelt. Dabei liegt der Fokus des Unternehmens auf der Verbesserung der Benutzerfreundlichkeit der KI-gestützten Vektordatenbanksuche in RAG-Systemen (Retrieval Augmented Generation). Diese soll durch eine optimierte Nutzung von Solid-State-Laufwerken (SSDs) erreicht werden.
Dank neuer Steuerungsfunktionen sollen Systemarchitekten nun einfacher das Verhältnis zwischen Suchleistung und der Menge an Vektoren festlegen können, die bei gleichbleibender SSD-Speicherkapazität im System konkurrieren. Dadurch sollen Architekten von RAG-Systemen die Möglichkeit haben, ohne Änderungen an der Hardware die ideale Balance zwischen spezifischen Workloads und deren Anforderungen herzustellen.
Kioxias AiSAQ-Software optimiert Vektordatenbanksuche auf SSDs
Die AiSAQ-Software von Kioxia, die erstmals im Januar 2025 vorgestellt wurde, nutzt einen innovativen ANNS-Algorithmus (Approximate Nearest Neighbor Search), der speziell für SSDs optimiert wurde und das Speichern von Indexdaten im DRAM überflüssig machen soll. Das ermöglicht die Vektorsuche direkt auf SSDs und reduziert den Speicherbedarf auf dem Host. Diese Technologie gestattet die Skalierung von Vektordatenbanken, ohne durch die begrenzte DRAM-Kapazität eingeschränkt zu sein.
Bei einer festen SSD-Kapazität im System führt eine höhere Suchleistung (Abfragen pro Sekunde) zu einem höheren SSD-Kapazitätsverbrauch pro Vektor, was die Anzahl der Vektoren verringert. Umgekehrt muss der Kapazitätsverbrauch pro Vektor gesenkt werden, um die Vektoranzahl zu maximieren, was jedoch Leistungsabstriche bedeutet. Das optimale Gleichgewicht zwischen diesen gegensätzlichen Faktoren hängt von den spezifischen Arbeitslasten ab.
Lösung für skalierbare KI-Dienste und semantische Suche
Mit der neuesten Version soll die AiSAQ-Technologie nicht nur zu einer optimalen SSD-basierten ANNS-Lösung für RAG-Anwendungen werden, sondern auch ihre Bedeutung für andere Anwendungen erhöhen, die viele Vektoren nutzen, wie die semantische Offline-Suche.
Angesichts des steigenden Bedarfs an skalierbaren KI-Diensten sind SSDs eine praktikable Alternative zu DRAM, um den hohen Durchsatz und die geringe Latenz bereitzustellen, die von RAG-Systemen verlangt werden. Die AiSAQ-Software von Kioxia soll diese Anforderungen erfüllen, indem sie GenAI im großen Maßstab ermöglicht, ohne durch begrenzte Speicherressourcen eingeschränkt zu sein.
Aktuelles eBook
Storage-Software als Effizienzbooster
eBook „Storage-Software als Effizienzbooster“
(Bild: Storage-Insider)
Mit der geeigneten Storage-Software kann sich ein Unternehmen einen Effizienzbooster ins Haus holen oder in der Cloud abonnieren. Dieser Booster steigert nicht nur die Performance der geschäftskritischen Anwendungen, sondern optimiert auch die Kosten der bereits installierten Speichersysteme.
Die Themen im Überblick:
Herausforderungen eines modernen Speichersystems
Methoden und Technologien effizienter Speichersysteme
Effizienter Speicher mit Pure Storage, AWS, Cohesity und Dell
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.