Der Datensicherungsexperte Fast LTA hat mit „Silent AI“ eine neue lokale KI-Appliance für sichere und private GenAI-Anwendungen vorgestellt. Sie ist vor allem für Enterprise-Knowledge-Management konzipiert und zudem als Plattform zur Integration privater KI für Anwendungsentwickler verfügbar.
Mit „Silent AI“ bietet Fast LTA eine lokale KI-Appliance für sichere und private GenAI-Anwendungen an.
(Bild: FAST LTA)
„Silent AI“ wurde laut Fast LTA entwickelt, um den zunehmenden Anforderungen an sichere und private GenAI-Anwendungen gerecht zu werden. Die KI-Appliance soll für höchste Datensicherheit und Privatsphäre sorgen. Sie basiert auf einem lokalen LLM („Large Language Model“) mit Retrieval-Augmented Generation (RAG) und ebenfalls lokalen Vektordatenbanken. „Silent AI“ soll umfassende Services zur Anbindung verschiedener Wissensquellen bieten, ohne dass internes Know-how jemals die Appliance verlässt.
Laut Fast LTA ist „Silent AI“ vor allem für Unternehmen und Organisationen gedacht, die höchste Sicherheitsanforderungen an ihre Daten stellen sowie sensible und vertrauliche Informationen verarbeiten müssen. Das System eignet sich zudem für Nutzer, die effiziente und zuverlässige GenAI-Anwendungen implementieren wollen, ohne dabei auf externe Cloud-Dienste angewiesen zu sein. Alle Datenverarbeitungsprozesse finden vollständig innerhalb der Appliance statt. Bestehendes Rechte- und Benutzermanagement wird respektiert, zudem ist ein vollständig vom Internet unabhängiger Betrieb möglich. Laut dem Hersteller arbeitet die Appliance besonders energieeffizient.
Funktionen im Überblick
Die Appliance integriert ein lokales und durch RAG ergänztes LLM. RAG soll die Genauigkeit und Verlässlichkeit generierter Inhalte verbessern, indem die Technologie relevante Informationen aus lokalen Dokumenten und Datenbanken abruft und so KI-Halluzinationen ausschließt. Laut Fast LTA ist ein Nachtrainieren des LLMs nicht notwendig und findet nicht statt.
„Silent AI“ nutzt lokale Vektordatenbanken, um hochdimensionale Vektoreinbettungen effizient zu speichern und zu durchsuchen. Derartige Datenbanken sind speziell für die Anforderungen von Machine Learning und KI optimiert und ermöglichen schnelle und präzise Ähnlichkeitssuchen. Granulares Rechte-Management und eine Möglichkeit zur Entfernung einzelner Datenbanken gewährleisten Datensicherheit und Datenschutz. Die Appliance bietet zudem einen Service zur Anbindung und Integration verschiedener Wissensquellen, einschließlich interner Datenbanken, Dokumentensammlungen und Knowledge-Graphs. Somit sind nahtlose Erweiterungen und Anpassungen der GenAI-Anwendungen an spezifische Bedürfnisse und Datenbestände möglich.
Verfügbarkeit
Fast LTA wird „Silent AI“ ab Herbst in Form einer schlüsselfertigen Lösung als Managed KI-Appliance und als Entwicklerplattform zur Integration in andere Anwendungen anbieten.
Aktuelles eBook
Storage für HPC & KI
eBook „Storage für HPC & KI“
(Bild: Storage-Insider)
Speichersysteme für das HPC und für die verschiedenen Disziplinen der KI sind hohen Anforderungen ausgesetzt. Denn sie müssen enorme Datenmengen in kürzester Zeit bereitstellen oder sammeln. Wie können diese Herausforderungen gemeistert werden?
Die Themen im Überblick:
Aktuelle Trends in der Künstlichen Intelligenz
High-Performance Computing – Explosion der Innovationen
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.