NutsDB richtet sich an Entwickler, die einen performanten und gleichzeitig speicherbewussten Key-Value-Store direkt in Go-Anwendungen integrieren möchten. Die DB kombiniert klassische Transaktionssicherheit mit einer optimierten Speicherarchitektur, die große Datensätze effizienter verarbeitet und Neustarts erheblich verkürzt.
Die Architektur von NutsDB.
(Bild: NutsDB)
NutsDB ist ein in Go entwickelter, eingebetteter Key-Value-Store, der sich auf Geschwindigkeit, Persistenz und einfache Integration konzentriert. Die Datenbank unterstützt vollständig serialisierbare Transaktionen und bietet neben klassischen Key-Value-Paaren auch komplexe Strukturen wie Listen, Sets und Sorted Sets. Durch ihren modularen Aufbau lässt sich NutsDB direkt in Anwendungen einbetten, ohne auf externe Serverprozesse angewiesen zu sein.
Architektur und Grundprinzip
Das System basiert auf einem speicherorientierten Segmentmodell. Daten werden sequentiell in Segmentdateien geschrieben, wodurch Schreibvorgänge konstant schnell bleiben. Jedes Segment hat eine feste Größe, die in den Optionen definiert wird. Diese Architektur ermöglicht einen kontinuierlichen Datenfluss und eine effiziente Verwaltung großer Datenmengen ohne aufwendige Sperrmechanismen.
Transaktionen bilden die zentrale Arbeitseinheit. Jede Operation erfolgt innerhalb eines Transaktionskontexts, der entweder nur lesend oder schreibend arbeitet. Schreibende Transaktionen können gleichzeitig auf verschiedene Buckets zugreifen. Lesetransaktionen greifen konsistent auf Snapshots der Daten zu und sind voneinander unabhängig.
Speicherorganisation und Buckets
Daten werden in Buckets gruppiert, die vergleichbar mit Tabellen in relationalen Datenbanken sind. Jeder Bucket enthält Schlüssel-Werte-Paare und wird manuell angelegt. Die Indexierung erfolgt über B-Bäume für schnelle Schlüsselauflösung. Bei umfangreichen Datensätzen hält NutsDB die Metadaten in Speicherstrukturen vor, die während des Neustarts aus den Datenfiles oder aus Hint-Dateien rekonstruiert werden.
Merge V2: kompakte Speicherbereinigung mit Atomics
Ein zentrales Element ist der Merge-V2-Algorithmus, der Speicherkompaktionen deutlich effizienter gestaltet. Er reduziert den Speicherbedarf um rund 65 Prozent und ermöglicht parallele Schreibvorgänge während der Bereinigung. Durch atomare Commit- und Rollback-Mechanismen bleibt die Datenkonsistenz auch bei Systemunterbrechungen erhalten.
HintFile: persistente Metadaten für schnellen Start
Mit der HintFile-Funktion beschleunigt NutsDB den Datenbankstart erheblich. Statt alle Segmentdateien zu scannen, nutzt das System persistente Indexdateien, die Metadaten zu Schlüssel, Bucket, TTL, Timestamp und Dateiposition enthalten. Diese Dateien werden automatisch während des Merge-Vorgangs erzeugt und beim nächsten Start eingelesen. Fehlen sie oder sind sie beschädigt, fällt das System automatisch auf den herkömmlichen Scan-Mechanismus zurück.
Die HintFile-Funktion verringert die Startzeit bei großen Datenmengen um mehr als 60 Prozent und reduziert den Speicherbedarf für Index-Rekonstruktion um ein Drittel. Sie lässt sich über die Option „EnableHintFile“ aktivieren und arbeitet vollständig transparent im Hintergrund.
Aktuelles eBook
Storage-Software als Effizienzbooster
eBook „Storage-Software als Effizienzbooster“
(Bild: Storage-Insider)
Mit der geeigneten Storage-Software kann sich ein Unternehmen einen Effizienzbooster ins Haus holen oder in der Cloud abonnieren. Dieser Booster steigert nicht nur die Performance der geschäftskritischen Anwendungen, sondern optimiert auch die Kosten der bereits installierten Speichersysteme.
Die Themen im Überblick:
Herausforderungen eines modernen Speichersystems
Methoden und Technologien effizienter Speichersysteme
Effizienter Speicher mit Pure Storage, AWS, Cohesity und Dell
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.