Mobile-Menu

Speichertipp: Neue Merge-Engine und HintFile-Beschleunigung NutsDB: Key-Value-Datenbank in Go mit transaktionssicherem Design

Von Thomas Joos 2 min Lesedauer

Anbieter zum Thema

NutsDB richtet sich an Entwickler, die einen performanten und gleichzeitig speicherbewussten Key-Value-Store direkt in Go-Anwendungen integrieren möchten. Die DB kombiniert klassische Transaktionssicherheit mit einer optimierten Speicherarchitektur, die große Datensätze effizienter verarbeitet und Neustarts erheblich verkürzt.

Die Architektur von NutsDB.(Bild:  NutsDB)
Die Architektur von NutsDB.
(Bild: NutsDB)

NutsDB ist ein in Go entwickelter, eingebetteter Key-Value-Store, der sich auf Geschwindigkeit, Persistenz und einfache Integration konzentriert. Die Datenbank unterstützt vollständig serialisierbare Transaktionen und bietet neben klassischen Key-Value-Paaren auch komplexe Strukturen wie Listen, Sets und Sorted Sets. Durch ihren modularen Aufbau lässt sich NutsDB direkt in Anwendungen einbetten, ohne auf externe Serverprozesse angewiesen zu sein.

Architektur und Grundprinzip

Das System basiert auf einem speicherorientierten Segmentmodell. Daten werden sequentiell in Segmentdateien geschrieben, wodurch Schreibvorgänge konstant schnell bleiben. Jedes Segment hat eine feste Größe, die in den Optionen definiert wird. Diese Architektur ermöglicht einen kontinuierlichen Datenfluss und eine effiziente Verwaltung großer Datenmengen ohne aufwendige Sperrmechanismen.

Transaktionen bilden die zentrale Arbeitseinheit. Jede Operation erfolgt innerhalb eines Transaktionskontexts, der entweder nur lesend oder schreibend arbeitet. Schreibende Transaktionen können gleichzeitig auf verschiedene Buckets zugreifen. Lesetransaktionen greifen konsistent auf Snapshots der Daten zu und sind voneinander unabhängig.

Speicherorganisation und Buckets

Daten werden in Buckets gruppiert, die vergleichbar mit Tabellen in relationalen Datenbanken sind. Jeder Bucket enthält Schlüssel-Werte-Paare und wird manuell angelegt. Die Indexierung erfolgt über B-Bäume für schnelle Schlüsselauflösung. Bei umfangreichen Datensätzen hält NutsDB die Metadaten in Speicherstrukturen vor, die während des Neustarts aus den Datenfiles oder aus Hint-Dateien rekonstruiert werden.

Merge V2: kompakte Speicherbereinigung mit Atomics

Ein zentrales Element ist der Merge-V2-Algorithmus, der Speicherkompaktionen deutlich effizienter gestaltet. Er reduziert den Speicherbedarf um rund 65 Prozent und ermöglicht parallele Schreibvorgänge während der Bereinigung. Durch atomare Commit- und Rollback-Mechanismen bleibt die Datenkonsistenz auch bei Systemunterbrechungen erhalten.

HintFile: persistente Metadaten für schnellen Start

Mit der HintFile-Funktion beschleunigt NutsDB den Datenbankstart erheblich. Statt alle Segmentdateien zu scannen, nutzt das System persistente Indexdateien, die Metadaten zu Schlüssel, Bucket, TTL, Timestamp und Dateiposition enthalten. Diese Dateien werden automatisch während des Merge-Vorgangs erzeugt und beim nächsten Start eingelesen. Fehlen sie oder sind sie beschädigt, fällt das System automatisch auf den herkömmlichen Scan-Mechanismus zurück.

Die HintFile-Funktion verringert die Startzeit bei großen Datenmengen um mehr als 60 Prozent und reduziert den Speicherbedarf für Index-Rekonstruktion um ein Drittel. Sie lässt sich über die Option „EnableHintFile“ aktivieren und arbeitet vollständig transparent im Hintergrund.

Aktuelles eBook

Storage-Software als Effizienzbooster

eBook Storage-Software als Effizienzbooster
eBook „Storage-Software als Effizienzbooster“
(Bild: Storage-Insider)

Mit der geeigneten Storage-Software kann sich ein Unternehmen einen Effizienzbooster ins Haus holen oder in der Cloud abonnieren. Dieser Booster steigert nicht nur die Performance der geschäftskritischen Anwendungen, sondern optimiert auch die Kosten der bereits installierten Speichersysteme.

Die Themen im Überblick:

  • Herausforderungen eines modernen Speichersystems
  • Methoden und Technologien effizienter Speichersysteme
  • Effizienter Speicher mit Pure Storage, AWS, Cohesity und Dell

(ID:50641011)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Data-Storage und -Management

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung