Heute tauchen wir in die Welt des Caching ein. Caching ist eine Geheimwaffe für den Aufbau skalierbarer Hochleistungssysteme. Es gibt viele Arten von Caching, aber in diesem Artikel konzentrieren wir uns auf das Backend-Objekt-Caching (Backend-Caching). Wenn Sie es beherrschen, können Sie leistungsstarke und zuverlässige Software erstellen. In diesem Artikel untersuchen wir: Wir untersuchen Caching und erklären, wie es Daten vorübergehend speichert, um einen schnelleren Zugriff zu ermöglichen. Was ist Caching? : Entdecken Sie, wie Caching die Geschwindigkeit erhöht, die Serverlast reduziert, das Benutzererlebnis verbessert und sogar Kosten senken kann. Vorteile des Caching : In diesem Abschnitt werden wir uns mit verschiedenen Möglichkeiten zur Verwendung des Caches befassen. Denken Sie daran, dass jeder Ansatz Vor- und Nachteile hat. Wählen Sie also unbedingt das richtige Muster für Ihre Anforderungen! Caching-Muster : Jetzt wissen Sie, wie Sie zwischengespeicherte Daten speichern und abrufen. Aber wie stellen Sie sicher, dass Ihre zwischengespeicherten Daten aktuell bleiben? Und was passiert, wenn der Cache seine Kapazität erreicht? Best Practice für das Caching : Obwohl das Caching viele Vorteile bietet, gibt es Situationen, in denen es besser vermieden werden sollte. Die Implementierung des Caching im falschen System kann die Komplexität erhöhen und möglicherweise sogar die Leistung beeinträchtigen. Wann Sie kein Cachen verwenden sollten Was ist Caching? Bei der Erstellung einer leistungsstarken und skalierbaren Anwendung geht es vor allem darum, Engpässe zu beseitigen und das System effizienter zu machen. Datenbanken verursachen aufgrund ihrer Speicher- und Verarbeitungsanforderungen häufig Engpässe bei der Systemleistung. Dies macht sie zu einer kostspieligen Komponente, da sie häufig hochskaliert werden müssen. Glücklicherweise gibt es eine Komponente, die dazu beitragen kann, die Nutzung von Datenbankressourcen zu verringern und gleichzeitig die Geschwindigkeit des Datenabrufs zu verbessern – diese Komponente heißt . Cache Cache ist ein temporärer Speicher, der für schnelles Schreiben und Lesen von Daten konzipiert ist. Er verwendet Speicher mit geringer Latenz und optimierte Datenstrukturen für schnelle Vorgänge. Wahrscheinlich haben Sie Redis oder Memcached bereits verwendet oder zumindest ihre Namen gehört. Dies sind zwei der beliebtesten verteilten Caching-Systeme für Backend-Dienste. Redis kann sogar als primäre Datenbank fungieren, aber das ist ein Thema für einen anderen Artikel! Vorteile des Caching Der Hauptvorteil des Caching ist seine Geschwindigkeit. Das Lesen von Daten aus einem Cache ist deutlich schneller als das Abrufen aus einer Datenbank (wie SQL oder Mongo). Diese Geschwindigkeit wird dadurch erreicht, dass Caches Wörterbuch- (oder HashMap-)Datenstrukturen für schnelle Operationen verwenden und Daten im Hochgeschwindigkeitsspeicher statt auf der Festplatte speichern. Zweitens verringert das Caching die Belastung Ihrer Datenbank. So können Anwendungen die benötigten Daten aus dem Cache abrufen, anstatt ständig auf die Datenbank zuzugreifen. Dadurch wird die Nutzung der Hardwareressourcen drastisch verringert; anstatt auf der Festplatte nach Daten zu suchen, greift Ihr System einfach aus dem schnellen Speicher darauf zu. Diese Vorteile verbessern unmittelbar das Benutzererlebnis und können zu Kosteneinsparungen führen. Ihre Anwendung reagiert viel schneller und sorgt für ein reibungsloseres und zufriedenstellenderes Benutzererlebnis. Caching reduziert die Infrastrukturkosten. Obwohl ein verteiltes System wie Redis seine eigenen Ressourcen benötigt, sind die Gesamteinsparungen oft erheblich. Ihre Anwendung greift effizienter auf Daten zu, sodass Sie möglicherweise Ihre Datenbank verkleinern können. Dies ist jedoch mit einem Kompromiss verbunden: Wenn Ihr Cache-System ausfällt, stellen Sie sicher, dass Ihre Datenbank auf die erhöhte Last vorbereitet ist. Cache-Muster Nachdem Sie nun die Leistungsfähigkeit des Caching kennen, sehen wir uns an, wie Sie es am besten nutzen können. In diesem Abschnitt untersuchen wir zwei grundlegende Musterkategorien: und . Diese Muster bieten Strategien zum Verwalten von Cache-Updates und zum Behandeln von Situationen, in denen die benötigten Daten noch nicht im Cache vorhanden sind. Cache-Schreibmuster Cache-Fehlermuster Schreibmuster Schreibmuster bestimmen, wie Ihre Anwendung mit dem Cache und Ihrer Datenbank interagiert. Sehen wir uns drei gängige Strategien an: , und . Jede dieser Strategien bietet einzigartige Vorteile und Nachteile: Write-back Write-through Write-around Schreib zurück Wie es funktioniert: Ihre Anwendung interagiert nur mit dem Cache. Der Cache bestätigt den Schreibvorgang sofort. Ein Hintergrundprozess kopiert dann die neu geschriebenen Daten in die Datenbank. Schreibintensive Anwendungen, bei denen Geschwindigkeit entscheidend ist und gewisse Inkonsistenzen aus Leistungsgründen akzeptabel sind. Beispiele hierfür sind Metrik- und Analyseanwendungen. Ideal für: Vorteile: Die Daten befinden sich für einen schnellen Zugriff immer im Cache und umgehen die Datenbank vollständig. Schnelleres Lesen: Ihre Anwendung wartet nicht auf Datenbankschreibvorgänge, was zu schnelleren Reaktionszeiten führt. Schnellere Schreibvorgänge: Batch-Schreibvorgänge reduzieren die Datenbanklast und können möglicherweise die Lebensdauer Ihrer Datenbankhardware verlängern. Geringere Datenbankbelastung: Nachteile: Wenn der Cache ausfällt, bevor die Daten in der Datenbank gespeichert werden, können Informationen verloren gehen. Redis verringert dieses Risiko durch persistenten Speicher, was jedoch die Komplexität erhöht. Risiko eines Datenverlusts: Sie benötigen eine Middleware, um sicherzustellen, dass Cache und Datenbank letztendlich synchron bleiben. Erhöhte Komplexität: Alle Schreibvorgänge werden zuerst in den Cache verschoben, auch wenn die Daten nicht häufig gelesen werden. Dies kann zu einem hohen Speicherverbrauch führen. Potenziell hoher Cacheverbrauch: Durchschreiben Wie es funktioniert: Ihre Anwendung schreibt gleichzeitig in den Cache und in die Datenbank. Um die Wartezeit zu verkürzen, können Sie asynchron in den Cache schreiben. Dadurch kann Ihre Anwendung erfolgreiche Schreibvorgänge signalisieren, bevor der Cachevorgang vollständig abgeschlossen ist. Vorteile: Wie beim Write-Back befinden sich die Daten immer im Cache, sodass kein Lesen der Datenbank erforderlich ist. Schnelleres Lesen: Ihre Anwendung bestätigt einen Schreibvorgang erst, nachdem er in der Datenbank gespeichert wurde. Dadurch wird die Datenpersistenz auch dann garantiert, wenn unmittelbar danach ein Absturz auftritt. Zuverlässigkeit: Nachteile: Im Vergleich zu Write-Back hat diese Richtlinie einen gewissen Overhead, da die Anwendung sowohl auf die Datenbank als auch auf den Cache wartet, um zu schreiben. Asynchrones Schreiben verbessert dies, aber denken Sie daran, dass immer die Wartezeit der Datenbank vorhanden ist. Langsameres Schreiben: Alle Schreibvorgänge werden in den Cache übertragen, was möglicherweise Speicherplatz verbraucht, auch wenn nicht häufig auf die Daten zugegriffen wird. Hohe Cache-Nutzung: Schreibe herum Mit Write-Around schreibt Ihre Anwendung Daten direkt in die Datenbank und umgeht dabei den Cache während des Schreibvorgangs. Um den Cache zu füllen, wird eine Strategie namens verwendet: Cache-Aside-Muster Die Anwendung prüft den Cache. Lese-Anforderung kommt an: Wenn die Daten nicht im Cache gefunden werden, ruft die Anwendung sie aus der Datenbank ab und speichert sie dann zur späteren Verwendung im Cache. Cache-Fehler: Vorteile: Daten werden direkt in die Datenbank geschrieben, wodurch Konsistenz gewährleistet wird. Zuverlässiges Schreiben: Nur häufig abgerufene Daten werden zwischengespeichert, wodurch der Speicherverbrauch reduziert wird. Effiziente Cache-Nutzung: Nachteile: Wenn sich Daten nicht im Cache befinden, muss die Anwendung sie aus der Datenbank abrufen, wodurch im Vergleich zu Richtlinien, bei denen der Cache immer vorab aufgefüllt wird, ein Roundtrip hinzugefügt wird. Höhere Leselatenz (in einigen Fällen): Cache-Fehlermuster Ein Cachefehler tritt auf, wenn die von Ihrer Anwendung benötigten Daten nicht im Cache gefunden werden. Hier sind zwei gängige Strategien, um dieses Problem anzugehen: Cache-Beiseite Die Anwendung überprüft den Cache. Bei einem Fehler ruft es Daten aus der Datenbank ab und aktualisiert anschließend den Cache. Die Anwendung ist für die Verwaltung des Caches verantwortlich. Wichtiger Punkt: Wenn Sie ein Cache-Aside-Muster verwenden, verwaltet Ihre Anwendung den Cache. Dieser Ansatz wird am häufigsten verwendet, da er einfach ist und keine Entwicklung an anderen Stellen als der Anwendung erfordert. Durchlesen Die Anwendung stellt eine Anforderung, ohne den Cache zu kennen. Ein spezieller Mechanismus überprüft den Cache und ruft bei Bedarf Daten aus der Datenbank ab. Der Cache wird transparent aktualisiert. Read-Through-Muster verringern die Anwendungskomplexität, erhöhen jedoch die Infrastrukturkomplexität. Stattdessen können die Anwendungsressourcen auf die Middleware verlagert werden. Insgesamt wird das Write-Around-Muster mit Cache-Aside aufgrund seiner einfachen Implementierung am häufigsten verwendet. Ich empfehle jedoch, auch das Write-Through-Muster einzuschließen, wenn Sie Daten haben, die unmittelbar nach dem Zwischenspeichern verwendet werden. Dies bietet einen leichten Vorteil bei der Leseleistung. Bewährte Methoden für die Zwischenspeicherung In diesem Abschnitt werden bewährte Methoden für die Verwendung eines Caches erläutert. Wenn Sie diese Methoden befolgen, stellen Sie sicher, dass Ihr Cache aktuelle Daten enthält und seinen Speicher effektiv verwaltet. Cache-Ungültigkeitserklärung Stellen Sie sich vor, Sie haben Daten im Cache gespeichert und dann wird die Datenbank aktualisiert. Dies führt dazu, dass die Daten im Cache von der Datenbankversion abweichen. Wir nennen diese Art von Cachedaten „veraltet“. Ohne eine Cache-Invalidierungstechnik könnten Ihre zwischengespeicherten Daten nach Datenbankaktualisierungen veraltet bleiben. Um die Daten aktuell zu halten, können Sie die folgenden Techniken verwenden: Wenn Sie Daten in der Datenbank aktualisieren, aktualisieren Sie auch den entsprechenden Cache-Eintrag. Write-Through- und Write-Back-Muster handhaben dies von Natur aus, aber Write-Around/Cache-Aside erfordert das explizite Löschen der zwischengespeicherten Daten. Diese Strategie verhindert, dass Ihre Anwendung veraltete Daten abruft. Cache-Ungültigkeit beim Update: TTL ist eine Richtlinie, die Sie beim Speichern von Daten im Cache festlegen können. Mit TTL werden Daten nach einer bestimmten Zeit automatisch gelöscht. Dies hilft beim Löschen nicht verwendeter Daten und bietet eine Ausfallsicherung gegen veraltete Daten im Falle verpasster Ungültigkeitserklärungen. Time To Live (TTL): Cache-Ersetzungsrichtlinien Wenn Sie eine große Datenmenge zwischenspeichern, kann Ihr Cache-Speicher voll werden. Cache-Systeme verwenden normalerweise Speicher, der oft kleiner ist als Ihr primärer Datenbankspeicher. Wenn der Cache voll ist, muss er einige Daten löschen, um Platz zu schaffen. Cache-Ersetzungsrichtlinien bestimmen, welche Daten entfernt werden: Diese allgemeine Richtlinie entfernt Daten, die am längsten nicht verwendet (gelesen oder geschrieben) wurden. LRU ist für die meisten realen Anwendungsfälle geeignet. Least Recently Used (LRU): Ähnlich wie LRU, aber mit Fokus auf Zugriffshäufigkeit. Neu geschriebene Daten können verworfen werden, also sollten Sie eine Aufwärmphase einplanen, während der Daten nicht gelöscht werden können. Least Frequently Used (LFU): Es gibt zwar noch andere Ersetzungsrichtlinien wie FIFO (First-In, First-Out), zufälliger Ersatz usw., diese sind jedoch weniger verbreitet. Wann sollte kein Cache gespeichert werden? Bevor Sie sich in die Cache-Implementierung stürzen, sollten Sie wissen, wann dies möglicherweise die beste Lösung ist. Caching verbessert häufig die Geschwindigkeit und reduziert die Datenbanklast, ist jedoch möglicherweise nicht sinnvoll, wenn: nicht Wenn Ihre Anwendung nur wenig Datenverkehr hat und die Antwortzeit noch akzeptabel ist, benötigen Sie wahrscheinlich noch kein Caching. Das Hinzufügen eines Caches erhöht die Komplexität. Daher empfiehlt es sich, ihn zu implementieren, wenn Sie mit Leistungsengpässen konfrontiert sind oder mit einem deutlichen Anstieg des Datenverkehrs rechnen. Geringer Datenverkehr: Caching ist bei leseintensiven Anwendungen am vorteilhaftesten. Das bedeutet, dass Daten in Ihrer Datenbank selten aktualisiert werden oder zwischen den Aktualisierungen mehrmals gelesen werden. Wenn Ihre Anwendung ein hohes Schreibvolumen aufweist, kann Caching möglicherweise zusätzlichen Overhead verursachen und die Leistung verlangsamen. Ihr System ist schreibintensiv: Erkenntnisse In diesem Artikel haben wir die Grundlagen des Cachings und dessen effektive Nutzung behandelt. Hier ist eine Zusammenfassung der wichtigsten Punkte: Stellen Sie sicher, dass Ihr System viele Lesevorgänge ausführt und die Latenzreduzierung benötigt, die das Caching bietet. Bestätigen Sie den Bedarf: Wählen Sie Cache-Schreib- und Cache-Fehlermuster aus, die dazu passen, wie Ihre Anwendung Daten verwendet. Wählen Sie Muster mit Bedacht aus: Implementieren Sie Strategien zur Cache-Ungültigkeitserklärung, um die Bereitstellung veralteter Daten zu verhindern. Aktualität der Daten: Wählen Sie eine Cache-Ersetzungsrichtlinie (wie LRU), um Löschungen zu handhaben, wenn der Cache seine Kapazität erreicht. Ersetzungsrichtlinie verwalten: Verweise https://gist.github.com/jboner/2841832 https://www.bytesizedpieces.com/posts/cache-types https://www.techtarget.com/searchstorage/definition/cache https://www.youtube.com/watch?v=dGAgxozNWFE
