Cache stampede
Et cache stampede opstår, når samtidige cache-misses starter den samme dyre beregning eller dataforespørgsel flere gange.
Et cache stampede opstår, når mange forespørgsler omtrent samtidig skal bruge den samme manglende cacheværdi og derfor starter det samme arbejde ved datakilden. En udløbet værdi eller en cache, der starter tom, kan således skabe en belastningstop.
I et fiktivt dashboard slår 100 samtidige forespørgsler inden for samme autoriserede dataområde summary:tenant-7 op. Mangler oversigten, og koordineres arbejdet ikke, kan mange ens genberegninger starte.
Saml forespørgsler om de samme data
Request coalescing samler disse opslag: En igangværende genberegning deles for samme nøgle og dataområde. Andre forespørgsler venter kontrolleret på resultatet eller får en ældre værdi, hvis den forretningsmæssige regel for aktualitet tillader det. Samlingen må ikke blande forskellige brugere eller adgangsområder.
En lås, der kun virker inden for én proces, koordinerer ikke automatisk alle servere. Mislykkede beregninger og for lange ventetider kræver også en afgrænset fejlhåndtering. Cache-invalidering afgør, hvornår en værdi ikke længere kan bruges; stampede-beskyttelse styrer samtidig fornyelse.
Kilder
Relaterede begreber
- CachingCaching genbruger gemte data eller resultater. Gyldighed og tilladt brugerområde hører til designet.
- CacheinvalideringCacheinvalidering afslutter genbrug af en kopi efter fastlagte regler. Kildens post er fortsat en særskilt sag.
- BackpressureBackpressure tilpasser datastrømmen til modtagerens behandlingskapacitet gennem signaler om at sænke tempoet eller holde pause.
- Race conditionEt forkert resultat afhænger af tidsrækkefølgen i overlappende adgange.
- HukommelseslækHukommelse, der ikke længere behøves, holdes unødigt optaget under drift.
- SamtidighedAt organisere flere opgaver, så deres behandlingsperioder kan overlappe.
Dit projekt med ASES
Beskriv dit projekt for os. Vi vender tilbage med en første vurdering.