DNS cache entries: Cloudflare bespaart 100TB RAM met compactere DNS cache

Cloudflare heeft ongeveer 100TB aan RAM vrijgemaakt door de opslag van DNS cache entries in 1.1.1.1 opnieuw te ontwerpen. De wijziging leverde niet alleen geheugenwinst op, maar ook betere prestaties.

Cloudflare heeft met een herontwerp van DNS cache entries in zijn 1.1.1.1-resolver ongeveer 100TB aan RAM vrijgemaakt. Op een infrastructuur waar honderden miljarden records tegelijk in cache staan, telt zelfs een enkele byte per entry hard mee.

DNS cache entries – DNS cache entries: Cloudflare bespaart 100TB RAM met compactere DNS cache

Meer technologienieuws vind je op de TostieTech Tech-nieuwspagina.

DNS cache entries compacter opgeslagen

Volgens Cloudflare ging het om een serie wijzigingen aan Big Pineapple, het platform achter de 1.1.1.1-DNS-resolver. Het bedrijf zegt dat de cache-entries van gemiddeld 953 bytes naar 420 bytes zijn gebracht. Dat gebeurde niet door extra hardware toe te voegen of geheugenmodules te vervangen, maar door de datastructuren in Rust opnieuw op te zetten.

In plaats van growable Vec- en String-containers gebruikt Cloudflare nu vaste boxed slices voor gegevens die na het cachen niet meer veranderen. Daarmee vervielen interne capaciteitvelden die in deze context geen functie meer hadden. Alleen die ingreep leverde volgens Cloudflare al meer dan 15TB op.

DNS cache entries en de impact op prestaties

De geheugenwinst kwam niet uit één maatregel. Cloudflare zegt dat drie recordlijsten in elke DNS-response zijn samengevoegd tot één buffer, met verwijzingen via offsets van 2 bytes. Ook worden dubbele eigenaarnamen niet langer apart opgeslagen als ze al gelijk zijn aan het opgevraagde domein; die worden pas bij het uitlezen opnieuw opgebouwd.

Daarnaast is recorddata voortaan opgeslagen als lengte-geprefaceerde ruwe wire-format bytes. Dat voorkomt een situatie waarin een klein A-record relatief veel ruimte innam. Tom's Hardware meldt dat een A-record van 4 bytes eerder dezelfde 144 bytes gebruikte als een zeldzamer NAPTR-record. Door de data compacter naast elkaar te zetten, verbetert bovendien de CPU-cachelocaliteit, waardoor veel records direct uit de buffer naar het antwoord kunnen worden gekopieerd in plaats van opnieuw opgebouwd.

Meer cache, minder latency

Cloudflare koppelt de geheugenbesparing aan duidelijke meetbare prestaties. De insert-throughput steeg volgens de benchmark van 625.000 naar 893.000 entries per seconde. De lookup-latency daalde van 828 naar 670 nanoseconden.

Tijdens de uitrol, die liep van half mei tot begin juli, daalde het p99 resident memory per instance van 9,3GB naar 5,3GB. Cloudflare zegt dat de totale besparing ongeveer gelijkstaat aan het geheugen van 130 Gen 13-servers met elk 768GB DDR5-geheugen. Dat is relevant in een markt waarin server-DIMM's duur blijven en geheugen per server een stevige kostenpost vormt.

Waarom een byte verschil maakt

De schaal van Cloudflare verklaart waarom dit werk zoveel oplevert. Het bedrijf zegt dat Big Pineapple op elk moment meer dan 250 miljard cached DNS entries bevat. Daardoor heeft één verspilde byte per entry al een effect van meer dan 250GB fleetgeheugen.

De logica achter deze optimalisatie is typisch voor grote datacenters: kleine efficiëntiewinsten in een kerncomponent kunnen op vlootniveau enorme effecten hebben. Cloudflare noemt dit zijn tweede grote geheugenreclamatieproject in een jaar, na de FL2-herschrijving van de request-handlinglaag in Rust. De rode draad is dat software-optimalisatie soms meer oplevert dan extra hardware toevoegen.

TostieTech duiding

Dit voorbeeld laat goed zien hoe extreem schaalvoordelen werken in een hyperscale-omgeving. Op consumentenniveau klinkt een besparing van enkele honderden bytes per record triviaal, maar bij honderden miljarden cache-entries wordt dat direct een datacenterkwestie. De winst zit bovendien niet alleen in minder RAM-verbruik: de snellere inserts en lagere lookup-latency laten zien dat geheugenoptimalisatie ook de efficiëntie van de verwerking zelf kan verbeteren.

Opvallend is dat Cloudflare de winst volledig uit software haalt. Dat is relevant in een periode waarin servergeheugen duur is en uitbreiden niet altijd de eerste of goedkoopste optie is. Tegelijk onderstreept het ook hoe belangrijk datastructuren en opslaglayout blijven, zelfs in moderne talen als Rust. Voor gebruikers van 1.1.1.1 is het belangrijkste praktische gevolg dat het platform achter de resolver zuiniger en sneller werkt, zonder dat er iets aan de kant van de klant hoeft te veranderen.


Bron: Tom's Hardware

Geef een reactie