TMO, Facebook mehanizem, ki shranjuje RAM na strežnikih

Inženirji Facebooka so razkrili, prek poročila, uvedbo tehnologije TMO (Transparent Memory Offloading) lani, kar omogoča znatno prihranek RAM-a na strežnikih s premikanjem sekundarnih podatkov, ki niso potrebni za delovanje na cenejših pogonih, kot so NVMe SSD.

Facebook ocenjuje, da TMO prihrani med 20 % in 32 % RAM-a na vsakem strežniku. Rešitev je zasnovana za uporabo v infrastrukturah, kjer aplikacije delujejo v izoliranih vsebnikih. Komponente TMO na strani jedra so že vključeni v jedro Linuxa.

Na strani jedra Linuxa je operacija tehnologije zagotavlja podsistem PSI (Informacije o zastoju tlaka), na voljo od različice 4.20.

PSI se že uporablja v različnih gonilnikih za pomanjkanje pomnilnika in omogoča analizo informacij o čakalni dobi za različne vire (CPE, pomnilnik, V/I). S PSI lahko procesorji uporabniškega prostora natančneje ocenijo obremenitev sistema in vzorce upočasnitve, kar omogoča odkrivanje anomalij, preden imajo opazen vpliv na zmogljivost.

V uporabniškem prostoru komponenta Senpai izvaja TMO, ki dinamično prilagaja omejitev pomnilnika za vsebnike aplikacij prek cgroup2 na podlagi podatkov, prejetih od PSI.

Senpai analizira znake začetka pomanjkanja virov prek PSI, ocenjuje občutljivost aplikacij na počasen dostop do pomnilnika in poskuša določiti najmanjšo potrebno velikost pomnilnika za vsebnik, v katerem podatki, potrebni za opravilo, ostanejo v RAM-u, povezani podatki, ki so bili shranjeni v datotečnem predpomnilniku ali trenutno niso neposredno uporabljeni, pa so iztisnjeni na izmenjalno particijo.

Transparent Memory Offload (TMO) je Metina rešitev za heterogena okolja podatkovnih centrov. Uvaja nov mehanizem jedra Linuxa, ki meri izgubljeno delo zaradi pomanjkanja virov v CPU, pomnilniku in V/I v realnem času. Na podlagi teh informacij in brez kakršnega koli predhodnega znanja o aplikaciji, TMO samodejno prilagodi količino pomnilnika za prenos v heterogeno napravo, kot je stisnjen pomnilnik ali SSD. To naredi na podlagi značilnosti delovanja naprave in občutljivosti aplikacije na počasnejši dostop do pomnilnika.

zato Bistvo TMO je ohranjanje procesov na »strogi dieti« v smislu porabe spomina, ki prisili, da se neuporabljene pomnilniške strani premaknejo na izmenjalno particijo, katere odstranitev ne vpliva opazno na zmogljivost (na primer strani s kodo, ki se uporablja samo med inicializacijo, in enkratnimi podatki, predpomnjenimi na disku). Za razliko od splakovanja podatkov na izmenjalno particijo kot odziv na malo pomnilnika, TMO izprazni podatke na podlagi predvidevanja predvidevanja.

Odsotnost dostopa do pomnilniške strani v 5 minutah se uporablja kot eno od meril za izbiro. Te strani imenujemo hladne strani in v povprečju predstavljajo približno 35 % pomnilnika aplikacije (odvisno od vrste aplikacije je odstopanje od 19 % do 65 %).

Prednost upošteva dejavnost, povezano z anonimnimi stranmi pomnilnika (pomnilnik, ki ga dodeli aplikacija) in pomnilnik, ki se uporablja za predpomnjenje datotek (dodeli ga jedro). V nekaterih aplikacijah je anonimni pomnilnik glavna poraba, v drugih pa je zelo pomemben tudi predpomnilnik datotek.

Da bi se izognili neravnovesju pri splakovanju pomnilnika v predpomnilnik, TMO uporablja nov algoritem ostranjevanja, ki sorazmerno izprazni anonimne strani in strani, povezane s predpomnilnikom datotek.

Potiskanje redko uporabljenih strani v počasnejši pomnilnik nima velikega vpliva na zmogljivost, lahko pa znatno zmanjša stroške strojne opreme. Podatki se pošiljajo na SSD diske ali stisnjen izmenjalni prostor v RAM-u. Za ceno shranjevanja enega bajta podatkov je uporaba diskov NVMe SSD do 10-krat cenejša kot uporaba stiskanja v RAM-u.

Nazadnje, če vas zanima več o tem, se lahko posvetujete s podrobnostmi V naslednji povezavi.