Inžinieri Facebooku prezradili, prostredníctvom správy, zavedenie technológie OMT (Transparent Memory Offloading) v minulom roku, ktorý umožňuje výrazne ušetriť RAM na serveroch presunom sekundárnych dát, ktoré nie sú potrebné na fungovanie na lacnejších diskoch, ako sú NVMe SSD.
facebook odhaduje, že TMO ušetrí 20 % až 32 % RAM na každom serveri. Riešenie je navrhnuté pre použitie v infraštruktúrach, kde aplikácie bežia v izolovaných kontajneroch. Komponenty TMO na strane jadra sú už zahrnuté v jadre Linuxu.
Na strane linuxového jadra operácia technológie zabezpečuje subsystém PSI (Informácie o zastavení tlaku), dodávané od verzie 4.20.
PSI sa už používa v rôznych ovládačoch s nedostatkom pamäte a umožňuje analyzovať informácie o dobe čakania na rôzne zdroje (CPU, pamäť, I/O). S PSI môžu procesory užívateľského priestoru presnejšie posúdiť vzory zaťaženia a spomalenia systému, čo umožňuje odhaliť anomálie skôr, ako budú mať výrazný vplyv na výkon.
V užívateľskom priestore komponent Senpai spúšťa TMO, ktorý dynamicky upravuje limit pamäte pre aplikačné kontajnery cez cgroup2 na základe dát prijatých z PSI.
Senpai analyzuje príznaky začínajúceho nedostatku zdrojov cez PSI, vyhodnocuje citlivosť aplikácií na pomalý prístup do pamäte a sa snaží určiť minimálnu veľkosť požadovanej pamäte pre kontajner, v ktorom údaje požadované pre úlohu zostávajú v pamäti RAM a súvisiace údaje, ktoré boli uložené vo vyrovnávacej pamäti súborov alebo sa momentálne priamo nepoužívajú, sú vytlačené do odkladacieho oddielu.
Transparent Memory Offload (TMO) je riešením spoločnosti Meta pre heterogénne prostredia dátových centier. Predstavuje nový mechanizmus linuxového jadra, ktorý meria stratu práce v dôsledku nedostatku zdrojov v CPU, pamäti a I/O v reálnom čase. Na základe týchto informácií a bez akýchkoľvek predchádzajúcich znalostí aplikácie TMO automaticky upraví množstvo pamäte, ktorá sa má stiahnuť do heterogénneho zariadenia, ako je komprimovaná pamäť alebo SSD. Robí to na základe výkonnostných charakteristík zariadenia a citlivosti aplikácie na pomalšie prístupy do pamäte.
Preto, podstatou TMO je držať procesy na „prísnej diéte“ z hľadiska spotreby pamäte, ktorá vynúti presun nepoužívaných pamäťových stránok do swapovacieho oddielu, ktorého odstránenie výrazne neovplyvní výkon (napríklad stránky s kódom použitým iba pri inicializácii a jednorazové dáta uložené vo vyrovnávacej pamäti na disku) . Na rozdiel od vyprázdnenia informácií do swapovacieho oddielu v reakcii na nedostatok pamäte, TMO vyprázdni údaje na základe prediktívnej predikcie.
Neprítomnosť prístupu na pamäťovú stránku do 5 minút sa používa ako jedno z preferenčných kritérií. Tieto stránky sa nazývajú studené stránky a v priemere tvoria asi 35 % pamäte aplikácie (v závislosti od typu aplikácie je odchýlka od 19 % do 65 %).
Predvoľba zohľadňuje aktivitu spojenú s anonymnými stránkami pamäte (pamäť pridelená aplikáciou) a pamäť používanú na ukladanie súborov do vyrovnávacej pamäte (pridelenú jadrom). V niektorých aplikáciách je hlavnou spotrebou anonymná pamäť, ale v iných je veľmi dôležitá aj vyrovnávacia pamäť súborov.
Aby sa predišlo nerovnováhe pri vyprázdnení pamäte do vyrovnávacej pamäte, TMO používa nový stránkovací algoritmus, ktorý proporcionálne vyprázdni anonymné stránky a stránky súvisiace s vyrovnávacou pamäťou súborov.
Presúvanie málo používaných stránok do pomalšej pamäte nemá veľký vplyv na výkon, ale môže výrazne znížiť náklady na hardvér. Údaje sa odosielajú na disky SSD alebo komprimovaný swapový priestor v RAM. Za cenu uloženia jedného bajtu dát je použitie NVMe SSD až 10-krát lacnejšie ako použitie kompresie na RAM.
Nakoniec, ak máte záujem dozvedieť sa o tom viac, môžete sa obrátiť na podrobnosti Na nasledujúcom odkaze.
dá sa to použiť na normálnych počítačoch s normálnymi aplikáciami?