Facebook inženjeri otkrili su, kroz izvješće, uvođenje tehnologije PUU (Transparent Memory Offloading) prošle godine, što omogućuje značajno uštedu RAM-a na poslužiteljima premještanjem sekundarnih podataka koji nisu potrebni za rad na jeftinijim diskovima kao što su NVMe SSD.
Facebook procjenjuje da TMO štedi između 20% i 32% RAM-a na svakom poslužitelju. Rješenje je dizajnirano za korištenje u infrastrukturama gdje aplikacije rade u izoliranim spremnicima. Komponente TMO-a na strani jezgre već su uključeni u Linux kernel.
Na strani jezgre Linuxa, operacija tehnologije osigurava PSI podsustav (Informacija o zastoju tlaka), isporučeno od verzije 4.20.
PSI već se koristi u raznim drajverima za nedostatak memorije i omogućuje analizu informacija o vremenu čekanja za dobivanje različitih resursa (CPU, memorija, I/O). Uz PSI, procesori korisničkog prostora mogu točnije procijeniti opterećenje sustava i obrasce usporavanja, omogućujući otkrivanje anomalija prije nego što imaju vidljiv utjecaj na performanse.
U korisničkom prostoru komponenta Senpai pokreće TMO, koji dinamički prilagođava ograničenje memorije za spremnike aplikacije putem cgroup2 na temelju podataka primljenih od PSI-ja.
Senpai analizira znakove početka nestašice resursa putem PSI-a, ocjenjuje osjetljivost aplikacija na spor pristup memoriji i pokušava odrediti minimalnu potrebnu veličinu memorije za spremnik, u kojem podaci potrebni za posao ostaju u RAM-u, a povezani podaci koji su bili u predmemoriji datoteka ili se trenutno ne koriste izravno, tjeraju se na swap particiju.
Transparent Memory Offload (TMO) je Metino rješenje za heterogena okruženja podatkovnih centara. Uvodi novi mehanizam jezgre Linuxa koji mjeri rad izgubljen zbog nedostatka resursa u CPU-u, memoriji i I/O-u u stvarnom vremenu. Vodeći se ovim informacijama i bez ikakvog prethodnog znanja o aplikaciji, TMO automatski prilagođava količinu memorije za prijenos na heterogeni uređaj, kao što je komprimirana memorija ili SSD. To čini na temelju karakteristika izvedbe uređaja i osjetljivosti aplikacije na sporije pristupe memoriji.
Stoga, bit TMO-a je držati procese na "strogoj dijeti" u smislu potrošnje memorije, prisiljavajući neiskorištene memorijske stranice da se premjeste na swap particiju, čije uklanjanje ne utječe značajno na performanse (primjerice, stranice s kodom koji se koristi samo tijekom inicijalizacije i jednokratni podaci koji se keširaju na disku) . Za razliku od ispiranja podataka na swap particiju kao odgovor na malo memorije, TMO ispire podatke na temelju prediktivnog predviđanja.
Odsutnost pristupa memorijskoj stranici unutar 5 minuta koristi se kao jedan od kriterija za preferenciju. Te se stranice nazivaju hladnim stranicama i u prosjeku čine oko 35% memorije aplikacije (ovisno o vrsti aplikacije, postoji varijacija od 19% do 65%).
Preferenca uzima u obzir aktivnost povezanu s anonimnim stranicama memorije (memoriju koju dodjeljuje aplikacija) i memoriju koja se koristi za predmemoriju datoteka (dodijeljenu od strane kernela). U nekim aplikacijama anonimna memorija je glavna potrošnja, ali u drugima je predmemorija datoteka također vrlo važna.
Kako bi se izbjegao neravnoteža prilikom ispiranja memorije u predmemoriju, TMO koristi novi algoritam straničenja koji proporcionalno ispire anonimne stranice i stranice povezane s cacheom datoteke.
Guranje rijetko korištenih stranica u sporiju memoriju nema veliki utjecaj na performanse, ali može značajno smanjiti troškove hardvera. Podaci se šalju na SSD-ove ili komprimirani swap prostor u RAM-u. Po cijenu pohrane jednog bajta podataka, korištenje NVMe SSD-a je do 10 puta jeftinije od korištenja kompresije na RAM-u.
Konačno, ako vas zanima više o tome, možete se posavjetovati s pojedinostima U sljedećem linku.
može li se ovo koristiti na normalnim računalima s normalnim aplikacijama?