Facebook-ingeniører avslørte, gjennom en rapport, innføring av teknologi TMO (Transparent Memory Offloading) i fjor, som gjør det mulig å spare RAM betydelig på servere ved å flytte sekundærdata som ikke er nødvendig for å fungere på billigere stasjoner som NVMe SSD-er.
Facebook anslår at TMO sparer mellom 20 % og 32 % av RAM på hver server. Løsningen er designet for bruk i infrastrukturer der applikasjoner kjøres i isolerte beholdere. Komponentene på kjernesiden til TMO de er allerede inkludert i Linux-kjernen.
På Linux-kjernesiden, operasjonen av teknologi leveres av PSI-delsystemet (Informasjon om trykkstopp), levert fra versjon 4.20.
PSI allerede brukt i forskjellige drivere for tom minne og lar deg analysere informasjon om ventetid for ulike ressurser (CPU, minne, I/O). Med PSI kan brukerplassprosessorer mer nøyaktig vurdere systembelastning og nedbremsingsmønstre, slik at uregelmessigheter kan oppdages før de har en merkbar innvirkning på ytelsen.
I brukerområdet kjører Senpai-komponenten TMO, som dynamisk justerer minnegrensen for applikasjonsbeholdere via cgroup2 basert på data mottatt fra PSI.
Senpai analyserer tegnene på begynnelsen på mangel på ressurser via PSI, evaluerer sensitiviteten til applikasjoner for treg minnetilgang og prøver å bestemme minimumsstørrelsen på minnet som kreves for en container, der dataene som kreves for jobben forblir i RAM, og relaterte data som har ligget i filbufferen eller for øyeblikket ikke brukes direkte, tvinges ut til swap-partisjonen.
Transparent Memory Offload (TMO) er Metas løsning for heterogene datasentermiljøer. Den introduserer en ny Linux-kjernemekanisme som måler tapt arbeid på grunn av ressursmangel i CPU, minne og I/O i sanntid. Veiledet av denne informasjonen og uten forkunnskaper om applikasjonen, justerer TMO automatisk mengden minne som skal lastes av til en heterogen enhet, for eksempel et komprimert minne eller SSD. Den gjør dette basert på ytelsesegenskapene til enheten og applikasjonens følsomhet for tregere minnetilgang.
Derfor, essensen av TMO er å holde prosesser på en "streng diett" når det gjelder minneforbruk, tvinger ubrukte minnesider til å bli flyttet til swap-partisjonen, hvis fjerning ikke påvirker ytelsen merkbart (for eksempel sider med kode som bare brukes under initialisering og engangsdata bufret på disk) . I motsetning til å flushe informasjon til swap-partisjonen som svar på lite minne, tømmer TMO data basert på prediktiv prediksjon.
Fravær av tilgang til en minneside innen 5 minutter brukes som et av kriteriene for preferanse. Disse sidene kalles kalde sider og i gjennomsnitt utgjør de ca. 35 % av applikasjonens minne (avhengig av applikasjonstype er det en variasjon fra 19 % til 65 %).
Innstillingen tar hensyn til aktivitet assosiert med anonyme sider med minne (minne tildelt av applikasjonen) og minne som brukes til filbufring (tildelt av kjernen). I noen applikasjoner er det anonyme minnet hovedforbruket, men i andre er filbufferen også veldig viktig.
For å unngå ubalanse når minnet skylles inn i hurtigbufferen, bruker TMO en ny personsøkingsalgoritme som tømmer anonyme sider og sider tilknyttet filbufferen proporsjonalt.
Å skyve sjelden brukte sider til tregere minne har ikke stor innvirkning på ytelsen, men det kan redusere maskinvarekostnadene betydelig. Data sendes til SSD-er eller komprimert bytteplass i RAM. På bekostning av å lagre én byte med data, er bruk av NVMe SSD-er opptil 10 ganger billigere enn å bruke komprimering på RAM.
Til slutt, hvis du er interessert i å vite mer om det, kan du se detaljene I den følgende lenken.
kan dette brukes på vanlige datamaskiner med vanlige apper?