Facebook-ingeniører afslørede, gennem en rapport, indførelsen af teknologi TMO (Transparent Memory Offloading) sidste år, hvilket giver mulighed for betydeligt at spare RAM på servere ved at flytte sekundære data, der ikke er nødvendige for at fungere på billigere drev såsom NVMe SSD'er.
Facebook anslår, at TMO sparer mellem 20% og 32% af RAM på hver server. Løsningen er designet til brug i infrastrukturer, hvor applikationer kører i isolerede containere. Komponenterne på kernesiden af TMO de er allerede inkluderet i Linux-kernen.
På Linux-kernesiden, operationen af teknologi leveres af PSI-undersystemet (Pressure Stall Information), leveret fra version 4.20.
PSI allerede brugt i forskellige drivere uden hukommelse og giver mulighed for at analysere information om ventetid for at opnå forskellige ressourcer (CPU, hukommelse, I/O). Med PSI kan brugerrumsprocessorer mere nøjagtigt vurdere systembelastning og nedbremsningsmønstre, hvilket gør det muligt at opdage uregelmæssigheder, før de har en mærkbar indflydelse på ydeevnen.
I brugerrummet kører Senpai-komponenten TMO, som dynamisk justerer hukommelsesgrænsen for applikationsbeholdere via cgroup2 baseret på data modtaget fra PSI.
Senpai analyserer tegnene på begyndelsen på mangel på ressourcer via PSI, evaluerer applikationers følsomhed over for langsom hukommelsesadgang og forsøger at bestemme minimumsstørrelsen af den nødvendige hukommelse for en container, hvor de nødvendige data til jobbet forbliver i RAM, og relaterede data, der har siddet i filcachen eller ikke er direkte brugt i øjeblikket, tvinges ud til swap-partitionen.
Transparent Memory Offload (TMO) er Metas løsning til heterogene datacentermiljøer. Den introducerer en ny Linux-kernemekanisme, der måler arbejde tabt på grund af ressourcemangel i CPU, hukommelse og I/O i realtid. Vejledt af denne information og uden forudgående kendskab til applikationen justerer TMO automatisk mængden af hukommelse, der skal aflastes til en heterogen enhed, såsom en komprimeret hukommelse eller SSD. Den gør dette baseret på enhedens ydeevneegenskaber og applikationens følsomhed over for langsommere hukommelsesadgange.
Derfor, essensen af TMO er at holde processer på en "streng diæt" med hensyn til hukommelsesforbrug, tvinger ubrugte hukommelsessider til at blive flyttet til swap-partitionen, hvis fjernelse ikke påvirker ydeevnen mærkbart (f.eks. sider med kode, der kun bruges under initialisering og engangsdata cachelagret på disken) . I modsætning til at tømme data til swap-partitionen som svar på lav hukommelse, fjerner TMO data baseret på forudsigelig forudsigelse.
Fraværet af adgang til en hukommelsesside inden for 5 minutter bruges som et af kriterierne for præference. Disse sider kaldes kolde sider og i gennemsnit udgør de omkring 35 % af applikationens hukommelse (afhængigt af applikationstypen er der en variation fra 19 % til 65 %).
Præferencen tager højde for aktivitet forbundet med anonyme hukommelsessider (hukommelse tildelt af applikationen) og hukommelse, der bruges til filcache (tildelt af kernen). I nogle applikationer er den anonyme hukommelse hovedforbruget, men i andre er filcachen også meget vigtig.
For at undgå ubalance, når hukommelsen tømmes til cachen, bruger TMO en ny sidesøgningsalgoritme, der tømmer anonyme sider og sider, der er knyttet til filcachen proportionelt.
At skubbe sjældent brugte sider til langsommere hukommelse har ikke en enorm indflydelse på ydeevnen, men det kan reducere hardwareomkostningerne betydeligt. Data sendes til SSD'er eller komprimeret swap-plads i RAM. På bekostning af lagring af en byte data er det op til 10 gange billigere at bruge NVMe SSD'er end at bruge komprimering på RAM.
Endelig, hvis du er interesseret i at vide mere om det, kan du se detaljerne I det følgende link.
kan dette bruges på normale computere med normale apps?