ТМО, Фацебоок механизам који штеди РАМ на серверима

Фацебоок инжењери су открили, кроз извештај, увођење технологије ТМО (Транспарент Мемори Оффлоадинг) прошле године, који омогућава значајно уштеду РАМ-а на серверима премештањем секундарних података који нису потребни за рад на јефтинијим дисковима као што су НВМе ССД.

фацебоок процењује да ТМО штеди између 20% и 32% РАМ-а на сваком серверу. Решење је дизајнирано за употребу у инфраструктурама где апликације раде у изолованим контејнерима. Компоненте ТМО-а на страни језгра већ су укључени у Линук кернел.

На страни Линук кернела, операција технологије обезбеђује ПСИ подсистем (Информације о застоју притиска), испоручено од верзије 4.20.

ПСИ већ се користи у разним драјверима без меморије и омогућава анализу информација о времену чекања за добијање различитих ресурса (ЦПУ, меморија, И/О). Са ПСИ, процесори корисничког простора могу прецизније проценити оптерећење система и обрасце успоравања, омогућавајући откривање аномалија пре него што имају приметан утицај на перформансе.

У корисничком простору, Сенпаи компонента покреће ТМО, који динамички прилагођава ограничење меморије за контејнере апликација преко цгроуп2 на основу података примљених од ПСИ.

Сенпаи анализира знаке почетка недостатка ресурса преко ПСИ, процењује осетљивост апликација на спор приступ меморији и покушава да одреди минималну потребну величину меморије за контејнер, у коме подаци потребни за посао остају у РАМ-у, а сродни подаци који су били у кешу датотека или се тренутно не користе директно, протерују се на свап партицију.

Транспарент Мемори Оффлоад (ТМО) је Мета решење за хетерогена окружења центара података. Уводи нови механизам Линук кернела који мери губитак посла услед недостатка ресурса у ЦПУ-у, меморији и И/О у реалном времену. Вођен овим информацијама и без икаквог претходног знања о апликацији, ТМО аутоматски прилагођава количину меморије за претовар на хетерогени уређај, као што је компримована меморија или ССД. То ради на основу карактеристика перформанси уређаја и осетљивости апликације на спорије приступе меморији.

Дакле, суштина ТМО је да се процеси држе на "строгој дијети" у смислу потрошње меморије, присиљавајући неискоришћене меморијске странице да се премештају на свап партицију, чије уклањање не утиче приметно на перформансе (на пример, странице са кодом који се користи само током иницијализације и једнократним подацима кешираним на диску) . За разлику од пражњења података у свап партицију као одговор на мало меморије, ТМО испушта податке на основу предиктивног предвиђања.

Одсуство приступа меморијској страници у року од 5 минута се користи као један од критеријума за преференцију. Ове странице се називају хладне странице и у просеку чине око 35% меморије апликације (у зависности од типа апликације, постоји варијација од 19% до 65%).

Преференце узимају у обзир активности повезане са анонимним страницама меморије (меморија коју додељује апликација) и меморија која се користи за кеширање датотека (додељује језгро). У неким апликацијама анонимна меморија је главна потрошња, али у другим је кеш датотека такође веома важан.

Да би се избегао неравнотежа приликом пражњења меморије у кеш меморију, ТМО користи нови алгоритам страница који пропорционално испира анонимне странице и странице повезане са кеш меморијом.

Гурање ретко коришћених страница у спорију меморију нема огроман утицај на перформансе, али може значајно да смањи трошкове хардвера. Подаци се шаљу на ССД дискове или компримовани свап простор у РАМ-у. По цену складиштења једног бајта података, коришћење НВМе ССД-а је до 10 пута јефтиније од коришћења компресије на РАМ-у.

Коначно, ако сте заинтересовани да сазнате више о томе, можете се консултовати са детаљима У следећем линку.