ОпенКСЛА је заједнички развијен екосистем МЛ компајлера отвореног кода
Недавно представљене највеће компаније које се баве развојем у области машинског учења пројекат ОпенКСЛА, намењен заједничком развоју алата да компајлирају и оптимизују моделе за системе машинског учења.
Пројекат је преузео одговорност за развој алата који омогућавају обједињавање компилације модела припремљених у ТенсорФлов, ПиТорцх и ЈАКС оквирима за ефикасну обуку и извршавање на различитим ГПУ-има и специјализованим акцелераторима. Компаније као што су Гоогле, НВИДИА, АМД, Интел, Мета, Аппле, Арм, Алибаба и Амазон придружиле су се заједничком раду пројекта.
ОпенКСЛА пројекат обезбеђује најсавременији МЛ компајлер који може да се скалира усред сложености МЛ инфраструктуре. Његови основни стубови су перформансе, скалабилност, преносивост, флексибилност и проширивост за кориснике. Са ОпенКСЛА, ми тежимо да откључамо стварни потенцијал вештачке интелигенције тако што ћемо убрзати њен развој и испоруку.
ОпенКСЛА омогућава програмерима да компајлирају и оптимизују моделе из свих водећих МЛ оквира за ефикасну обуку и сервисирање на широком спектру хардвера. Програмери који користе ОпенКСЛА видеће значајна побољшања у времену обуке, перформансама, кашњењу услуге и на крају времену за пласирање и израчунавање трошкова.
Надамо се да ће заједничким напорима главних истраживачких тимова и представника заједнице, биће могуће стимулисати развој система машинског учења и реши проблем фрагментације инфраструктуре за различите оквире и тимове.
ОпенКСЛА омогућава имплементацију ефективне подршке за различит хардвер, без обзира на оквир на коме се заснива модел машинског учења. Очекује се да ће ОпенКСЛА смањити време обуке модела, побољшати перформансе, смањити кашњење, смањити трошкове рачунара и смањити време изласка на тржиште.
ОпенКСЛА састоји се од три главне компоненте, чији се код дистрибуира под лиценцом Апацхе 2.0:
- КСЛА (убрзана линеарна алгебра) је компајлер који вам омогућава да оптимизујете моделе машинског учења за извршавање високих перформанси на различитим хардверским платформама, укључујући ГПУ, ЦПУ и специјализоване акцелераторе различитих произвођача.
- СтаблеХЛО је основна спецификација и имплементација скупа операција високог нивоа (ХЛО) за употребу у моделима система машинског учења. Делује као слој између оквира за машинско учење и компајлера који трансформишу модел у рад на одређеном хардверу. Слојеви су припремљени за генерисање модела у СтаблеХЛО формату за ПиТорцх, ТенсорФлов и ЈАКС оквире. МХЛО пакет се користи као основа за СтаблеХЛО, који је проширен подршком за серијализацију и контролу верзија.
- ИРЕЕ (Интермедиате Репресентатион Екецутион Енвиронмент) је компајлер и рунтиме који претвара моделе машинског учења у универзални средњи приказ заснован на МЛИР (Интермедиате Мулти-Левел Репресентатион) формату ЛЛВМ пројекта. Од карактеристика су истакнуте могућност прекомпилације (пре времена), подршка за контролу тока, могућност коришћења динамичких елемената у моделима, оптимизација за различите ЦПУ и ГПУ-ове и ниски трошкови.
Што се тиче главних предности ОпенКСЛА, помиње се да постигнуте су оптималне перформансе без потребе за задирањем у писање кода специфичан за уређај, поред обезбедити готове оптимизације, укључујући поједностављење алгебарских израза, ефикасну алокацију меморије, заказивање извршења, узимајући у обзир смањење максималне потрошње меморије и режијских трошкова.
Још једна предност је поједностављење скалирања и паралелизација прорачуна. Довољно је да програмер дода напомене за подскуп критичних тензора, на основу којих компајлер може аутоматски да генерише код за паралелно рачунање.
Такође је истакнуто да преносивост је обезбеђена подршком за више хардверских платформи, као што су АМД и НВИДИА ГПУ, к86 и АРМ процесори, Гоогле ТПУ МЛ акцелератори, АВС Траиниум Инферентиа ИПУ, Грапхцоре и Вафер-Сцале Енгине Церебрас.
Подршка за повезивање екстензија са имплементацијом додатних функција, као подршка за писање примитива дубоког машинског учења користећи ЦУДА, ХИП, СИЦЛ, Тритон и друге језике за паралелно рачунарство, као и могућност ручног подешавања уских грла у моделима.
Коначно, ако сте заинтересовани да сазнате више о томе, можете се обратити детаљи у следећем линку.