OpenXLA, મશીન લર્નિંગને ઝડપી અને સરળ બનાવવા માટેનો એક ઓપન સોર્સ પ્રોજેક્ટ

તાજેતરમાં, મશીન લર્નિંગના ક્ષેત્રમાં વિકાસમાં રોકાયેલી સૌથી મોટી કંપનીઓ રજૂ કરવામાં આવી છે પ્રોજેક્ટ ઓપનએક્સએલએ, સાધનોના સંયુક્ત વિકાસ માટે બનાવાયેલ છે મશીન લર્નિંગ સિસ્ટમ માટે મૉડલ કમ્પાઇલ અને ઑપ્ટિમાઇઝ કરવા.

પ્રોજેક્ટે ટૂલ્સના વિકાસની જવાબદારી લીધી છે જે TensorFlow, PyTorch અને JAX ફ્રેમવર્કમાં અલગ-અલગ GPUs અને વિશિષ્ટ એક્સિલરેટર્સ પર કાર્યક્ષમ તાલીમ અને અમલીકરણ માટે તૈયાર મોડલ્સના સંકલનને એકીકૃત કરવાની મંજૂરી આપે છે. Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba અને Amazon જેવી કંપનીઓ પ્રોજેક્ટના સંયુક્ત કાર્યમાં જોડાઈ હતી.

ઓપનએક્સએલએ પ્રોજેક્ટ એક અત્યાધુનિક ML કમ્પાઇલર પ્રદાન કરે છે જે ML ઇન્ફ્રાસ્ટ્રક્ચરની જટિલતા વચ્ચે માપન કરી શકે છે. તેના મૂળભૂત સ્તંભો વપરાશકર્તાઓ માટે કામગીરી, માપનીયતા, સુવાહ્યતા, સુગમતા અને વિસ્તરણતા છે. ઓપનએક્સએલએ સાથે, અમે AIના વિકાસ અને ડિલિવરીને વેગ આપીને તેની વાસ્તવિક ક્ષમતાને અનલોક કરવાની ઈચ્છા ધરાવીએ છીએ.

ઓપનએક્સએલએ વિકાસકર્તાઓને હાર્ડવેરની વિશાળ વિવિધતા પર કાર્યક્ષમ તાલીમ અને સર્વિસિંગ માટે તમામ અગ્રણી ML ફ્રેમવર્કમાંથી મોડેલોને કમ્પાઇલ અને ઑપ્ટિમાઇઝ કરવા સક્ષમ બનાવે છે. ઓપનએક્સએલએનો ઉપયોગ કરતા વિકાસકર્તાઓ તાલીમ સમય, કામગીરી, સેવા વિલંબ અને અંતે બજાર અને ખર્ચની ગણતરીમાં નોંધપાત્ર સુધારાઓ જોશે.

પ્રયત્નોમાં જોડાવાથી આશા છે મુખ્ય સંશોધન ટીમો અને સમુદાયના પ્રતિનિધિઓ, મશીન લર્નિંગ સિસ્ટમ્સના વિકાસને ઉત્તેજીત કરવાનું શક્ય બનશે અને વિવિધ ફ્રેમવર્ક અને ટીમો માટે ઇન્ફ્રાસ્ટ્રક્ચર ફ્રેગમેન્ટેશનની સમસ્યાને હલ કરો.

ઓપનએક્સએલએ વિવિધ હાર્ડવેર માટે અસરકારક સપોર્ટ અમલમાં મૂકવાની મંજૂરી આપે છે, મશીન લર્નિંગ મોડલ જેના પર આધારિત છે તે ફ્રેમવર્કને ધ્યાનમાં લીધા વગર. ઓપનએક્સએલએ મોડલ તાલીમનો સમય ઘટાડવા, પ્રદર્શનમાં સુધારો કરવા, લેટન્સી ઘટાડવા, કમ્પ્યુટિંગ ઓવરહેડ ઘટાડવા અને માર્કેટમાં સમય ઘટાડવાની અપેક્ષા છે.

ઓપનએક્સએલએ ત્રણ મુખ્ય ઘટકો સમાવે છે, જેનો કોડ Apache 2.0 લાયસન્સ હેઠળ વિતરિત કરવામાં આવે છે:

1. XLA (એક્સિલરેટેડ રેખીય બીજગણિત) એ એક કમ્પાઇલર છે જે તમને GPU, CPUs અને વિવિધ ઉત્પાદકોના વિશિષ્ટ એક્સિલરેટર્સ સહિત વિવિધ હાર્ડવેર પ્લેટફોર્મ પર ઉચ્ચ-પ્રદર્શન એક્ઝેક્યુશન માટે મશીન લર્નિંગ મોડલ્સને ઑપ્ટિમાઇઝ કરવાની મંજૂરી આપે છે.
2. સ્ટેબલએચએલઓ એ મશીન લર્નિંગ સિસ્ટમ મોડલ્સમાં ઉપયોગ માટે ઉચ્ચ-સ્તરીય ઓપરેશન્સ (એચએલઓ) ના સમૂહનું મૂળભૂત સ્પષ્ટીકરણ અને અમલીકરણ છે. તે મશીન લર્નિંગ ફ્રેમવર્ક અને કમ્પાઇલર્સ વચ્ચે એક સ્તર તરીકે કાર્ય કરે છે જે ચોક્કસ હાર્ડવેર પર ચલાવવા માટે મોડેલને રૂપાંતરિત કરે છે. PyTorch, TensorFlow અને JAX ફ્રેમવર્ક માટે સ્ટેબલએચએલઓ ફોર્મેટમાં મોડલ જનરેટ કરવા માટે સ્તરો તૈયાર કરવામાં આવે છે. MHLO સ્યુટનો ઉપયોગ StableHLO માટે આધાર તરીકે થાય છે, જે સીરીયલાઇઝેશન અને વર્ઝન કંટ્રોલ માટે સપોર્ટ સાથે વિસ્તૃત છે.
3. IREE (ઇન્ટરમીડિયેટ રિપ્રેઝન્ટેશન એક્ઝિક્યુશન એન્વાયર્નમેન્ટ) એ કમ્પાઇલર અને રનટાઇમ છે જે LLVM પ્રોજેક્ટના MLIR (ઇન્ટરમીડિયેટ મલ્ટી-લેવલ રિપ્રેઝન્ટેશન) ફોર્મેટ પર આધારિત સાર્વત્રિક મધ્યવર્તી પ્રતિનિધિત્વમાં મશીન લર્નિંગ મોડલ્સને રૂપાંતરિત કરે છે. વિશેષતાઓમાં, પ્રી-કમ્પાઇલેશનની શક્યતા (સમય પહેલાં), ફ્લો કંટ્રોલ માટે સપોર્ટ, મોડલ્સમાં ડાયનેમિક એલિમેન્ટ્સનો ઉપયોગ કરવાની ક્ષમતા, વિવિધ CPUs અને GPUs માટે ઑપ્ટિમાઇઝેશન અને નીચા ઓવરહેડને હાઇલાઇટ કરવામાં આવે છે.

OpenXLA ના મુખ્ય ફાયદાઓ વિશે, તે ઉલ્લેખિત છે કે કોડ લખવાની શોધ કર્યા વિના શ્રેષ્ઠ પ્રદર્શન પ્રાપ્ત કરવામાં આવ્યું છે ઉપકરણ-વિશિષ્ટ, ઉપરાંત આઉટ-ઓફ-ધ-બોક્સ ઑપ્ટિમાઇઝેશન પ્રદાન કરો, જેમાં બીજગણિત અભિવ્યક્તિઓનું સરળીકરણ, કાર્યક્ષમ મેમરી ફાળવણી, એક્ઝેક્યુશન શેડ્યુલિંગ, મહત્તમ મેમરી વપરાશ અને ઓવરહેડ્સના ઘટાડાનો સમાવેશ થાય છે.

બીજો ફાયદો છે સ્કેલિંગનું સરળીકરણ અને ગણતરીઓનું સમાંતરકરણ. વિકાસકર્તા માટે નિર્ણાયક ટેન્સર્સના સબસેટ માટે એનોટેશન ઉમેરવા માટે તે પૂરતું છે, જેના આધારે કમ્પાઇલર સમાંતર કમ્પ્યુટિંગ માટે આપમેળે કોડ જનરેટ કરી શકે છે.

તે પણ પ્રકાશિત થયેલ છે પોર્ટેબિલિટી બહુવિધ હાર્ડવેર પ્લેટફોર્મ માટે સપોર્ટ સાથે પૂરી પાડવામાં આવે છે, જેમ કે AMD અને NVIDIA GPUs, x86 અને ARM CPUs, Google TPU ML એક્સિલરેટર્સ, AWS Trainium Inferentia IPUs, Graphcore, અને Wafer-Scale Engine Cerebras.

વધારાના કાર્યોના અમલીકરણ સાથે એક્સ્ટેંશનને કનેક્ટ કરવા માટે સપોર્ટ, સમાંતર કમ્પ્યુટિંગ માટે CUDA, HIP, SYCL, Triton અને અન્ય ભાષાઓનો ઉપયોગ કરીને ડીપ મશીન લર્નિંગ પ્રિમિટિવ્સ લખવા માટેના સમર્થન તરીકે, તેમજ અવરોધોના મેન્યુઅલ એડજસ્ટમેન્ટની શક્યતા મોડેલોમાં.

આખરે, જો તમને તેના વિશે વધુ જાણવામાં રુચિ હોય, તો તમે આની સલાહ લઈ શકો છો નીચેની લીંક પર વિગતો.