OpenXLA सह-विकसित मुक्त स्रोत ML कंपाइलर इकोसिस्टम आहे
अलीकडे मशीन लर्निंगच्या क्षेत्रात विकासात गुंतलेल्या सर्वात मोठ्या कंपन्या सादर केल्या आहेत प्रकल्प OpenXLA, साधनांच्या संयुक्त विकासासाठी हेतू मशीन लर्निंग सिस्टमसाठी मॉडेल्स संकलित आणि ऑप्टिमाइझ करण्यासाठी.
विविध GPUs आणि विशेष प्रवेगकांवर कार्यक्षम प्रशिक्षण आणि अंमलबजावणीसाठी TensorFlow, PyTorch आणि JAX फ्रेमवर्कमध्ये तयार केलेल्या मॉडेल्सचे एकत्रीकरण करण्यास अनुमती देणार्‍या साधनांच्या विकासाची जबाबदारी या प्रकल्पाने घेतली आहे. Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba आणि Amazon सारख्या कंपन्या या प्रकल्पाच्या संयुक्त कामात सामील झाल्या.
OpenXLA प्रकल्प एक अत्याधुनिक ML कंपायलर प्रदान करतो जो ML पायाभूत सुविधांच्या जटिलतेमध्ये मापन करू शकतो. वापरकर्त्यांसाठी कार्यक्षमता, स्केलेबिलिटी, पोर्टेबिलिटी, लवचिकता आणि विस्तारक्षमता हे त्याचे मूलभूत स्तंभ आहेत. OpenXLA सह, आम्ही AI च्या विकास आणि वितरणाला गती देऊन त्याची खरी क्षमता अनलॉक करण्याची आकांक्षा बाळगतो.
OpenXLA विकसकांना विविध प्रकारच्या हार्डवेअरवर कार्यक्षम प्रशिक्षण आणि सर्व्हिसिंगसाठी सर्व आघाडीच्या ML फ्रेमवर्कमधून मॉडेल्स संकलित आणि ऑप्टिमाइझ करण्यास सक्षम करते. OpenXLA वापरणारे विकसक प्रशिक्षण वेळ, कार्यप्रदर्शन, सेवा लेटन्सी आणि शेवटी बाजारासाठी लागणारा वेळ आणि खर्चाची गणना यामध्ये लक्षणीय सुधारणा पाहतील.
प्रयत्नात सहभागी होऊन मुख्य संशोधन संघ आणि समुदायाचे प्रतिनिधी, मशीन लर्निंग सिस्टमच्या विकासास चालना देणे शक्य होईल आणि विविध फ्रेमवर्क आणि संघांसाठी पायाभूत सुविधांच्या विखंडनाची समस्या सोडवा.
OpenXLA विविध हार्डवेअरसाठी प्रभावी समर्थन लागू करण्यास अनुमती देते, मशीन लर्निंग मॉडेल कोणत्या फ्रेमवर्कवर आधारित आहे याची पर्वा न करता. OpenXLA ने मॉडेल प्रशिक्षण वेळ कमी करणे, कार्यप्रदर्शन सुधारणे, विलंब कमी करणे, संगणकीय ओव्हरहेड कमी करणे आणि बाजारपेठेसाठी वेळ कमी करणे अपेक्षित आहे.
OpenXLA तीन मुख्य घटकांचा समावेश आहे, ज्याचा कोड Apache 2.0 लायसन्स अंतर्गत वितरित केला जातो:
- XLA (त्वरित रेखीय बीजगणित) एक संकलक आहे जो तुम्हाला विविध हार्डवेअर प्लॅटफॉर्मवर उच्च-कार्यक्षमता अंमलबजावणीसाठी मशीन लर्निंग मॉडेल्स ऑप्टिमाइझ करण्याची परवानगी देतो, ज्यामध्ये GPU, CPU आणि विविध उत्पादकांकडून विशेष प्रवेगक समाविष्ट आहेत.
- StableHLO हे मशीन लर्निंग सिस्टम मॉडेल्समध्ये वापरण्यासाठी उच्च-स्तरीय ऑपरेशन्स (HLOs) च्या संचाचे मूलभूत तपशील आणि अंमलबजावणी आहे. हे मशीन लर्निंग फ्रेमवर्क आणि कंपायलर यांच्यामध्ये एक स्तर म्हणून कार्य करते जे विशिष्ट हार्डवेअरवर चालण्यासाठी मॉडेलचे रूपांतर करते. PyTorch, TensorFlow आणि JAX फ्रेमवर्कसाठी StableHLO फॉरमॅटमध्ये मॉडेल्स तयार करण्यासाठी स्तर तयार केले जातात. MHLO संच StableHLO साठी आधार म्हणून वापरला जातो, जो क्रमिकीकरण आणि आवृत्ती नियंत्रणासाठी समर्थनासह विस्तारित आहे.
- IREE (इंटरमीडिएट रिप्रेझेंटेशन एक्झिक्युशन एन्व्हायर्नमेंट) एक कंपाइलर आणि रनटाइम आहे जो LLVM प्रोजेक्टच्या MLIR (इंटरमीडिएट मल्टी-लेव्हल रिप्रेझेंटेशन) फॉरमॅटवर आधारित युनिव्हर्सल इंटरमीडिएट रिप्रेझेंटेशनमध्ये मशीन लर्निंग मॉडेल्सचे रूपांतर करतो. वैशिष्ट्यांपैकी, प्री-कंपिलेशनची शक्यता (वेळेपूर्वी), प्रवाह नियंत्रणासाठी समर्थन, मॉडेलमध्ये डायनॅमिक घटक वापरण्याची क्षमता, भिन्न CPUs आणि GPUs साठी ऑप्टिमायझेशन आणि कमी ओव्हरहेड हायलाइट केले आहेत.
OpenXLA च्या मुख्य फायद्यांबाबत, असे नमूद केले आहे कोड लिहिण्याचा अभ्यास न करता इष्टतम कामगिरी प्राप्त झाली आहे डिव्हाइस-विशिष्ट, व्यतिरिक्त आउट-ऑफ-द-बॉक्स ऑप्टिमायझेशन प्रदान करा, बीजगणितीय अभिव्यक्तींचे सरलीकरण, कार्यक्षम मेमरी वाटप, अंमलबजावणी शेड्यूलिंग, जास्तीत जास्त मेमरी वापर आणि ओव्हरहेड्स कमी करणे यासह.
आणखी एक फायदा आहे स्केलिंगचे सरलीकरण आणि गणनेचे समांतरीकरण. विकसकाला गंभीर टेन्सर्सच्या उपसंचासाठी भाष्ये जोडणे पुरेसे आहे, ज्याच्या आधारावर कंपाइलर समांतर संगणनासाठी स्वयंचलितपणे कोड तयार करू शकतो.
असेही ठळकपणे समोर आले आहे पोर्टेबिलिटी एकाधिक हार्डवेअर प्लॅटफॉर्मसाठी समर्थनासह प्रदान केली जाते, जसे की AMD आणि NVIDIA GPUs, x86 आणि ARM CPUs, Google TPU ML Accelerators, AWS Trainium Inferentia IPUs, Graphcore, आणि Wafer-Scale Engine Cerebras.
अतिरिक्त फंक्शन्सच्या अंमलबजावणीसह विस्तार कनेक्ट करण्यासाठी समर्थन, समांतर संगणनासाठी CUDA, HIP, SYCL, Triton आणि इतर भाषांचा वापर करून डीप मशीन लर्निंग प्राइमिटिव्ह लिहिण्यासाठी समर्थन म्हणून, तसेच अडथळ्यांचे मॅन्युअल समायोजन करण्याची शक्यता मॉडेल्स मध्ये.
शेवटी, जर आपल्याला त्याबद्दल अधिक जाणून घेण्यास स्वारस्य असेल तर आपण सल्लामसलत घेऊ शकता पुढील लिंकवर तपशील.