OpenXLA एक सह-विकसित ओपन सोर्स ML कंपाइलर इकोसिस्टम है
हाल ही में, मशीन लर्निंग के क्षेत्र में विकास में लगी सबसे बड़ी कंपनियों को प्रस्तुत किया परियोजना ओपनएक्सएलए, उपकरणों के संयुक्त विकास के लिए अभिप्रेत है मशीन लर्निंग सिस्टम के लिए मॉडल को संकलित और अनुकूलित करना।
परियोजना ने ऐसे उपकरणों के विकास का जिम्मा लिया है जो अलग-अलग GPU और विशेष त्वरक पर कुशल प्रशिक्षण और निष्पादन के लिए TensorFlow, PyTorch और JAX फ्रेमवर्क में तैयार किए गए मॉडलों के संकलन को एकीकृत करने की अनुमति देते हैं। Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, अलीबाबा और Amazon जैसी कंपनियाँ परियोजना के संयुक्त कार्य में शामिल हुईं।
OpenXLA प्रोजेक्ट एक अत्याधुनिक एमएल कंपाइलर प्रदान करता है जो एमएल इंफ्रास्ट्रक्चर की जटिलता के बीच स्केल कर सकता है। इसके मूलभूत स्तंभ प्रदर्शन, मापनीयता, पोर्टेबिलिटी, लचीलापन और उपयोगकर्ताओं के लिए व्यापकता हैं। OpenXLA के साथ, हम एआई के विकास और वितरण में तेजी लाकर इसकी वास्तविक क्षमता को अनलॉक करने की आकांक्षा रखते हैं।
OpenXLA डेवलपर्स को विभिन्न प्रकार के हार्डवेयर पर कुशल प्रशिक्षण और सर्विसिंग के लिए सभी प्रमुख एमएल फ्रेमवर्क से मॉडल को संकलित और अनुकूलित करने में सक्षम बनाता है। OpenXLA का उपयोग करने वाले डेवलपर्स को प्रशिक्षण समय, प्रदर्शन, सेवा विलंबता और अंतत: बाजार और लागत की गणना करने के समय में महत्वपूर्ण सुधार दिखाई देंगे।
उम्मीद है कि प्रयासों में शामिल होने से मुख्य अनुसंधान दल और समुदाय के प्रतिनिधि, मशीन लर्निंग सिस्टम के विकास को प्रोत्साहित करना संभव होगा और विभिन्न रूपरेखाओं और टीमों के लिए बुनियादी ढांचे के विखंडन की समस्या को हल करें।
OpenXLA विभिन्न हार्डवेयर के लिए प्रभावी समर्थन लागू करने की अनुमति देता है, मशीन लर्निंग मॉडल जिस ढांचे पर आधारित है, उसकी परवाह किए बिना। OpenXLA से मॉडल प्रशिक्षण समय को कम करने, प्रदर्शन में सुधार करने, विलंबता को कम करने, कंप्यूटिंग ओवरहेड को कम करने और बाजार में समय कम करने की उम्मीद है।
ओपनएक्सएलए तीन मुख्य घटक होते हैं, जिसका कोड Apache 2.0 लाइसेंस के तहत वितरित किया गया है:
- XLA (त्वरित रैखिक बीजगणित) एक संकलक है जो आपको GPU, CPU और विभिन्न निर्माताओं के विशेष त्वरक सहित विभिन्न हार्डवेयर प्लेटफार्मों पर उच्च-प्रदर्शन निष्पादन के लिए मशीन लर्निंग मॉडल को अनुकूलित करने की अनुमति देता है।
- StableHLO मशीन लर्निंग सिस्टम मॉडल में उपयोग के लिए एक बुनियादी विनिर्देश और उच्च-स्तरीय संचालन (HLO) के एक सेट का कार्यान्वयन है। यह मशीन लर्निंग फ्रेमवर्क और कंपाइलर के बीच एक परत के रूप में कार्य करता है जो विशिष्ट हार्डवेयर पर चलने के लिए मॉडल को रूपांतरित करता है। PyTorch, TensorFlow और JAX फ्रेमवर्क के लिए StableHLO प्रारूप में मॉडल तैयार करने के लिए परतें तैयार की जाती हैं। MHLO सुइट का उपयोग StableHLO के लिए आधार के रूप में किया जाता है, जिसे क्रमांकन और संस्करण नियंत्रण के लिए समर्थन के साथ विस्तारित किया जाता है।
- IREE (इंटरमीडिएट रिप्रेजेंटेशन एक्ज़ीक्यूशन एनवायरनमेंट) एक कंपाइलर और रनटाइम है जो मशीन लर्निंग मॉडल को LLVM प्रोजेक्ट के MLIR (इंटरमीडिएट मल्टी-लेवल रिप्रेजेंटेशन) फॉर्मेट पर आधारित यूनिवर्सल इंटरमीडिएट रिप्रेजेंटेशन में कनवर्ट करता है। सुविधाओं में से, पूर्व-संकलन की संभावना (समय से पहले), प्रवाह नियंत्रण के लिए समर्थन, मॉडल में गतिशील तत्वों का उपयोग करने की क्षमता, विभिन्न सीपीयू और जीपीयू के लिए अनुकूलन और कम ओवरहेड पर प्रकाश डाला गया है।
OpenXLA के मुख्य लाभों के बारे में, यह उल्लेख किया गया है कि लेखन कोड में तल्लीन किए बिना इष्टतम प्रदर्शन प्राप्त किया गया है डिवाइस-विशिष्ट, इसके अलावा आउट-ऑफ-द-बॉक्स अनुकूलन प्रदान करें, बीजगणितीय अभिव्यक्तियों का सरलीकरण, कुशल मेमोरी आवंटन, निष्पादन शेड्यूलिंग, अधिकतम मेमोरी खपत और ओवरहेड्स को ध्यान में रखते हुए।
एक और फायदा है स्केलिंग का सरलीकरण और गणनाओं का समानांतरीकरण। एक डेवलपर के लिए महत्वपूर्ण टेंसरों के एक सबसेट के लिए एनोटेशन जोड़ने के लिए पर्याप्त है, जिसके आधार पर संकलक स्वचालित रूप से समानांतर कंप्यूटिंग के लिए कोड उत्पन्न कर सकता है।
इस पर भी प्रकाश डाला गया है पोर्टेबिलिटी कई हार्डवेयर प्लेटफॉर्म के लिए समर्थन के साथ प्रदान की जाती है, जैसे AMD और NVIDIA GPUs, x86 और ARM CPUs, Google TPU ML Accelerators, AWS Trainium Inferentia IPUs, ग्राफकोर, और वेफर-स्केल इंजन सेरेब्रस।
अतिरिक्त कार्यों के कार्यान्वयन के साथ एक्सटेंशन को जोड़ने के लिए समर्थन, समानांतर कंप्यूटिंग के लिए CUDA, HIP, SYCL, ट्राइटन और अन्य भाषाओं का उपयोग करके डीप मशीन लर्निंग प्रिमिटिव लिखने के समर्थन के साथ-साथ बाधाओं के मैन्युअल समायोजन की संभावना मॉडलों में।
अंत में, यदि आप इसके बारे में अधिक जानने में रुचि रखते हैं, तो आप परामर्श कर सकते हैं निम्नलिखित लिंक में विवरण।