OpenXLA, ಯಂತ್ರ ಕಲಿಕೆಯನ್ನು ವೇಗಗೊಳಿಸಲು ಮತ್ತು ಸರಳಗೊಳಿಸುವ ಮುಕ್ತ ಮೂಲ ಯೋಜನೆಯಾಗಿದೆ

ಇತ್ತೀಚೆಗೆ, ಪ್ರಸ್ತುತಪಡಿಸಿದ ಯಂತ್ರ ಕಲಿಕೆಯ ಕ್ಷೇತ್ರದಲ್ಲಿ ಅಭಿವೃದ್ಧಿಯಲ್ಲಿ ತೊಡಗಿರುವ ದೊಡ್ಡ ಕಂಪನಿಗಳು ಯೋಜನೆ OpenXLA, ಉಪಕರಣಗಳ ಜಂಟಿ ಅಭಿವೃದ್ಧಿಗೆ ಉದ್ದೇಶಿಸಲಾಗಿದೆ ಯಂತ್ರ ಕಲಿಕೆ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಮಾದರಿಗಳನ್ನು ಕಂಪೈಲ್ ಮಾಡಲು ಮತ್ತು ಆಪ್ಟಿಮೈಜ್ ಮಾಡಲು.

ವಿಭಿನ್ನ GPUಗಳು ಮತ್ತು ವಿಶೇಷ ವೇಗವರ್ಧಕಗಳಲ್ಲಿ ಸಮರ್ಥ ತರಬೇತಿ ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸಲು TensorFlow, PyTorch ಮತ್ತು JAX ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳಲ್ಲಿ ಸಿದ್ಧಪಡಿಸಲಾದ ಮಾದರಿಗಳ ಸಂಕಲನವನ್ನು ಏಕೀಕರಿಸುವ ಸಾಧನಗಳ ಅಭಿವೃದ್ಧಿಯನ್ನು ಯೋಜನೆಯು ವಹಿಸಿಕೊಂಡಿದೆ. Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba ಮತ್ತು Amazon ಮುಂತಾದ ಕಂಪನಿಗಳು ಯೋಜನೆಯ ಜಂಟಿ ಕೆಲಸಕ್ಕೆ ಸೇರಿಕೊಂಡವು.

OpenXLA ಪ್ರಾಜೆಕ್ಟ್ ML ಮೂಲಸೌಕರ್ಯದ ಸಂಕೀರ್ಣತೆಯ ನಡುವೆ ಅಳೆಯಬಹುದಾದ ಅತ್ಯಾಧುನಿಕ ML ಕಂಪೈಲರ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದರ ಮೂಲಭೂತ ಸ್ತಂಭಗಳೆಂದರೆ ಕಾರ್ಯಕ್ಷಮತೆ, ಸ್ಕೇಲೆಬಿಲಿಟಿ, ಪೋರ್ಟಬಿಲಿಟಿ, ನಮ್ಯತೆ ಮತ್ತು ಬಳಕೆದಾರರಿಗೆ ವಿಸ್ತರಣೆ. OpenXLA ನೊಂದಿಗೆ, ಅದರ ಅಭಿವೃದ್ಧಿ ಮತ್ತು ವಿತರಣೆಯನ್ನು ವೇಗಗೊಳಿಸುವ ಮೂಲಕ AI ನ ನೈಜ ಸಾಮರ್ಥ್ಯವನ್ನು ಅನ್ಲಾಕ್ ಮಾಡಲು ನಾವು ಬಯಸುತ್ತೇವೆ.

OpenXLA ಎಲ್ಲಾ ಪ್ರಮುಖ ML ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳಿಂದ ಮಾದರಿಗಳನ್ನು ಕಂಪೈಲ್ ಮಾಡಲು ಮತ್ತು ಆಪ್ಟಿಮೈಜ್ ಮಾಡಲು ಡೆವಲಪರ್‌ಗಳಿಗೆ ಸಮರ್ಥ ತರಬೇತಿ ಮತ್ತು ವಿವಿಧ ರೀತಿಯ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಸೇವೆಯನ್ನು ನೀಡುತ್ತದೆ. OpenXLA ಅನ್ನು ಬಳಸುವ ಡೆವಲಪರ್‌ಗಳು ತರಬೇತಿ ಸಮಯ, ಕಾರ್ಯಕ್ಷಮತೆ, ಸೇವಾ ಸುಪ್ತತೆ ಮತ್ತು ಅಂತಿಮವಾಗಿ ಮಾರುಕಟ್ಟೆ ಮತ್ತು ವೆಚ್ಚಗಳನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡುವ ಸಮಯದಲ್ಲಿ ಗಮನಾರ್ಹ ಸುಧಾರಣೆಗಳನ್ನು ನೋಡುತ್ತಾರೆ.

ಪ್ರಯತ್ನಗಳಿಗೆ ಕೈಜೋಡಿಸುವ ಮೂಲಕ ಭರವಸೆ ಇದೆ ಮುಖ್ಯ ಸಂಶೋಧನಾ ತಂಡಗಳು ಮತ್ತು ಸಮುದಾಯದ ಪ್ರತಿನಿಧಿಗಳು, ಯಂತ್ರ ಕಲಿಕೆ ವ್ಯವಸ್ಥೆಗಳ ಅಭಿವೃದ್ಧಿಯನ್ನು ಉತ್ತೇಜಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ ಮತ್ತು ವಿವಿಧ ಚೌಕಟ್ಟುಗಳು ಮತ್ತು ತಂಡಗಳಿಗೆ ಮೂಲಸೌಕರ್ಯ ವಿಘಟನೆಯ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸಿ.

OpenXLA ವಿವಿಧ ಯಂತ್ರಾಂಶಗಳಿಗೆ ಪರಿಣಾಮಕಾರಿ ಬೆಂಬಲವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಅನುಮತಿಸುತ್ತದೆ, ಯಂತ್ರ ಕಲಿಕೆಯ ಮಾದರಿಯನ್ನು ಆಧರಿಸಿದ ಚೌಕಟ್ಟನ್ನು ಲೆಕ್ಕಿಸದೆ. OpenXLA ಮಾದರಿ ತರಬೇತಿ ಸಮಯವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸುತ್ತದೆ, ಸುಪ್ತತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಕಂಪ್ಯೂಟಿಂಗ್ ಓವರ್ಹೆಡ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಮತ್ತು ಮಾರುಕಟ್ಟೆಗೆ ಸಮಯವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.

OpenXLA ಮೂರು ಮುಖ್ಯ ಘಟಕಗಳನ್ನು ಒಳಗೊಂಡಿದೆ, ಇದರ ಕೋಡ್ ಅನ್ನು ಅಪಾಚೆ 2.0 ಪರವಾನಗಿ ಅಡಿಯಲ್ಲಿ ವಿತರಿಸಲಾಗಿದೆ:

1. XLA (ವೇಗವರ್ಧಿತ ಲೀನಿಯರ್ ಬೀಜಗಣಿತ) ಎನ್ನುವುದು ಕಂಪೈಲರ್ ಆಗಿದ್ದು, ಇದು GPUಗಳು, CPUಗಳು ಮತ್ತು ವಿವಿಧ ತಯಾರಕರ ವಿಶೇಷ ವೇಗವರ್ಧಕಗಳನ್ನು ಒಳಗೊಂಡಂತೆ ವಿವಿಧ ಹಾರ್ಡ್‌ವೇರ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಉನ್ನತ-ಕಾರ್ಯಕ್ಷಮತೆಯ ಎಕ್ಸಿಕ್ಯೂಶನ್‌ಗಾಗಿ ಯಂತ್ರ ಕಲಿಕೆಯ ಮಾದರಿಗಳನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.
2. ಸ್ಟೇಬಲ್‌ಎಚ್‌ಎಲ್‌ಒ ಎಂಬುದು ಮಷಿನ್ ಲರ್ನಿಂಗ್ ಸಿಸ್ಟಂ ಮಾದರಿಗಳಲ್ಲಿ ಬಳಸಲು ಉನ್ನತ ಮಟ್ಟದ ಕಾರ್ಯಾಚರಣೆಗಳ (ಎಚ್‌ಎಲ್‌ಒ) ಮೂಲ ವಿವರಣೆ ಮತ್ತು ಅನುಷ್ಠಾನವಾಗಿದೆ. ಇದು ಯಂತ್ರ ಕಲಿಕೆಯ ಚೌಕಟ್ಟುಗಳು ಮತ್ತು ಕಂಪೈಲರ್‌ಗಳ ನಡುವಿನ ಪದರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಅದು ನಿರ್ದಿಷ್ಟ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಮಾದರಿಯನ್ನು ಪರಿವರ್ತಿಸುತ್ತದೆ. PyTorch, TensorFlow ಮತ್ತು JAX ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳಿಗಾಗಿ StableHLO ಸ್ವರೂಪದಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ರಚಿಸಲು ಲೇಯರ್‌ಗಳನ್ನು ಸಿದ್ಧಪಡಿಸಲಾಗಿದೆ. MHLO ಸೂಟ್ ಅನ್ನು StableHLO ಗೆ ಆಧಾರವಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ, ಇದು ಧಾರಾವಾಹಿ ಮತ್ತು ಆವೃತ್ತಿ ನಿಯಂತ್ರಣಕ್ಕೆ ಬೆಂಬಲದೊಂದಿಗೆ ವಿಸ್ತರಿಸಲ್ಪಟ್ಟಿದೆ.
3. IREE (ಮಧ್ಯಂತರ ಪ್ರಾತಿನಿಧ್ಯ ಕಾರ್ಯನಿರ್ವಹಣೆಯ ಪರಿಸರ) ಎಂಬುದು ಕಂಪೈಲರ್ ಮತ್ತು ರನ್‌ಟೈಮ್ ಆಗಿದ್ದು ಅದು LLVM ಯೋಜನೆಯ MLIR (ಮಧ್ಯಂತರ ಬಹು-ಹಂತದ ಪ್ರಾತಿನಿಧ್ಯ) ಸ್ವರೂಪದ ಆಧಾರದ ಮೇಲೆ ಯಂತ್ರ ಕಲಿಕೆಯ ಮಾದರಿಗಳನ್ನು ಸಾರ್ವತ್ರಿಕ ಮಧ್ಯಂತರ ಪ್ರಾತಿನಿಧ್ಯವಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ವೈಶಿಷ್ಟ್ಯಗಳಲ್ಲಿ, ಪೂರ್ವ ಸಂಕಲನದ ಸಾಧ್ಯತೆ (ಸಮಯಕ್ಕಿಂತ ಮುಂಚಿತವಾಗಿ), ಹರಿವಿನ ನಿಯಂತ್ರಣಕ್ಕೆ ಬೆಂಬಲ, ಮಾದರಿಗಳಲ್ಲಿ ಡೈನಾಮಿಕ್ ಅಂಶಗಳನ್ನು ಬಳಸುವ ಸಾಮರ್ಥ್ಯ, ವಿಭಿನ್ನ CPU ಗಳು ಮತ್ತು GPU ಗಳಿಗೆ ಆಪ್ಟಿಮೈಸೇಶನ್ ಮತ್ತು ಕಡಿಮೆ ಓವರ್ಹೆಡ್ ಅನ್ನು ಹೈಲೈಟ್ ಮಾಡಲಾಗಿದೆ.

OpenXLA ಯ ಮುಖ್ಯ ಅನುಕೂಲಗಳ ಬಗ್ಗೆ, ಅದನ್ನು ಉಲ್ಲೇಖಿಸಲಾಗಿದೆ ಬರವಣಿಗೆ ಕೋಡ್ ಅನ್ನು ಪರಿಶೀಲಿಸದೆಯೇ ಅತ್ಯುತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸಾಧಿಸಲಾಗಿದೆ ಸಾಧನ-ನಿರ್ದಿಷ್ಟ, ಜೊತೆಗೆ ಬಾಕ್ಸ್‌ನ ಹೊರಗಿನ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳನ್ನು ಒದಗಿಸಿ, ಬೀಜಗಣಿತದ ಅಭಿವ್ಯಕ್ತಿಗಳ ಸರಳೀಕರಣ, ಸಮರ್ಥ ಮೆಮೊರಿ ಹಂಚಿಕೆ, ಮರಣದಂಡನೆ ವೇಳಾಪಟ್ಟಿ, ಗರಿಷ್ಠ ಮೆಮೊರಿ ಬಳಕೆ ಮತ್ತು ಓವರ್ಹೆಡ್ಗಳ ಕಡಿತವನ್ನು ಗಣನೆಗೆ ತೆಗೆದುಕೊಳ್ಳುವುದು ಸೇರಿದಂತೆ.

ಮತ್ತೊಂದು ಅನುಕೂಲವೆಂದರೆ ಲೆಕ್ಕಾಚಾರಗಳ ಸ್ಕೇಲಿಂಗ್ ಮತ್ತು ಸಮಾನಾಂತರತೆಯ ಸರಳೀಕರಣ. ನಿರ್ಣಾಯಕ ಟೆನ್ಸರ್‌ಗಳ ಉಪವಿಭಾಗಕ್ಕೆ ಟಿಪ್ಪಣಿಗಳನ್ನು ಸೇರಿಸಲು ಡೆವಲಪರ್‌ಗೆ ಸಾಕು, ಅದರ ಆಧಾರದ ಮೇಲೆ ಕಂಪೈಲರ್ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಸಮಾನಾಂತರ ಕಂಪ್ಯೂಟಿಂಗ್‌ಗಾಗಿ ಕೋಡ್ ಅನ್ನು ರಚಿಸಬಹುದು.

ಅದನ್ನೂ ಎತ್ತಿ ತೋರಿಸಲಾಗಿದೆ ಬಹು ಹಾರ್ಡ್‌ವೇರ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಿಗೆ ಬೆಂಬಲದೊಂದಿಗೆ ಪೋರ್ಟಬಿಲಿಟಿ ಒದಗಿಸಲಾಗಿದೆ, ಉದಾಹರಣೆಗೆ AMD ಮತ್ತು NVIDIA GPUಗಳು, x86 ಮತ್ತು ARM CPUಗಳು, Google TPU ML ವೇಗವರ್ಧಕಗಳು, AWS ಟ್ರೇನಿಯಮ್ ಇನ್ಫರೆನ್ಷಿಯಾ IPUಗಳು, ಗ್ರಾಫ್‌ಕೋರ್ ಮತ್ತು ವೇಫರ್-ಸ್ಕೇಲ್ ಎಂಜಿನ್ ಸೆರೆಬ್ರಾಸ್.

ಹೆಚ್ಚುವರಿ ಕಾರ್ಯಗಳ ಅನುಷ್ಠಾನದೊಂದಿಗೆ ವಿಸ್ತರಣೆಗಳನ್ನು ಸಂಪರ್ಕಿಸಲು ಬೆಂಬಲ, ಸಮಾನಾಂತರ ಕಂಪ್ಯೂಟಿಂಗ್‌ಗಾಗಿ CUDA, HIP, SYCL, ಟ್ರೈಟಾನ್ ಮತ್ತು ಇತರ ಭಾಷೆಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಆಳವಾದ ಯಂತ್ರ ಕಲಿಕೆಯ ಮೂಲಗಳನ್ನು ಬರೆಯಲು ಬೆಂಬಲವಾಗಿ, ಹಾಗೆಯೇ ಅಡಚಣೆಗಳ ಹಸ್ತಚಾಲಿತ ಹೊಂದಾಣಿಕೆಯ ಸಾಧ್ಯತೆ ಮಾದರಿಗಳಲ್ಲಿ.

ಅಂತಿಮವಾಗಿ, ನೀವು ಅದರ ಬಗ್ಗೆ ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಲು ಆಸಕ್ತಿ ಹೊಂದಿದ್ದರೆ, ನೀವು ಸಮಾಲೋಚಿಸಬಹುದು ಕೆಳಗಿನ ಲಿಂಕ್ನಲ್ಲಿ ವಿವರಗಳು.