तकनीकी उद्योग में, आप अनुमान, कृत्रिम बुद्धिमत्ता (एआई), और मशीन लर्निंग (एमएल) का उल्लेख किए बिना शायद ही बातचीत कर सकते हैं। हालाँकि, यह ध्यान रखना महत्वपूर्ण है कि हालाँकि ये सभी शब्द आपस में जुड़े हुए हैं, फिर भी इनमें काफी भिन्नता भी है।
इस लेख में, हम मूलभूत अंतरों की व्याख्या करेंगे और टेंसर प्रोसेसिंग आधारित एज एआई तकनीक का उपयोग करने के महत्व पर प्रकाश डालेंगे, विशेष रूप से एज और एम्बेडेड सिस्टम में। ग्राफिक्स प्रोसेसिंग यूनिट्स (जीपीयू) पर आधारित समाधानों की तुलना में, टेंसर प्रोसेसिंग यूनिट्स (टीपीयू) अधिक कुशल और लागत प्रभावी प्रदर्शन प्रदान करती हैं। हम कुछ उदाहरण उपयोग के मामले भी प्रदान करेंगे जो दर्शाते हैं कि आपको भविष्य में एज एआई समाधानों का सामना कहाँ हो सकता है।
एमएल और अनुमान के मूल सिद्धांत
एमएल मशीनों को कार्य करने का तरीका सीखने में सक्षम बनाने के लिए प्रतिनिधि डेटा का उपयोग करके प्रशिक्षण मॉडल की पद्धति को संदर्भित करता है। यह प्रक्रिया अत्यधिक कम्प्यूटेशनल रूप से गहन हो सकती है, जिससे प्रति नए प्रशिक्षण डेटा बिंदु पर खरबों ऑपरेशन उत्पन्न हो सकते हैं। प्रशिक्षण प्रक्रिया की पुनरावृत्तीय प्रकृति, उच्च सटीकता प्राप्त करने के लिए आवश्यक विशाल प्रशिक्षण डेटासेट के साथ मिलकर, अत्यधिक उच्च प्रदर्शन फ्लोटिंग पॉइंट प्रोसेसिंग की मांग को बढ़ाती है। एमएल प्रशिक्षण को डेटा सेंटर इंफ्रास्ट्रक्चर के रूप में सबसे अच्छा कार्यान्वित किया जाता है, जहां उच्च पूंजी और परिचालन लागत को कई ग्राहकों के बीच परिशोधन करके उचित ठहराया जा सकता है।
अनुमान में उस प्रतिनिधि डेटा से संबंधित नए डेटा के लिए संभावित मिलान उत्पन्न करने के लिए प्रशिक्षित मॉडल का उपयोग करना शामिल है जिस पर मॉडल को प्रशिक्षित किया गया था। अनुमान का लक्ष्य मिलीसेकंड के भीतर त्वरित उत्तर देना है। अनुमान के उदाहरणों में वाक् पहचान, वास्तविक समय में भाषा अनुवाद, मशीन विज़न और विज्ञापन प्रविष्टि अनुकूलन निर्णय शामिल हैं। जबकि अनुमान के लिए प्रशिक्षण के लिए आवश्यक प्रसंस्करण शक्ति के केवल एक अंश की आवश्यकता होती है, यह अभी भी पारंपरिक केंद्रीय प्रसंस्करण इकाई (सीपीयू) आधारित सिस्टम, विशेष रूप से कंप्यूटर विज़न अनुप्रयोगों के लिए, प्रदान कर सकने वाली क्षमता से कहीं अधिक है। यही कारण है कि बहुत सी कंपनियाँ टेंसर आधारित त्वरण समाधानों की ओर रुख कर रही हैं, चाहे SoCs पर आईपी के रूप में या सिस्टम एक्सेलेरेटर में, {{9}, किनारे पर आवश्यक उप-10 सेकंड प्रतिक्रिया समय प्राप्त करने के लिए। वास्तविकता यह है कि किसी दृष्टि प्रणाली में छवियों को संसाधित करने में एक मिनट या कुछ सेकंड खर्च करना भी बहुत उपयोगी नहीं है। औद्योगिक दृष्टि प्रणालियाँ मिलीसेकंड स्तर की प्रसंस्करण गति की तलाश कर रही हैं।
प्रशिक्षण और अनुमान को अलग करना
अनुमान कार्यभार को संभालने के लिए प्रशिक्षण के लिए उपयोग किए जाने वाले समान हार्डवेयर को तैनात करने से त्वरक और सीपीयू हार्डवेयर के साथ अनुमान मशीनों का प्रावधान हो सकता है। पिछले दशक में एमएल के लिए विकसित किए गए जीपीयू समाधान जरूरी नहीं कि बड़े पैमाने पर एमएल अनुमान प्रौद्योगिकियों की तैनाती के लिए इष्टतम विकल्प हों। नीचे दिया गया चित्र टीपीयू एक्सेलेरेटर और जीपीयू एक्सेलेरेटर के बीच तुलना को पूरी तरह से दर्शाता है। यह स्पष्ट रूप से दर्शाता है कि जीपीयू आधारित एजीएक्स समाधानों की तुलना में टीपीयू त्वरक कम बिजली की खपत, कम लागत और उच्च दक्षता प्रदान करते हैं, जबकि अभी भी अनुमान अनुप्रयोगों के लिए आकर्षक प्रदर्शन स्तर प्रदान करते हैं।
एमएल प्रशिक्षण और अनुमान समाधानों पर विचार करते समय एक और महत्वपूर्ण विचार सॉफ्टवेयर वातावरण है। आज, कई लोकप्रिय लाइब्रेरी उपयोग में हैं, जैसे कि NVIDIA GPU के लिए CUDA, TensorFlow और PyTorch जैसे ML फ्रेमवर्क, Keras जैसी अनुकूलित क्रॉस-प्लेटफ़ॉर्म मॉडल लाइब्रेरी, और बहुत कुछ। ये टूलकिट एमएल मॉडल के विकास और प्रशिक्षण के लिए आवश्यक हैं, लेकिन अनुमान अनुप्रयोगों के लिए सॉफ्टवेयर टूल के एक अलग, छोटे सेट की आवश्यकता होती है।
अनुमान टूलकिट लक्ष्य प्लेटफ़ॉर्म पर मॉडल चलाने पर ध्यान केंद्रित करते हैं। वे प्रशिक्षित मॉडलों को प्लेटफ़ॉर्म पर पोर्ट करने का समर्थन करते हैं, जिसमें कुछ ऑपरेटर परिवर्तन, परिमाणीकरण और होस्ट एकीकरण सेवाएँ शामिल हो सकती हैं। हालाँकि, यह मॉडल विकास और प्रशिक्षण के लिए आवश्यक कार्यक्षमताओं की तुलना में अपेक्षाकृत सरल सेट का प्रतिनिधित्व करता है।
मॉडल के मानकीकृत प्रतिनिधित्व के साथ शुरुआत करने से अनुमान उपकरण लाभान्वित होते हैं। ओपन न्यूरल नेटवर्क एक्सचेंज (ओएनएनएक्स) एमएल मॉडल का प्रतिनिधित्व करने के लिए मानक प्रारूप है। जैसा कि नाम से पता चलता है, यह लिनक्स फाउंडेशन प्रोजेक्ट के रूप में प्रबंधित एक खुला मानक है। ओएनएनएक्स जैसी प्रौद्योगिकियां प्रशिक्षण और अनुमान प्रणालियों को अलग करने में सक्षम बनाती हैं, जिससे डेवलपर्स को प्रत्येक के लिए अलग-अलग अनुकूलित प्लेटफॉर्म चुनने की आजादी मिलती है।
उदाहरण दृश्य अनुप्रयोग
जैसे-जैसे एमएल और अनुमान प्रोसेसर प्रौद्योगिकियां आगे बढ़ रही हैं और विकसित हो रही हैं, अनुप्रयोगों का प्रसार हो रहा है। नीचे कुछ स्थान दिए गए हैं जहां आपको भविष्य में इस तकनीक का सामना करना पड़ सकता है।
कारखानों, अस्पतालों, खुदरा स्टोरों और वित्तीय संस्थानों जैसे उद्यमों में एज सर्वर। उदाहरण के लिए, औद्योगिक सेटिंग्स में, AI इन्वेंट्री प्रबंधन, दोष का पता लगाने और यहां तक कि समस्या उत्पन्न होने से पहले पूर्वानुमानित रखरखाव में सहायता कर सकता है। खुदरा क्षेत्र में, यह मानव मुद्रा का पता लगाने और उसका विश्लेषण करने के लिए कंप्यूटर दृष्टि का उपयोग करके मुद्रा अनुमान जैसी सुविधाओं को सक्षम बनाता है। इस विश्लेषण के डेटा से ब्रिक{3}और-मोर्टार खुदरा विक्रेताओं को अपने स्टोर के भीतर मानव व्यवहार और पैदल यातायात को बेहतर ढंग से समझने में मदद मिलती है, जिससे उन्हें अधिकतम बिक्री और ग्राहक संतुष्टि के लिए स्टोर लेआउट को अनुकूलित करने की अनुमति मिलती है।
रोबोटिक्स, औद्योगिक स्वचालन/निरीक्षण, चिकित्सा इमेजिंग, वैज्ञानिक इमेजिंग, निगरानी और वस्तु पहचान कैमरे, और फोटोनिक्स सहित अनुप्रयोगों के लिए उच्च {{0}सटीकता/उच्च - गुणवत्ता वाली इमेजिंग। उदाहरण के लिए, मशीन लर्निंग विधियों ने डिजिटल एक्स किरणों को संसाधित करके कैंसर का पता लगाने की क्षमता प्रदर्शित की है। इस प्रक्रिया में एक्स-रे छवियों को संसाधित करने के लिए डिज़ाइन किया गया एक एमएल मॉडल विकसित करना शामिल है, जो आमतौर पर कैंसर के घावों की पहचान करने के लिए प्रशिक्षित सिमेंटिक सेगमेंटेशन एल्गोरिदम का उपयोग करता है। प्रशिक्षण के दौरान, रेडियोलॉजिस्ट द्वारा पहचानी गई कैंसर छवियों का उपयोग नेटवर्क को यह सिखाने के लिए किया जाता है कि कैंसर क्या नहीं है, कैंसर क्या है, और विभिन्न प्रकार के कैंसर कैसे प्रकट होते हैं। एमएल मॉडल को जितना अधिक प्रशिक्षित किया जाता है, वह सही निदान को अधिकतम करने और गलत निदान को कम करने में उतना ही बेहतर हो जाता है। इसका मतलब यह है कि मशीन लर्निंग न केवल बुद्धिमान मॉडल डिजाइन पर निर्भर करती है, बल्कि समान रूप से बड़ी मात्रा में (हजारों से लाखों) सावधानीपूर्वक संकलित डेटा उदाहरणों पर भी निर्भर करती है, जहां कैंसर की विशेषज्ञ रूप से पहचान की गई है।
स्मार्ट शॉपिंग कार्ट्स-कई कंपनियां बुद्धिमान शॉपिंग सिस्टम विकसित और तैनात कर रही हैं जो उत्पादों को उनके यूपीसी बारकोड से नहीं, बल्कि पैकेजिंग की दृश्य उपस्थिति से पहचानते हैं। यह सुविधा खरीदारों को यूपीसी कोड का पता लगाने और उसे यूपीसी लेजर स्कैनर से स्कैन करने की आवश्यकता के बिना वस्तुओं को कार्ट में या चेकआउट सिस्टम पर रखने की अनुमति देती है। यह तकनीक खरीदारी प्रक्रिया को अधिक सटीक, तेज़ और अधिक सुविधाजनक बनाती है।
सही निर्णय लेना
कंपनियों को आज सभी उपलब्ध समाधानों का मूल्यांकन करना चाहिए और अपने विशिष्ट उपयोग के मामले के आधार पर इष्टतम समाधान का चयन करना चाहिए। वे यह भी नहीं मान सकते कि सभी एआई समाधान जीपीयू उपकरणों पर सर्वोत्तम रूप से लागू होते हैं, क्योंकि टीपीयू आधारित समाधान उच्च प्रसंस्करण दक्षता और कम सिलिकॉन उपयोग प्रदान करते हैं, जिससे बिजली की खपत और लागत कम हो जाती है।