जीपीयू पर एआई मॉडल के बारे में क्विज़

1. ट्रेनिंग और अनुमान लगाने के बीच मुख्य अंतर क्या है?

   ट्रेनिंग में सिर्फ़ फ़ॉरवर्ड पास का इस्तेमाल किया जाता है; अनुमान लगाने में फ़ॉरवर्ड + बैकवर्ड का इस्तेमाल किया जाता है

   ट्रेनिंग से वेट अपडेट होते हैं; अनुमान लगाने से वेट अपडेट नहीं होते

   अनुमान लगाने के लिए, ट्रेनिंग के मुकाबले ज़्यादा बड़े डेटासेट की ज़रूरत होती है

   अनुमान लगाने के लिए, हमेशा सीपीयू का इस्तेमाल किया जाता है

2. मॉडल फ़ॉर्मैट मुख्य रूप से क्या तय करते हैं?

   ट्रेनिंग लॉग का कंप्रेशन अनुपात

   वज़न, पूर्वाग्रह, और मेटाडेटा को कैसे क्रमबद्ध किया जाता है

   किसी मॉडल के जनरेट किए जा सकने वाले टोकन की संख्या

   जीपीयू को कैसे शेड्यूल किया जाता है

3. TensorRT इंजन के बारे में सबसे सही जानकारी यह है:

   रिसर्च के लिए पोर्टेबल चेकपॉइंट

   वेंडर के हिसाब से एक्सचेंज फ़ॉर्मैट

   जीपीयू के लिए ऑप्टिमाइज़ किए गए बाइनरी, जिन्हें किसी खास हार्डवेयर के लिए कंपाइल किया गया है

   कम्यूनिटी के हिसाब से बनाए गए सामान्य फ़ॉर्मैट

4. सीपीयू की तुलना में जीपीयू, अनुमान लगाने के लिए ज़्यादा बेहतर क्यों होते हैं?

   ये कम कोर का इस्तेमाल करते हैं

   इनमें मैट्रिक्स मैथ के लिए ऑप्टिमाइज़ किए गए हज़ारों पैरलल कोर होते हैं

   ये हर कोर के लिए बहुत ज़्यादा बिजली की खपत करते हैं

   ये अलग-अलग तरह के निर्देशों को समझ सकते हैं

5. परफ़ॉर्मेंस ऑप्टिमाइज़ेशन में “नी पॉइंट” क्या होता है?

   वह वैल्यू जहां थ्रूपुट कम हो जाता है

   वह पॉइंट जहां थ्रूपुट बेहतर होता है और लेटेन्सी पर भी ज़्यादा असर नहीं पड़ता

   सबसे ज़्यादा समय

   किसी मॉडल के लिए, कम से कम मेमोरी फ़ुटप्रिंट. भले ही, परफ़ॉर्मेंस में कोई समझौता क्यों न करना पड़े

जवाब सबमिट करें