Gemini Nano के डायरेक्ट मॉडल ऐक्सेस की मदद से, कस्टम अनुरोध भेजें

ML Kit के डायरेक्ट मॉडल ऐक्सेस (com.google.mlkit:genai-prompt) की मदद से, GenerativeModel क्लास का इस्तेमाल करके, उपयोगकर्ता के डिवाइस पर मौजूद Gemini Nano फ़ाउंडेशन मॉडल को नैचुरल लैंग्वेज में कस्टम अनुरोध भेजे जा सकते हैं. डायरेक्ट मॉडल ऐक्सेस, टेक्स्ट या मल्टीमॉडल (इमेज और टेक्स्ट) इनपुट स्वीकार करता है. साथ ही, क्लाइंट की ओर से मैनेज की जाने वाली मल्टी-टर्न बातचीत (List<Content>, USER, और MODEL भूमिकाओं और sessionId के साथ) की सुविधा देता है. इसके अलावा, यह टेक्स्ट आउटपुट या टाइप किया गया स्ट्रक्चर्ड आउटपुट देता है.

मॉडल को सीधे ऐक्सेस करने की सुविधा का इस्तेमाल, कई कामों के लिए किया जा सकता है. जैसे:

इस्तेमाल का उदाहरण

उदाहरण

इमेज की बारीक़ी से पहचान

फ़ोटो का विश्लेषण करके उन्हें "पालतू जानवर", "खाना" या "यात्रा" जैसी कैटगरी में बांटना.

छोटे अनुवाद

डिलीवरी ड्राइवर और ग्राहक के बीच छोटे मैसेज का अनुवाद करना.

निर्देशों के मुताबिक खास जानकारी जनरेट करने की सुविधा

उपयोगकर्ता की खास दिलचस्पी के आधार पर, किसी रेस्टोरेंट की समीक्षाओं की खास जानकारी देना.

एंटिटी एक्सट्रैक्शन

किसी ईमेल थ्रेड से, आने वाले इवेंट के बारे में अहम जानकारी एक्सट्रैक्ट करना.

कॉन्टेंट जनरेट करने के लिए आइडिया

डायरी एंट्री के लिए प्रॉम्प्ट के सुझाव देना.

दस्तावेज़ स्कैन करने की स्मार्ट सुविधा

रसीद की इमेज से आइटम की जानकारी निकालना और उन्हें कैटगरी में बांटना.

टेक्स्ट क्लासिफ़िकेशन

ग्राहकों की समीक्षाओं को सकारात्मक, सामान्य या नकारात्मक कैटगरी में बांटना.

मॉडल का डायरेक्ट ऐक्सेस बनाम टास्क के हिसाब से एपीआई

कस्टम प्रॉम्प्ट के लिए, Gemini Nano के फ़ाउंडेशन मॉडल का डायरेक्ट ऐक्सेस देने के साथ-साथ, ML Kit, पहले से कॉन्फ़िगर किए गए एपीआई उपलब्ध कराता है. ये एपीआई, बोली, इमेज, और टेक्स्ट से जुड़े टास्क के लिए होते हैं: बोली की पहचान, इमेज का ब्यौरा, खास जानकारी, प्रूफ़रीडिंग, फिर से लिखना वगैरह. टेक्स्ट और इमेज टास्क एपीआई, शेयर किए गए बेस मॉडल के ऊपर, टास्क के हिसाब से सुविधा के टाइप और बेहतर तरीके से ट्यून किए गए LoRA अडैप्टर का इस्तेमाल करते हैं. यहां दी गई टेबल में, हर तरीके के फ़ायदों के बारे में बताया गया है:

विचार

मॉडल का डायरेक्ट ऐक्सेस (GenerativeModel)

टेक्स्ट और इमेज टास्क एपीआई

इंटिग्रेशन के लिए ज़रूरी मेहनत

ज़्यादा.

प्रॉम्प्ट इंजीनियरिंग और क्वालिटी अश्योरेंस की वजह से, इसे लागू करने में ज़्यादा मेहनत लगती है.

कम.

इन एपीआई का इस्तेमाल करने के लिए, ज़्यादा मेहनत नहीं करनी पड़ती. इसकी वजह यह है कि ये एपीआई, बेस मॉडल के ऊपर टास्क के हिसाब से सुविधा के टाइप और बेहतर बनाए गए LoRA अडैप्टर का इस्तेमाल करते हैं. आपको सीधे एलएलएम के साथ काम करने की ज़रूरत नहीं है.

सुविधाजनक

ज़्यादा सुविधाएं, क्योंकि GenerativeModel के साथ-साथ, कस्टम प्रॉम्प्ट बनाए जा सकते हैं, कई चरणों वाले कॉन्टेक्स्ट को मैनेज किया जा सकता है, टाइप किए गए स्ट्रक्चर्ड स्कीमा लागू किए जा सकते हैं या बेहतर लेवल के एजेंटिक वर्कफ़्लो (AgentRunner) बनाए जा सकते हैं.

कम सुविधाएं. किसी टास्क के लिए बने हर एपीआई में, LoRA की मदद से फ़ाइन-ट्यूनिंग की सुविधा होती है. साथ ही, इसमें पहले से मौजूद एक प्रॉम्प्ट होता है, जिसकी ये विशेषताएं होती हैं:

  • इमेज की जानकारी सामान्य और कम शब्दों में दी गई है.
  • जवाब में एक से तीन बुलेट पॉइंट ही होने चाहिए.
  • कॉन्टेंट को दोबारा लिखने के लिए, सिर्फ़ पहले से तय स्टाइल का इस्तेमाल किया जा सकता है.

सामान्य तौर पर, जब आपको ज़्यादा कस्टमाइज़ेशन और सुविधा की ज़रूरत हो, तब मॉडल को सीधे ऐक्सेस करें. साथ ही, ऐसे स्टैंडर्ड टास्क के लिए टास्क के हिसाब से एपीआई इस्तेमाल करें जिनके लिए कस्टम लॉजिक की ज़रूरत नहीं होती.

सैंपल कोड