Gemini Nano ডাইরেক্ট মডেল অ্যাক্সেসের মাধ্যমে কাস্টম অনুরোধ পাঠান

ML Kit-এর ডাইরেক্ট মডেল অ্যাক্সেস (com.google.mlkit:genai-prompt) ব্যবহার করে, আপনি GenerativeModel ক্লাসের মাধ্যমে Gemini Nano ফাউন্ডেশন মডেলে অন-ডিভাইস কাস্টম ন্যাচারাল ল্যাঙ্গুয়েজ অনুরোধ পাঠাতে পারবেন। সরাসরি মডেল অ্যাক্সেস টেক্সট বা মাল্টিমোডাল (ছবি ও টেক্সট) ইনপুট গ্রহণ করে, ক্লায়েন্ট-ম্যানেজড মাল্টি-টার্ন কথোপকথন (List<Content>-এর সাথে USER ও MODEL ভূমিকা এবং sessionId) সাপোর্ট করে এবং টেক্সট আউটপুট বা টাইপ করা স্ট্রাকচার্ড আউটপুট প্রদান করে।

আপনি বিভিন্ন ধরনের ব্যবহারের ক্ষেত্রে সরাসরি মডেল অ্যাক্সেস ব্যবহার করতে পারেন, যার মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত রয়েছে:

ব্যবহারিক ক্ষেত্র

উদাহরণ

ছবি বুঝতে পারা

"পোষ্য", "খাবার" বা "ভ্রমণ"-এর মতো শ্রেণীবিন্যাসের জন্য ফটো বিশ্লেষণ করা হচ্ছে।

ছোট অনুবাদ

ডেলিভারি ড্রাইভার ও গ্রাহকের মধ্যে সংক্ষিপ্ত মেসেজ অনুবাদ করা।

গাইডেড সামারাইজেশন

ব্যবহারকারীর নির্দিষ্ট আগ্রহের ভিত্তিতে কোনও রেস্তোরাঁর রিভিউয়ের সারসংক্ষেপ করা।

এন্টিটি এক্সট্র্যাকশন

ইমেল থ্রেড থেকে আসন্ন ইভেন্ট সম্পর্কে গুরুত্বপূর্ণ বিবরণ এক্সট্র্যাক্ট করা হচ্ছে।

কন্টেন্ট জেনারেশনের অনুপ্রেরণা

জার্নাল এন্ট্রির জন্য প্রম্পট সাজেস্ট করা।

ইন্টেলিজেন্ট ডকুমেন্ট স্ক্যানিং

রসিদের ছবি থেকে আইটেম এক্সট্র্যাক্ট ও ক্যাটেগরাইজ করা।

টেক্সট ক্লাসিফিকেশন

গ্রাহকের রিভিউকে পজিটিভ, নিরপেক্ষ বা নেগেটিভ বিভাগে শ্রেণীবদ্ধ করা।

সরাসরি মডেল অ্যাক্সেস বনাম টাস্ক-নির্দিষ্ট API

কাস্টম প্রম্পটের জন্য Gemini Nano ফাউন্ডেশন মডেলে সরাসরি অ্যাক্সেস ছাড়াও, ML Kit স্পিচ, ছবি ও টেক্সট সংক্রান্ত নির্দিষ্ট টাস্কের জন্য আগে থেকে কনফিগার করা API প্রদান করে: স্পিচ শনাক্তকরণ, ছবির বিবরণ, সারসংক্ষেপ, প্রুফরিডিং, আবার লেখা এবং আরও অনেক কিছু। টেক্সট ও ইমেজ টাস্ক API, শেয়ার করা বেস মডেলের উপরে টাস্ক-নির্দিষ্ট ফিচার টাইপ ও ফাইন-টিউন করা LoRA অ্যাডাপ্টার ব্যবহার করে। নিচের সারণীতে প্রতিটি পদ্ধতির সুবিধা উল্লেখ করা হয়েছে:

বিবেচনা

সরাসরি মডেল অ্যাক্সেস (GenerativeModel)

টেক্সট ও ইমেজ টাস্ক API

ইন্টিগ্রেশন করা কতটা শক্ত

বেশি।

প্রম্পট ইঞ্জিনিয়ারিং ও কোয়ালিটি অ্যাস্যুরেন্সের কারণে এটি প্রয়োগ করতে আরও বেশি পরিশ্রম করতে হয়।

কম।

কম পরিশ্রম করতে হয়, কারণ এইসব API বেস মডেলের উপরে টাস্ক-নির্দিষ্ট ফিচার টাইপ এবং ফাইন-টিউন করা LoRA অ্যাডাপ্টার ব্যবহার করে। LLM-এর সাথে সরাসরি কাজ করার প্রয়োজন নেই।

ফ্লেক্সিবিলিটি

আরও বেশি নমনীয়তা, কারণ আপনি কাস্টম ইঞ্জিনিয়ার প্রম্পট, মাল্টি-টার্ন কনটেক্সট ম্যানেজ, টাইপ করা স্ট্রাকচার্ড স্কিমা এনফোর্স বা GenerativeModel-এর উপরে আরও উন্নত লেভেলের এজেন্টিক ওয়ার্কফ্লো (AgentRunner) তৈরি করতে পারবেন।

কম সুবিধা। প্রতিটি টাস্ক-নির্দিষ্ট API-তে LoRA ফাইন-টিউনিং এবং একটি বিল্ট-ইন প্রম্পট থাকে যার নিম্নলিখিত বৈশিষ্ট্য রয়েছে:

  • ছবির বিবরণ সাধারণ ও ছোট।
  • সারসংক্ষেপ শুধুমাত্র ১-৩টি বুলেট পয়েন্টে হতে পারে।
  • রিরাইটিং শুধু পূর্বনির্ধারিত স্টাইল সাপোর্ট করে।

সাধারণ নিয়ম হিসেবে, আপনার আরও কাস্টমাইজেশন ও ফ্লেক্সিবিলিটি প্রয়োজন হলে, সরাসরি মডেল অ্যাক্সেস ব্যবহার করুন এবং স্ট্যান্ডার্ড টাস্কের জন্য টাস্ক-নির্দিষ্ট API ব্যবহার করুন, যেগুলির জন্য কাস্টম লজিকের প্রয়োজন হয় না।

নমুনা কোড