সমস্যা ম্যানেজ করা, রেট লিমিটিং ও কোটা ম্যানেজমেন্ট

প্রোডাকশন অ্যাপ্লিকেশনে Developer Knowledge API বা Developer Knowledge MCP সার্ভারে কোয়েরি করার সময় এবং AI এজেন্টদের ক্ষেত্রে হাই পারফর্ম্যান্স পাওয়ার জন্য সমস্যা সমাধান ও কোটা ম্যানেজমেন্ট থাকতে হবে।

এই নির্দেশিকা থেকে আপনি এগুলি সম্পর্কে জানতে পারবেন:

  • HTTP 429 উত্তরের জন্য জিটার সহ ট্রানকেট করা এক্সপোনেনশিয়াল ব্যাকঅফ প্রয়োগ করুন।
  • ক্যাননিকাল gRPC এরর কোড (INVALID_ARGUMENT, PERMISSION_DENIED, RESOURCE_EXHAUSTED) হ্যান্ডেল করে।
  • MCP কানেকশন টাইম-আউট ও আবার চেষ্টা করার লজিক ম্যানেজ করা।
  • কোটা ম্যানেজমেন্ট ও ক্যাশিং পেশাদার পদ্ধতি প্রয়োগ করুন।

HTTP 429 রেট সীমিত করা এবং এক্সপোনেনশিয়াল ব্যাকঅফ

অনুরোধের হার ডিফল্ট API কোটা ছাড়িয়ে গেলে, পরিষেবা একটি HTTP 429 Too Many Requests সমস্যা দেখায়। সার্ভিসের উপর অতিরিক্ত চাপ এড়াতে, অ্যাপ্লিকেশনগুলিকে অবশ্যই জিটার সহ ট্রানকেট করা এক্সপোনেনশিয়াল ব্যাকঅফ ব্যবহার করে আবার চেষ্টা করার লজিক ইমপ্লিমেন্ট করতে হবে।

ট্রানকেট করা এক্সপোনেনশিয়াল ব্যাক-অফ

নিম্নলিখিত ফর্মুলা ব্যবহার করে আবার চেষ্টা করার মধ্যেকার বিলম্ব গণনা করুন:

retry_delay = min(max_delay, initial_delay * (2 ^ attempt) + jitter)

আবার চেষ্টা করার মধ্যে কত দেরি হবে তা হিসেব করতে নিম্নলিখিত প্যারামিটার ব্যবহার করুন:

  • initial_delay: প্রাথমিক আবার চেষ্টা করার বিলম্ব (যেমন, ১.০ সেকেন্ড)।
  • max_delay: সর্বাধিক ব্যাকঅফ ক্যাপ (যেমন, ৩২.০ সেকেন্ড)।
  • attempt: বর্তমান রিট্রাই সংখ্যা (০, ১, ২, ...)।
  • jitter: থ্রেড সিনক্রোনাইজেশন স্পাইক (থান্ডার হার্ড সমস্যা) প্রতিরোধ করতে ০ থেকে ১.০ সেকেন্ডের মধ্যে র‍্যান্ডম ভ্যালু।

gRPC সমস্যা ম্যানেজমেন্ট

gRPC-এর মাধ্যমে পরিষেবা অ্যাক্সেস করা অ্যাপ্লিকেশনগুলিকে অবশ্যই ক্যাননিকাল grpc.StatusCode ভ্যালু পরিদর্শন করতে হবে।

স্ট্যান্ডার্ড gRPC স্ট্যাটাস কোড

নিচের সারণীতে পরিষেবার দেওয়া ক্যাননিকাল gRPC স্ট্যাটাস কোড এবং ক্লায়েন্ট হ্যান্ডেলিং সংক্রান্ত পরামর্শ দেওয়া হল:

gRPC স্ট্যাটাস কোড HTTP স্ট্যাটাস মূল কারণ প্রস্তাবিত অ্যাকশন
INVALID_ARGUMENT 400 Bad Request ভুল কোয়েরি স্ট্রিং, ভুল প্যারামিটার ফর্ম্যাট বা ভুল ফিল্ড মাস্ক। আবার চেষ্টা করবেন না। আবার চেষ্টা করার আগে অনুরোধের প্যারামিটার ঠিক করুন।
UNAUTHENTICATED 401 Unauthorized API key বা OAuth Bearer টোকেন নেই, মেয়াদ শেষ হয়ে গেছে বা ভুল ফর্ম্যাটে আছে। আবার চেষ্টা করবেন না। ক্রেডেনশিয়াল রিফ্রেশ করুন অথবা একটি বৈধ API কী তৈরি করুন।
PERMISSION_DENIED 403 Forbidden API কী-তে অনুমতি নেই অথবা প্রোজেক্টে Developer Knowledge API বন্ধ করা আছে। আবার চেষ্টা করবেন না। Google Cloud Console-এ API চালু করা হয়েছে কিনা তা যাচাই করুন।
NOT_FOUND 404 Not Found নির্দিষ্ট parent ডকুমেন্ট পাথের অস্তিত্ব নেই। BatchGetDocuments অনুরোধ করা কোনও ডকুমেন্ট খুঁজে না পেলে অ্যাটমিক পদ্ধতিতে ব্যর্থ হয়। আবার চেষ্টা করবেন না। ডকুমেন্ট রিসোর্স নাম যাচাই করুন।
RESOURCE_EXHAUSTED 429 Too Many Requests রেট সীমা বা প্রোজেক্ট কোটার সীমা পেরিয়ে গেছে। জিটার সহ এক্সপোনেনশিয়াল ব্যাকঅফ ব্যবহার করে আবার চেষ্টা করুন।
UNAVAILABLE 503 Service Unavailable নেটওয়ার্ক সাময়িক ডিসকানেক্ট হয়ে যাওয়া বা সার্ভার রিস্টার্ট করা। এক্সপোনেনশিয়াল ব্যাক-অফ সহ আবার চেষ্টা করুন।
DEADLINE_EXCEEDED 504 Gateway Timeout সম্পূর্ণ হওয়ার আগেই কনফিগার করা RPC-এর সময়সীমা পেরিয়ে গেছে। ক্লায়েন্ট RPC টাইমআউট বাড়িয়ে আবার চেষ্টা করুন।

MCP কানেকশন টাইম-আউট ও সমস্যা ম্যানেজমেন্ট

Developer Knowledge MCP সার্ভার হল একটি রিমোট পরিষেবা যা https://developerknowledge.googleapis.com/mcp HTTPS-এর মাধ্যমে অ্যাক্সেস করা হয় (HTTP POST বা সার্ভার-সেন্ট ইভেন্ট ব্যবহার করে)। AI হোস্ট ও এজেন্টকে কানেকশন টাইম-আউট ও টুলের সমস্যাগুলি সাবলীলভাবে ম্যানেজ করতে হবে।

টুল এক্সিকিউশন টাইম-আউট

কোনও এজেন্ট search_documents, get_documents বা answer_query ইনভোক করলে, নেটওয়ার্ক কানেকশন ধীর গতির হলে টুল কল টাইম-আউট উইন্ডো (যেমন, ৩০ সেকেন্ড) অতিক্রম করতে পারে।

টুল এক্সিকিউশন টাইম-আউট ম্যানেজ করতে:

  • ক্লায়েন্ট টাইম-আউট কনফিগার করা: আপনার MCP হোস্ট ক্লায়েন্ট কনফিগারেশনে টুল এক্সিকিউশন টাইম-আউট ৩০–৬০ সেকেন্ডে সেট করুন ।
  • নেটওয়ার্ক ইন্টারাপশন ম্যানেজ করা: ক্ষণস্থায়ী নেটওয়ার্ক ড্রপ বা HTTP 503 রেসপন্স হলে, এক্সপোনেনশিয়াল ব্যাকঅফ সহ ব্যর্থ HTTP অনুরোধ আবার চেষ্টা করুন।
  • সমস্যার মেসেজ পরীক্ষা করুন: কোটা শেষ হয়ে যাওয়া এবং ভুল আর্গুমেন্টের মধ্যে পার্থক্য করতে, স্ট্যান্ডার্ড JSON-RPC সমস্যার মেসেজ বা HTTP সমস্যার স্ট্যাটাস কোড পার্স করুন।

কোটা ম্যানেজমেন্ট সংক্রান্ত পেশাদার পদ্ধতি

API-এর ব্যবহার অপ্টিমাইজ করতে এবং অপ্রত্যাশিত রেট লিমিট এড়াতে এইসব পেশাদার পদ্ধতি অনুসরণ করুন:

  1. রিট্রিভ করা ডকুমেন্ট কন্টেন্ট ক্যাশে করা: যে অ্যাপ্লিকেশনগুলি একই পৃষ্ঠা ঘন ঘন অ্যাক্সেস করে সেগুলি তৈরি করার সময় ফেচ করা মার্কডাউন ডকুমেন্ট লোকালি বা ক্যাশে (যেমন Redis) স্টোর করে।
  2. ব্যাচ রিট্রিভাল ব্যবহার করুন: একাধিক ক্রমিক documents.get অনুরোধ এক্সিকিউট করার পরিবর্তে documents.batchGet ব্যবহার করুন।
  3. কোয়েরি ফিল্ড অপ্টিমাইজ করা: বেছে নেওয়া ফিল্ড মাস্ক ব্যবহার করে শুধু প্রয়োজনীয় উত্তরের ফিল্ডের জন্য অনুরোধ করুন (fields=results(parent,content))।
  4. কোটা ব্যবহার মনিটর করা: Google Cloud Console API ড্যাশবোর্ডে API অনুরোধের হার ট্র্যাক করুন।

সম্পর্কিত কন্টেন্ট