Method: aisafety.classifyContent

नीतियों के दिए गए सेट के हिसाब से, किसी कॉन्टेंट का विश्लेषण करें.

एचटीटीपी अनुरोध

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

यह यूआरएल, gRPC ट्रांसकोडिंग सिंटैक्स का इस्तेमाल करता है.

अनुरोध का मुख्य भाग

अनुरोध के मुख्य भाग में, इस स्ट्रक्चर का डेटा शामिल होता है:

JSON के काेड में दिखाना 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
फ़ील्ड
input

object (InputContent)

ज़रूरी है. ऐसा कॉन्टेंट जिसे क्लासिफ़ाई करना है.
context

object (Context)

ज़रूरी नहीं. इनपुट के बारे में जानकारी, जिसका इस्तेमाल क्लासिफ़िकेशन में मदद पाने के लिए किया जाएगा.
policies[]

object (PolicyConfig)

ज़रूरी है. इन नीतियों के आधार पर कॉन्टेंट का आकलन किया जाएगा.
classifierVersion

enum (ClassifierVersion)

ज़रूरी नहीं. इस्तेमाल किए जाने वाले क्लासिफ़ायर का वर्शन. अगर यह जानकारी नहीं दी जाती है, तो सबसे नए वर्शन का इस्तेमाल किया जाएगा.

जवाब का मुख्य भाग

aisafety.classifyContent RPC के लिए रिस्पॉन्स प्रोटो.

अगर एपीआई सही से जुड़ जाता है, ताे जवाब के मुख्य भाग में नीचे दिए गए स्ट्रक्चर शामिल होता है.

JSON के काेड में दिखाना 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
फ़ील्ड
policyResults[]

object (PolicyResult)

हर नीति के लिए, क्लासिफ़िकेशन के नतीजे.

अनुमति के स्कोप

नीचे दिए गए OAuth के लिंक की ज़रूरत हाेती है:

  • https://www.googleapis.com/auth/checks

ज़्यादा जानकारी के लिए, OAuth 2.0 से जुड़ी खास जानकारी देखें.

InputContent

ऐसा कॉन्टेंट जिसे क्लासिफ़ाई करना है.

JSON के काेड में दिखाना 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
फ़ील्ड
यूनियन फ़ील्ड input. ऐसा कॉन्टेंट जिसे क्लासिफ़ाई करना है. input इनमें से सिर्फ़ एक हो सकता है:
textInput

object (TextInput)

टेक्स्ट फ़ॉर्मैट में कॉन्टेंट.

TextInput

टेक्स्ट इनपुट, जिसे कैटगरी में बांटा जाना है.

JSON के काेड में दिखाना 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
फ़ील्ड
languageCode

string

ज़रूरी नहीं. ISO 639-1 फ़ॉर्मैट में टेक्स्ट की भाषा. अगर भाषा अमान्य है या उसके बारे में नहीं बताया गया है, तो सिस्टम उसका पता लगाने की कोशिश करेगा.
यूनियन फ़ील्ड source. टेक्स्ट का सोर्स, जिसे कैटगरी में बांटना है. source इनमें से सिर्फ़ एक हो सकता है:
content

string

टेक्स्ट का वह हिस्सा जिसे कैटगरी में रखना है.

संदर्भ

इनपुट के बारे में जानकारी, जिसका इस्तेमाल क्लासिफ़िकेशन में मदद पाने के लिए किया जाएगा.

JSON के काेड में दिखाना 
{
  "prompt": string
}
फ़ील्ड
prompt

string

ज़रूरी नहीं. वह प्रॉम्प्ट जिससे मॉडल का जवाब जनरेट हुआ है.

PolicyConfig

इन नीतियों के आधार पर कॉन्टेंट का आकलन किया जाएगा.

JSON के काेड में दिखाना 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
फ़ील्ड
policyType

enum (PolicyType)

ज़रूरी है. नीति किस तरह की है.
threshold

number

ज़रूरी नहीं. यह स्कोर थ्रेशोल्ड, यह तय करने के लिए इस्तेमाल किया जाता है कि कॉन्टेंट उल्लंघन करने वाला है या नहीं. अगर यह वैल्यू तय नहीं की जाती है, तो नीति के लिए डिफ़ॉल्ट थ्रेशोल्ड 0.5 का इस्तेमाल किया जाएगा.

PolicyType

सुरक्षा से जुड़ी नीति के लिए यूनीक आइडेंटिफ़ायर.

Enums
POLICY_TYPE_UNSPECIFIED डिफ़ॉल्ट.
DANGEROUS_CONTENT मॉडल, नुकसान पहुंचाने वाले सामान, सेवाओं, और गतिविधियों को बढ़ावा देता है, उन्हें आसान बनाता है या उन तक पहुंच को आसान बनाता है.
PII_SOLICITING_RECITING मॉडल में किसी व्यक्ति की निजी जानकारी और डेटा दिखाया गया हो.
HARASSMENT मॉडल ऐसा कॉन्टेंट जनरेट करता है जो किसी दूसरे व्यक्ति के लिए नुकसान पहुंचाने वाला, डराने-धमकाने वाला, उत्पीड़न करने वाला या गाली-गलौज वाला हो.
SEXUALLY_EXPLICIT मॉडल ऐसा कॉन्टेंट जनरेट करता है जिसमें साफ़ तौर पर सेक्शुअल ऐक्ट दिखाया गया हो.
HATE_SPEECH मॉडल में नस्ल, धर्म वगैरह के आधार पर हिंसा, नफ़रत, भेदभाव को बढ़ावा दिया गया हो
MEDICAL_INFO यह मॉडल, सेहत से जुड़ी सलाह या दिशा-निर्देश देकर नुकसान पहुंचाता है.
VIOLENCE_AND_GORE मॉडल ऐसा कॉन्टेंट जनरेट करता है जिसमें बेवजह, वास्तविक हिंसा या खून-खराबे के बारे में बताया गया हो.
OBSCENITY_AND_PROFANITY

ClassifierVersion

इस्तेमाल किए जाने वाले क्लासिफ़ायर का वर्शन.

Enums
CLASSIFIER_VERSION_UNSPECIFIED वर्शन की जानकारी नहीं दी गई है.
STABLE स्टेबल वर्शन.
LATEST सबसे नया वर्शन.

PolicyResult

नीति के हिसाब से इनपुट का नतीजा.

JSON के काेड में दिखाना 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
फ़ील्ड
policyType

enum (PolicyType)

नीति किस तरह की है.
score

number

इस नीति के उल्लंघन के नतीजों के लिए फ़ाइनल स्कोर.
violationResult

enum (ViolationResult)

नीति के लिए क्लासिफ़िकेशन का नतीजा.

ViolationResult

नीति के लिए क्लासिफ़िकेशन का नतीजा.

Enums
VIOLATION_RESULT_UNSPECIFIED नतीजे की जानकारी नहीं है.
VIOLATIVE फ़ाइनल स्कोर, इनपुट स्कोर थ्रेशोल्ड से ज़्यादा या उसके बराबर है.
NON_VIOLATIVE फ़ाइनल स्कोर, इनपुट स्कोर थ्रेशोल्ड से कम है.
CLASSIFICATION_ERROR कोई गड़बड़ी हुई है और उल्लंघन के नतीजे का पता नहीं लगाया जा सका.