Method: aisafety.classifyContent

تحليل جزء من المحتوى باستخدام مجموعة السياسات المقدَّمة

طلب HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

يستخدِم عنوان URL بنية تحويل الترميز gRPC.

نص الطلب

يحتوي نص الطلب على بيانات بالبنية التالية:

تمثيل JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
الحقول
input

object (InputContent)

مطلوب. المحتوى المطلوب تصنيفه
context

object (Context)

اختيارية: معلومات أساسية عن الإدخال الذي سيتم استخدامه للمساعدة في التصنيف
policies[]

object (PolicyConfig)

مطلوب. قائمة السياسات التي سيتم التصنيف وفقًا لها.
classifierVersion

enum (ClassifierVersion)

اختيارية: إصدار المصنّف المطلوب استخدامه. في حال عدم تحديدها، سيتم استخدام أحدث إصدار.

نص الاستجابة

بروتوكول الرد على طلب إجراء مكالمة بعيد الإجراءات (RPC) ‏aisafety.classifyContent.

إذا كانت الاستجابة ناجحة، سيحتوي نص الاستجابة على بيانات بالبنية التالية:

تمثيل JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
الحقول
policyResults[]

object (PolicyResult)

نتائج التصنيف لكل سياسة

نطاقات الأذونات

يجب توفير نطاق OAuth التالي:

  • https://www.googleapis.com/auth/checks

لمزيد من المعلومات، يُرجى الاطّلاع على نظرة عامة على بروتوكول OAuth 2.0.

InputContent

المحتوى المطلوب تصنيفه

تمثيل JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
الحقول
حقل الدمج input المحتوى المطلوب تصنيفه يمكن أن تكون input إحدى القيم التالية فقط:
textInput

object (TextInput)

المحتوى بتنسيق نصي

TextInput

نص الإدخال المطلوب تصنيفه

تمثيل JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
الحقول
languageCode

string

اختيارية: تمثّل هذه السمة لغة النص بتنسيق ISO 639-1. إذا كانت اللغة غير صالحة أو لم يتم تحديدها، سيحاول النظام رصدها.
حقل الدمج source تمثّل هذه السمة مصدر النص المطلوب تصنيفه. يمكن أن تكون source إحدى القيم التالية فقط:
content

string

النص الفعلي الذي سيتم تصنيفه.

السياق

معلومات أساسية عن الإدخال الذي سيتم استخدامه للمساعدة في التصنيف

تمثيل JSON 
{
  "prompt": string
}
الحقول
prompt

string

اختيارية: الطلب الذي أدّى إلى إنشاء ردّ النموذج

PolicyConfig

قائمة السياسات التي سيتم التصنيف وفقًا لها.

تمثيل JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
الحقول
policyType

enum (PolicyType)

مطلوب. تمثّل هذه السمة نوع السياسة.
threshold

number

اختيارية: حدّ النتيجة المطلوب استخدامه عند تحديد ما إذا كان المحتوى مخالفًا أو غير مخالف. إذا لم يتم تحديد قيمة، سيتم استخدام الحدّ التلقائي البالغ 0.5 للسياسة.

PolicyType

المعرّف الفريد لسياسة الأمان.

عمليات التعداد
POLICY_TYPE_UNSPECIFIED تلقائي:
DANGEROUS_CONTENT يسهّل النموذج الوصول إلى السلع والخدمات والأنشطة الضارة أو يروّج لها أو يتيحها.
PII_SOLICITING_RECITING يكشف النموذج عن المعلومات والبيانات الشخصية لأحد الأفراد.
HARASSMENT ينشئ النموذج محتوًى خبيثًا أو يهدف إلى الترهيب أو التنمّر أو الإساءة إلى شخص آخر.
SEXUALLY_EXPLICIT تنتج النموذج محتوًى جنسيًا فاضحًا.
HATE_SPEECH يشجّع النموذج على العنف والكراهية والتمييز على أساس العِرق أو الدين أو غير ذلك.
MEDICAL_INFO يسهّل النموذج إلحاق الضرر من خلال تقديم نصائح أو إرشادات صحية.
VIOLENCE_AND_GORE ينشئ النموذج محتوًى يتضمّن أوصافًا واقعية وغير مبرّرة للعنف أو المشاهد الدموية.
OBSCENITY_AND_PROFANITY

ClassifierVersion

إصدار المصنّف المطلوب استخدامه.

عمليات التعداد
CLASSIFIER_VERSION_UNSPECIFIED إصدار غير محدّد
STABLE الإصدار الثابت
LATEST أحدث إصدار

PolicyResult

نتيجة سياسة واحدة مقابل الإدخال المقابل

تمثيل JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
الحقول
policyType

enum (PolicyType)

تمثّل هذه السمة نوع السياسة.
score

number

النتيجة النهائية لنتائج هذه السياسة.
violationResult

enum (ViolationResult)

نتيجة التصنيف للسياسة

ViolationResult

نتيجة التصنيف للسياسة

عمليات التعداد
VIOLATION_RESULT_UNSPECIFIED نتيجة غير محدَّدة
VIOLATIVE تكون النتيجة النهائية أكبر من الحد الأدنى لنتيجة الإدخال أو مساوية له.
NON_VIOLATIVE النتيجة النهائية أصغر من الحدّ الأدنى لنتيجة الإدخال.
CLASSIFICATION_ERROR حدث خطأ وتعذّر تحديد نتيجة المخالفة.