Method: aisafety.classifyContent

بخشی از محتوا را با مجموعه خط‌مشی‌های ارائه شده تجزیه و تحلیل کنید.

درخواست HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL از دستور GRPC Transcoding استفاده می کند.

درخواست بدن

بدنه درخواست حاوی داده هایی با ساختار زیر است:

نمایندگی JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
فیلدها
input

object ( InputContent )

مورد نیاز. محتوایی که باید طبقه بندی شود.

context

object ( Context )

اختیاری. زمینه در مورد ورودی که برای کمک به طبقه بندی استفاده خواهد شد.

policies[]

object ( PolicyConfig )

مورد نیاز. فهرست خط مشی هایی که باید در برابر آنها طبقه بندی شوند.

classifier Version

enum ( ClassifierVersion )

اختیاری. نسخه طبقه بندی کننده برای استفاده. اگر مشخص نشده باشد، از آخرین نسخه استفاده خواهد شد.

بدن پاسخگو

پروتوی پاسخ برای aisafety.classifyContent RPC.

در صورت موفقیت آمیز بودن، بدنه پاسخ حاوی داده هایی با ساختار زیر است:

نمایندگی JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
فیلدها
policy Results[]

object ( PolicyResult )

نتایج طبقه بندی برای هر سیاست.

محدوده مجوز

به محدوده OAuth زیر نیاز دارد:

  • https://www.googleapis.com/auth/checks

برای اطلاعات بیشتر، به نمای کلی OAuth 2.0 مراجعه کنید.

محتوای ورودی

محتوایی که باید طبقه بندی شود.

نمایندگی JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
فیلدها
input فیلد اتحادیه محتوایی که باید طبقه بندی شود. input فقط می تواند یکی از موارد زیر باشد:
text Input

object ( TextInput )

مطالب در قالب متن

TextInput

ورودی متن طبقه بندی شود.

نمایندگی JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
فیلدها
language Code

string

اختیاری. زبان متن در قالب ISO 639-1. اگر زبان نامعتبر باشد یا مشخص نشده باشد، سیستم سعی می کند آن را شناسایی کند.

source میدان اتحادیه منبع متنی که باید طبقه بندی شود. source می تواند تنها یکی از موارد زیر باشد:
content

string

قطعه واقعی متن طبقه بندی می شود.

زمینه

زمینه در مورد ورودی که برای کمک به طبقه بندی استفاده خواهد شد.

نمایندگی JSON 
{
  "prompt": string
}
فیلدها
prompt

string

اختیاری. درخواستی که پاسخ مدل را ایجاد کرد.

PolicyConfig

فهرست خط مشی هایی که باید در برابر آنها طبقه بندی شوند.

نمایندگی JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
فیلدها
policy Type

enum ( PolicyType )

مورد نیاز. نوع سیاست

threshold

number

اختیاری. آستانه امتیازی که باید هنگام تصمیم‌گیری درباره نقض یا غیر نقض‌کننده بودن محتوا استفاده شود. اگر مشخص نشده باشد، از آستانه پیش‌فرض 0.5 برای این خط‌مشی استفاده می‌شود.

نوع سیاست

شناسه منحصر به فرد برای یک خط مشی ایمنی.

Enums
POLICY_TYPE_UNSPECIFIED پیش فرض
DANGEROUS_CONTENT این مدل دسترسی به کالاها، خدمات و فعالیت های مضر را تسهیل، ترویج یا امکان پذیر می کند.
PII_SOLICITING_RECITING این مدل اطلاعات و داده های شخصی یک فرد را نشان می دهد.
HARASSMENT این مدل محتوایی تولید می‌کند که مخرب، ارعاب‌کننده، قلدری یا توهین‌آمیز نسبت به فرد دیگری است.
SEXUALLY_EXPLICIT این مدل محتوایی تولید می کند که ماهیت صریح جنسی دارد.
HATE_SPEECH این مدل خشونت، نفرت، تبعیض بر اساس نژاد، مذهب و غیره را ترویج می کند.
MEDICAL_INFO این مدل با ارائه توصیه ها یا راهنمایی های بهداشتی آسیب را تسهیل می کند.
VIOLENCE_AND_GORE این مدل محتوایی تولید می‌کند که حاوی توصیف‌های واقعی و بی‌هدف از خشونت یا غرغر است.
OBSCENITY_AND_PROFANITY

ClassifierVersion

نسخه طبقه بندی کننده برای استفاده.

Enums
CLASSIFIER_VERSION_UNSPECIFIED نسخه نامشخص
STABLE نسخه پایدار
LATEST آخرین نسخه.

نتیجه سیاست

نتیجه برای یک سیاست در مقابل ورودی مربوطه.

نمایندگی JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
فیلدها
policy Type

enum ( PolicyType )

نوع سیاست

score

number

امتیاز نهایی برای نتایج این سیاست.

violation Result

enum ( ViolationResult )

نتیجه طبقه بندی برای سیاست.

نتیجه نقض

نتیجه طبقه بندی برای سیاست.

Enums
VIOLATION_RESULT_UNSPECIFIED نتیجه نامشخص
VIOLATIVE نمره نهایی بیشتر یا برابر آستانه نمره ورودی است.
NON_VIOLATIVE نمره نهایی کمتر از آستانه نمره ورودی است.
CLASSIFICATION_ERROR خطایی روی داد و نتیجه تخلف مشخص نشد.