Method: aisafety.classifyContent

Menganalisis konten dengan kumpulan kebijakan yang diberikan.

Permintaan HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL menggunakan sintaksis gRPC Transcoding.

Isi permintaan

Isi permintaan memuat data dengan struktur berikut:

Representasi JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Kolom
input

object (InputContent)

Wajib. Konten yang akan diklasifikasikan.
context

object (Context)

Opsional. Konteks tentang input yang akan digunakan untuk membantu klasifikasi.
policies[]

object (PolicyConfig)

Wajib. Daftar kebijakan untuk diklasifikasikan.
classifierVersion

enum (ClassifierVersion)

Opsional. Versi pengklasifikasi yang akan digunakan. Jika tidak ditentukan, versi terbaru akan digunakan.

Isi respons

Proto respons untuk aisafety.classifyContent RPC.

Jika berhasil, isi respons memuat data dengan struktur berikut:

Representasi JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Kolom
policyResults[]

object (PolicyResult)

Hasil klasifikasi untuk setiap kebijakan.

Cakupan otorisasi

Memerlukan cakupan OAuth berikut:

  • https://www.googleapis.com/auth/checks

Untuk mendapatkan informasi selengkapnya, lihat Ringkasan OAuth 2.0.

InputContent

Konten yang akan diklasifikasikan.

Representasi JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Kolom
Kolom union input. Konten yang akan diklasifikasikan. input hanya dapat berupa salah satu dari berikut:
textInput

object (TextInput)

Konten dalam format teks.

TextInput

Input teks yang akan diklasifikasikan.

Representasi JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Kolom
languageCode

string

Opsional. Bahasa teks dalam format ISO 639-1. Jika bahasa tidak valid atau tidak ditentukan, sistem akan mencoba mendeteksinya.
Kolom union source. Sumber teks yang akan diklasifikasikan. source hanya dapat berupa salah satu dari berikut:
content

string

Bagian teks sebenarnya yang akan diklasifikasikan.

Konteks

Konteks tentang input yang akan digunakan untuk membantu klasifikasi.

Representasi JSON 
{
  "prompt": string
}
Kolom
prompt

string

Opsional. Perintah yang menghasilkan respons model.

PolicyConfig

Daftar kebijakan untuk diklasifikasikan.

Representasi JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Kolom
policyType

enum (PolicyType)

Wajib. Jenis kebijakan.
threshold

number

Opsional. Nilai minimum yang digunakan saat memutuskan apakah konten melanggar atau tidak melanggar. Jika tidak ditentukan, nilai minimum 0,5 default untuk kebijakan akan digunakan.

PolicyType

ID unik untuk kebijakan keselamatan.

Enum
POLICY_TYPE_UNSPECIFIED Default.
DANGEROUS_CONTENT Model memfasilitasi, mempromosikan, atau memungkinkan akses ke barang, layanan, dan aktivitas berbahaya.
PII_SOLICITING_RECITING Model mengungkap informasi dan data pribadi individu.
HARASSMENT Model membuat konten yang berbahaya, mengintimidasi, menindas, atau melecehkan individu lain.
SEXUALLY_EXPLICIT Model menghasilkan konten yang bersifat seksual vulgar.
HATE_SPEECH Model mempromosikan kekerasan, kebencian, diskriminasi berdasarkan ras, agama, dll.
MEDICAL_INFO Model memfasilitasi bahaya dengan memberikan saran atau panduan kesehatan.
VIOLENCE_AND_GORE Model menghasilkan konten yang berisi deskripsi kekerasan atau adegan menyeramkan yang realistis dan tidak beralasan.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Versi pengklasifikasi yang akan digunakan.

Enum
CLASSIFIER_VERSION_UNSPECIFIED Versi tidak ditentukan.
STABLE Versi stabil.
LATEST Versi terbaru.

PolicyResult

Hasil untuk satu kebijakan terhadap input yang sesuai.

Representasi JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Kolom
policyType

enum (PolicyType)

Jenis kebijakan.
score

number

Skor akhir untuk hasil kebijakan ini.
violationResult

enum (ViolationResult)

Hasil klasifikasi untuk kebijakan.

ViolationResult

Hasil klasifikasi untuk kebijakan.

Enum
VIOLATION_RESULT_UNSPECIFIED Hasil tidak ditentukan.
VIOLATIVE Skor akhir lebih besar atau sama dengan nilai minimum skor input.
NON_VIOLATIVE Skor akhir lebih kecil daripada nilai minimum skor input.
CLASSIFICATION_ERROR Terjadi error dan hasil pelanggaran tidak dapat ditentukan.