Method: aisafety.classifyContent

Belirtilen politika grubuyla bir içeriği analiz edin.

HTTP isteği

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL, gRPC Kod Dönüştürme söz dizimini kullanır.

İstek içeriği

İstek metni aşağıdaki yapıyla birlikte verileri içerir:

JSON gösterimi 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Alanlar
input

object (InputContent)

Zorunlu. Sınıflandırılacak içerik.
context

object (Context)

İsteğe bağlıdır. Sınıflandırmaya yardımcı olmak için kullanılacak girişle ilgili bağlam.
policies[]

object (PolicyConfig)

Zorunlu. Sınıflandırma yapılacak politikaların listesi.
classifierVersion

enum (ClassifierVersion)

İsteğe bağlıdır. Kullanılacak sınıflandırıcı sürümü. Belirtilmezse en son sürüm kullanılır.

Yanıt gövdesi

aisafety.classifyContent RPC'si için yanıt protokolü.

Başarılı olursa yanıt metni aşağıdaki yapıyla birlikte verileri içerir:

JSON gösterimi 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Alanlar
policyResults[]

object (PolicyResult)

Her politika için sınıflandırma sonuçları.

Yetkilendirme kapsamları

Aşağıdaki OAuth kapsamını gerektirir:

  • https://www.googleapis.com/auth/checks

Daha fazla bilgi için OAuth 2.0'a Genel Bakış başlıklı makaleyi inceleyin.

InputContent

Sınıflandırılacak içerik.

JSON gösterimi 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Alanlar
Birleştirme alanı input. Sınıflandırılacak içerik. input yalnızca aşağıdakilerden biri olabilir:
textInput

object (TextInput)

Metin biçimindeki içerik.

TextInput

Sınıflandırılacak metin girişi.

JSON gösterimi 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Alanlar
languageCode

string

İsteğe bağlıdır. Metnin dili, ISO 639-1 biçiminde olmalıdır. Dil geçersizse veya belirtilmemişse sistem dili algılamaya çalışır.
Birleştirme alanı source. Sınıflandırılacak metnin kaynağı. source yalnızca aşağıdakilerden biri olabilir:
content

string

Sınıflandırılacak gerçek metin parçası.

Bağlam

Sınıflandırmaya yardımcı olmak için kullanılacak girişle ilgili bağlam.

JSON gösterimi 
{
  "prompt": string
}
Alanlar
prompt

string

İsteğe bağlıdır. Model yanıtını oluşturan istem.

PolicyConfig

Sınıflandırma yapılacak politikaların listesi.

JSON gösterimi 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Alanlar
policyType

enum (PolicyType)

Zorunlu. Politikanın türü.
threshold

number

İsteğe bağlıdır. İçeriğin politikaları ihlal edip etmediğine karar verirken kullanılacak puan eşiği. Belirtilmezse politika için varsayılan 0, 5 eşiği kullanılır.

PolicyType

Güvenlik politikasının benzersiz tanımlayıcısı.

Sıralamalar
POLICY_TYPE_UNSPECIFIED Varsayılan.
DANGEROUS_CONTENT Model, zararlı ürünlere, hizmetlere ve faaliyetlere erişimi kolaylaştırıyor, teşvik ediyor veya mümkün kılıyor.
PII_SOLICITING_RECITING Model, bir kişinin kişisel bilgilerini ve verilerini ifşa ediyor.
HARASSMENT Model, başka bir kişiye karşı kötü niyetli, korkutucu, zorbalık içeren veya taciz edici içerik üretiyor.
SEXUALLY_EXPLICIT Model, doğası gereği müstehcen içerikler üretiyor.
HATE_SPEECH Model, ırk ve din gibi özelliklere dayalı olarak şiddeti, nefreti ve ayrımcılığı teşvik ediyor.
MEDICAL_INFO Model, sağlık tavsiyesi veya rehberlik sağlayarak zarar veriyor.
VIOLENCE_AND_GORE Model, gereksiz ve gerçekçi şiddet veya kan açıklamaları içeren içerikler üretiyor.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Kullanılacak sınıflandırıcı sürümü.

Sıralamalar
CLASSIFIER_VERSION_UNSPECIFIED Belirtilmemiş sürüm.
STABLE Kararlı sürüm
LATEST En yeni sürüm

PolicyResult

Bir politikanın ilgili girişe göre sonucu.

JSON gösterimi 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Alanlar
policyType

enum (PolicyType)

Politikanın türü.
score

number

Bu politikanın sonuçları için nihai puan.
violationResult

enum (ViolationResult)

Politika için sınıflandırmanın sonucu.

ViolationResult

Politika için sınıflandırmanın sonucu.

Sıralamalar
VIOLATION_RESULT_UNSPECIFIED Belirtilmemiş sonuç.
VIOLATIVE Son puan, giriş puanı eşiğinden büyük veya bu eşiğe eşit.
NON_VIOLATIVE Nihai puan, giriş puanı eşiğinden küçüktür.
CLASSIFICATION_ERROR Bir hata oluştu ve ihlal sonucu belirlenemedi.