Method: aisafety.classifyContent

Analizowanie treści na podstawie podanego zestawu zasad.

Żądanie HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

Adres URL używa składni transkodowania gRPC.

Treść żądania

Treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Pola
input

object (InputContent)

Wymagany. Treści do sklasyfikowania.
context

object (Context)

Opcjonalnie. Kontekst dotyczący danych wejściowych, który pomoże w klasyfikacji.
policies[]

object (PolicyConfig)

Wymagany. Lista zasad, według których ma być przeprowadzana klasyfikacja.
classifierVersion

enum (ClassifierVersion)

Opcjonalnie. Wersja klasyfikatora, której chcesz użyć. Jeśli nie podasz wersji, zostanie użyta najnowsza.

Treść odpowiedzi

Protokół odpowiedzi dla wywołania RPC aisafety.classifyContent.

W przypadku powodzenia treść żądania zawiera dane o następującej strukturze:

Zapis JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Pola
policyResults[]

object (PolicyResult)

Wyniki klasyfikacji dla każdej zasady.

Zakresy autoryzacji

Wymaga następującego zakresu OAuth:

  • https://www.googleapis.com/auth/checks

Więcej informacji znajdziesz w omówieniu OAuth 2.0.

InputContent

Treści do sklasyfikowania.

Zapis JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Pola
Pole unii input. Treści do sklasyfikowania. input może mieć tylko jedną z tych wartości:
textInput

object (TextInput)

treści w formacie tekstowym,

TextInput

Tekst wejściowy do sklasyfikowania.

Zapis JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Pola
languageCode

string

Opcjonalnie. Język tekstu w formacie ISO 639-1. Jeśli język jest nieprawidłowy lub nie został określony, system spróbuje go wykryć.
Pole unii source. Źródło tekstu do sklasyfikowania. source może mieć tylko jedną z tych wartości:
content

string

Rzeczywisty tekst do sklasyfikowania.

Kontekst

Kontekst dotyczący danych wejściowych, który pomoże w klasyfikacji.

Zapis JSON 
{
  "prompt": string
}
Pola
prompt

string

Opcjonalnie. Prompt, który wygenerował odpowiedź modelu.

PolicyConfig

Lista zasad, według których ma być przeprowadzana klasyfikacja.

Zapis JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Pola
policyType

enum (PolicyType)

Wymagany. Typ zasady.
threshold

number

Opcjonalnie. Próg wyniku, który będzie używany do określania, czy treść narusza zasady. Jeśli nie zostanie określony, używany będzie domyślny próg 0,5.

PolicyType

Unikalny identyfikator zasad bezpieczeństwa.

Wartości w polu enum
POLICY_TYPE_UNSPECIFIED Domyślny:
DANGEROUS_CONTENT Model ułatwia, promuje lub umożliwia dostęp do szkodliwych produktów, usług i aktywności.
PII_SOLICITING_RECITING Model ujawnia dane osobowe i informacje o osobie fizycznej.
HARASSMENT Model generuje treści, które są szkodliwe, zastraszające, dręczące lub obraźliwe dla innej osoby.
SEXUALLY_EXPLICIT Model generuje treści o charakterze jednoznacznie seksualnym.
HATE_SPEECH Model promuje przemoc, nienawiść lub dyskryminację ze względu na rasę, religię itp.
MEDICAL_INFO Model ułatwia wyrządzanie szkód, udzielając porad lub wskazówek dotyczących zdrowia.
VIOLENCE_AND_GORE Model generuje treści zawierające nieuzasadnione, realistyczne opisy przemocy lub okrucieństwa.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Wersja klasyfikatora, której chcesz użyć.

Wartości w polu enum
CLASSIFIER_VERSION_UNSPECIFIED Nieokreślona wersja.
STABLE wersja stabilna,
LATEST Najnowsza wersja.

PolicyResult

Wynik jednej zasady w odniesieniu do odpowiednich danych wejściowych.

Zapis JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Pola
policyType

enum (PolicyType)

Typ zasady.
score

number

Ostateczny wynik dla wyników tej zasady.
violationResult

enum (ViolationResult)

Wynik klasyfikacji zasad.

ViolationResult

Wynik klasyfikacji zasad.

Wartości w polu enum
VIOLATION_RESULT_UNSPECIFIED Nieokreślony wynik.
VIOLATIVE Wynik końcowy jest większy lub równy progowi wyniku wejściowego.
NON_VIOLATIVE Wynik końcowy jest mniejszy niż próg wyniku wejściowego.
CLASSIFICATION_ERROR Wystąpił błąd i nie udało się ustalić wyniku naruszenia.