Method: aisafety.classifyContent

Analysieren Sie einen Inhalt anhand der bereitgestellten Richtlinien.

HTTP-Anfrage

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

Die URL verwendet die Syntax der gRPC-Transcodierung.

Anfragetext

Der Anfragetext enthält Daten mit folgender Struktur:

JSON-Darstellung 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Felder
input

object (InputContent)

Erforderlich. Zu klassifizierende Inhalte.
context

object (Context)

Optional. Kontext zur Eingabe, der zur Klassifizierung verwendet wird.
policies[]

object (PolicyConfig)

Erforderlich. Liste der Richtlinien, nach denen klassifiziert werden soll.
classifierVersion

enum (ClassifierVersion)

Optional. Version des zu verwendenden Klassifikators. Wenn keine Angabe erfolgt, wird die neueste Version verwendet.

Antworttext

Antwort-Proto für den aisafety.classifyContent-RPC.

Bei Erfolg enthält der Antworttext Daten mit der folgenden Struktur:

JSON-Darstellung 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Felder
policyResults[]

object (PolicyResult)

Ergebnisse der Klassifizierung für jede Richtlinie.

Autorisierungsbereiche

Erfordert den folgenden OAuth-Bereich:

  • https://www.googleapis.com/auth/checks

Weitere Informationen finden Sie in der OAuth 2.0-Übersicht.

InputContent

Zu klassifizierende Inhalte.

JSON-Darstellung 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Felder
Union-Feld input. Zu klassifizierende Inhalte. Für input ist nur einer der folgenden Werte zulässig:
textInput

object (TextInput)

Inhalte im Textformat

TextInput

Die zu klassifizierende Texteingabe.

JSON-Darstellung 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Felder
languageCode

string

Optional. Sprache des Texts im Format ISO 639-1. Wenn die Sprache ungültig oder nicht angegeben ist, versucht das System, sie zu erkennen.
Union-Feld source. Quelle des zu klassifizierenden Texts. Für source ist nur einer der folgenden Werte zulässig:
content

string

Der zu klassifizierende Text.

Kontext

Kontext zur Eingabe, der zur Klassifizierung verwendet wird.

JSON-Darstellung 
{
  "prompt": string
}
Felder
prompt

string

Optional. Der Prompt, mit dem die Modellantwort generiert wurde.

PolicyConfig

Liste der Richtlinien, nach denen klassifiziert werden soll.

JSON-Darstellung 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Felder
policyType

enum (PolicyType)

Erforderlich. Typ der Richtlinie.
threshold

number

Optional. Grenzwert für die Bewertung, der bei der Entscheidung verwendet wird, ob die Inhalte gegen die Richtlinien verstoßen oder nicht. Wenn nicht angegeben, wird der Standardschwellenwert von 0,5 für die Richtlinie verwendet.

PolicyType

Die eindeutige Kennung für eine Sicherheitsrichtlinie.

Enums
POLICY_TYPE_UNSPECIFIED Standard.
DANGEROUS_CONTENT Das Modell erleichtert oder fördert den Zugriff auf schädliche Waren, Dienste und Aktivitäten oder ermöglicht ihn.
PII_SOLICITING_RECITING Das Modell legt personenbezogene Daten einer Person offen.
HARASSMENT Das Modell generiert Inhalte, die böswillig, einschüchternd, mobbend oder missbräuchlich gegenüber einer anderen Person sind.
SEXUALLY_EXPLICIT Das Modell generiert sexuell explizite Inhalte.
HATE_SPEECH Das Modell fördert Gewalt, Hass oder Diskriminierung aufgrund von ethnischer Herkunft, Religion usw.
MEDICAL_INFO Das Modell ermöglicht Schaden, indem es Gesundheitsratschläge oder Anleitungen gibt.
VIOLENCE_AND_GORE Das Modell generiert Inhalte, die grundlose, realistische Beschreibungen von Gewalt oder drastischen Gewaltdarstellungen enthalten.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Version des zu verwendenden Klassifikators.

Enums
CLASSIFIER_VERSION_UNSPECIFIED Nicht angegebene Version.
STABLE Stabile Version
LATEST Aktuelle Version

PolicyResult

Ergebnis für eine Richtlinie im Vergleich zur entsprechenden Eingabe.

JSON-Darstellung 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Felder
policyType

enum (PolicyType)

Typ der Richtlinie.
score

number

Endgültige Punktzahl für die Ergebnisse dieser Richtlinie.
violationResult

enum (ViolationResult)

Ergebnis der Klassifizierung für die Richtlinie.

ViolationResult

Ergebnis der Klassifizierung für die Richtlinie.

Enums
VIOLATION_RESULT_UNSPECIFIED Nicht angegebenes Ergebnis.
VIOLATIVE Der endgültige Score ist größer oder gleich dem Eingabe-Score-Schwellenwert.
NON_VIOLATIVE Der endgültige Wert ist kleiner als der Schwellenwert für den Eingabewert.
CLASSIFICATION_ERROR Es ist ein Fehler aufgetreten und das Ergebnis des Verstoßes konnte nicht ermittelt werden.