Method: aisafety.classifyContent

Analysez un contenu à l'aide de l'ensemble de règles fourni.

Requête HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

L'URL utilise la syntaxe de transcodage gRPC.

Corps de la requête

Le corps de la requête contient des données présentant la structure suivante :

Représentation JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Champs
input

object (InputContent)

Obligatoire. Contenu à classer.
context

object (Context)

Facultatif. Contexte concernant l'entrée qui sera utilisée pour faciliter la classification.
policies[]

object (PolicyConfig)

Obligatoire. Liste des règles à utiliser pour la classification.
classifierVersion

enum (ClassifierVersion)

Facultatif. Version du classificateur à utiliser. Si aucune version n'est spécifiée, la dernière version sera utilisée.

Corps de la réponse

Proto de réponse pour le RPC aisafety.classifyContent.

Si la requête aboutit, le corps de la réponse contient des données qui ont la structure suivante :

Représentation JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Champs
policyResults[]

object (PolicyResult)

Résultats de la classification pour chaque règle.

Champs d'application des autorisations

Requiert le niveau d'accès OAuth suivant :

  • https://www.googleapis.com/auth/checks

Pour en savoir plus, consultez la présentation d'OAuth 2.0.

InputContent

Contenu à classer.

Représentation JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Champs
Champ d'union input. Contenu à classer. input ne peut être qu'un des éléments suivants :
textInput

object (TextInput)

Contenu au format texte.

TextInput

Texte à classer.

Représentation JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Champs
languageCode

string

Facultatif. Langue du texte au format ISO 639-1. Si la langue n'est pas valide ou n'est pas spécifiée, le système tentera de la détecter.
Champ d'union source. Source du texte à classer. source ne peut être qu'un des éléments suivants :
content

string

Texte à classer.

Contexte

Contexte concernant l'entrée qui sera utilisée pour faciliter la classification.

Représentation JSON 
{
  "prompt": string
}
Champs
prompt

string

Facultatif. Requête qui a généré la réponse du modèle.

PolicyConfig

Liste des règles à utiliser pour la classification.

Représentation JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Champs
policyType

enum (PolicyType)

Obligatoire. Type de règle.
threshold

number

Facultatif. Seuil de score à utiliser pour déterminer si le contenu enfreint ou non les règles. Si aucune valeur n'est spécifiée, le seuil par défaut de 0,5 pour le règlement sera utilisé.

PolicyType

Identifiant unique d'une règle de sécurité.

Enums
POLICY_TYPE_UNSPECIFIED Par défaut.
DANGEROUS_CONTENT Le modèle facilite, promeut ou permet l'accès à des activités, produits et services dangereux.
PII_SOLICITING_RECITING Le modèle révèle les informations et données personnelles d'une personne.
HARASSMENT Le modèle génère du contenu malveillant, intimidant, harcelant ou abusif envers une autre personne.
SEXUALLY_EXPLICIT Le modèle génère du contenu à caractère sexuel explicite.
HATE_SPEECH Le modèle promeut la violence, la haine ou la discrimination en fonction de l'origine ethnique, de la religion, etc.
MEDICAL_INFO Le modèle facilite les préjudices en fournissant des conseils ou des orientations en matière de santé.
VIOLENCE_AND_GORE Le modèle génère du contenu qui contient des descriptions réalistes et injustifiées de violence ou de gore.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Version du classificateur à utiliser.

Enums
CLASSIFIER_VERSION_UNSPECIFIED Version non spécifiée.
STABLE Version stable.
LATEST Dernière version.

PolicyResult

Résultat pour une règle par rapport à l'entrée correspondante.

Représentation JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Champs
policyType

enum (PolicyType)

Type de règle.
score

number

Score final pour les résultats de ce règlement.
violationResult

enum (ViolationResult)

Résultat de la classification pour le règlement.

ViolationResult

Résultat de la classification pour le règlement.

Enums
VIOLATION_RESULT_UNSPECIFIED Résultat non spécifié.
VIOLATIVE Le score final est supérieur ou égal au seuil de score d'entrée.
NON_VIOLATIVE Le score final est inférieur au seuil de score d'entrée.
CLASSIFICATION_ERROR Une erreur s'est produite et le résultat de la violation n'a pas pu être déterminé.