Method: aisafety.classifyContent

Analisa um conteúdo com o conjunto de políticas fornecido.

Solicitação HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

O URL usa a sintaxe de transcodificação gRPC.

Corpo da solicitação

O corpo da solicitação contém dados com a seguinte estrutura:

Representação JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Campos
input

object (InputContent)

Obrigatório. Conteúdo a ser classificado.
context

object (Context)

Opcional. Contexto sobre a entrada que será usada para ajudar na classificação.
policies[]

object (PolicyConfig)

Obrigatório. Lista de políticas para classificação.
classifierVersion

enum (ClassifierVersion)

Opcional. Versão do classificador a ser usada. Se não for especificada, a versão mais recente será usada.

Corpo da resposta

Proto de resposta para a RPC aisafety.classifyContent.

Se bem-sucedido, o corpo da resposta incluirá dados com a estrutura a seguir:

Representação JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Campos
policyResults[]

object (PolicyResult)

Resultados da classificação para cada política.

Escopos de autorização

Requer o seguinte escopo OAuth:

  • https://www.googleapis.com/auth/checks

Para mais informações, consulte a visão geral do OAuth 2.0.

InputContent

Conteúdo a ser classificado.

Representação JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Campos
Campo de união input. Conteúdo a ser classificado. input pode ser apenas de um dos tipos a seguir:
textInput

object (TextInput)

Conteúdo em formato de texto.

TextInput

Entrada de texto a ser classificada.

Representação JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Campos
languageCode

string

Opcional. Idioma do texto no formato ISO 639-1. Se o idioma for inválido ou não especificado, o sistema tentará detectá-lo.
Campo de união source. Origem do texto a ser classificado. source pode ser apenas de um dos tipos a seguir:
content

string

O trecho de texto real a ser classificado.

Contexto

Contexto sobre a entrada que será usada para ajudar na classificação.

Representação JSON 
{
  "prompt": string
}
Campos
prompt

string

Opcional. Comando que gerou a resposta do modelo.

PolicyConfig

Lista de políticas para classificação.

Representação JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Campos
policyType

enum (PolicyType)

Obrigatório. Tipo da política.
threshold

number

Opcional. Limite de pontuação a ser usado ao decidir se o conteúdo é ou não uma violação. Se não for especificado, o limite padrão de 0,5 para a política será usado.

PolicyType

O identificador exclusivo de uma política de segurança.

Enums
POLICY_TYPE_UNSPECIFIED Padrão.
DANGEROUS_CONTENT O modelo facilita, promove ou permite o acesso a produtos, serviços e atividades prejudiciais.
PII_SOLICITING_RECITING O modelo revela informações e dados pessoais de um indivíduo.
HARASSMENT O modelo gera conteúdo malicioso, intimidante, abusivo ou de bullying direcionado a outra pessoa.
SEXUALLY_EXPLICIT O modelo gera conteúdo de natureza sexualmente explícita.
HATE_SPEECH O modelo promove violência, ódio, discriminação com base em raça, religião etc.
MEDICAL_INFO O modelo facilita danos ao fornecer conselhos ou orientações sobre saúde.
VIOLENCE_AND_GORE O modelo gera conteúdo com descrições realistas e sem custo financeiro de violência ou imagens sangrentas.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Versão do classificador a ser usada.

Enums
CLASSIFIER_VERSION_UNSPECIFIED Versão não especificada.
STABLE Versão estável.
LATEST Versão mais recente.

PolicyResult

Resultado de uma política em relação à entrada correspondente.

Representação JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Campos
policyType

enum (PolicyType)

Tipo da política.
score

number

Pontuação final dos resultados dessa política.
violationResult

enum (ViolationResult)

Resultado da classificação da política.

ViolationResult

Resultado da classificação da política.

Enums
VIOLATION_RESULT_UNSPECIFIED Resultado não especificado.
VIOLATIVE A pontuação final é maior ou igual ao limite de pontuação de entrada.
NON_VIOLATIVE A pontuação final é menor que o limite de pontuação de entrada.
CLASSIFICATION_ERROR Ocorreu um erro e não foi possível determinar o resultado da violação.