Method: aisafety.classifyContent

Analizza un contenuto con il set di norme fornito.

Richiesta HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

L'URL utilizza la sintassi di transcodifica gRPC.

Corpo della richiesta

Il corpo della richiesta contiene dati con la seguente struttura:

Rappresentazione JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Campi
input

object (InputContent)

Obbligatorio. Contenuti da classificare.
context

object (Context)

(Facoltativo) Contesto dell'input che verrà utilizzato per facilitare la classificazione.
policies[]

object (PolicyConfig)

Obbligatorio. Elenco delle norme in base alle quali eseguire la classificazione.
classifierVersion

enum (ClassifierVersion)

(Facoltativo) Versione del classificatore da utilizzare. Se non specificata, verrà utilizzata la versione più recente.

Corpo della risposta

Proto di risposta per la RPC aisafety.classifyContent.

In caso di esito positivo, il corpo della risposta contiene dati con la seguente struttura:

Rappresentazione JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Campi
policyResults[]

object (PolicyResult)

Risultati della classificazione per ogni norma.

Ambiti di autorizzazione

Richiede il seguente ambito OAuth:

  • https://www.googleapis.com/auth/checks

Per ulteriori informazioni, consulta la panoramica di OAuth 2.0.

InputContent

Contenuti da classificare.

Rappresentazione JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Campi
Campo unione input. Contenuti da classificare. input può essere solo uno dei seguenti:
textInput

object (TextInput)

Contenuti in formato testo.

TextInput

Input di testo da classificare.

Rappresentazione JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Campi
languageCode

string

(Facoltativo) Lingua del testo nel formato ISO 639-1. Se la lingua non è valida o non è specificata, il sistema tenterà di rilevarla.
Campo unione source. Origine del testo da classificare. source può essere solo uno dei seguenti:
content

string

Il testo effettivo da classificare.

Contesto

Contesto dell'input che verrà utilizzato per facilitare la classificazione.

Rappresentazione JSON 
{
  "prompt": string
}
Campi
prompt

string

(Facoltativo) Il prompt che ha generato la risposta del modello.

PolicyConfig

Elenco delle norme in base alle quali eseguire la classificazione.

Rappresentazione JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Campi
policyType

enum (PolicyType)

Obbligatorio. Tipo di norma.
threshold

number

(Facoltativo) Soglia del punteggio da utilizzare per decidere se i contenuti sono violativi o non violativi. Se non specificato, verrà utilizzata la soglia predefinita di 0,5 per il criterio.

PolicyType

L'identificatore univoco di una norma di sicurezza.

Enum
POLICY_TYPE_UNSPECIFIED Predefinita.
DANGEROUS_CONTENT Il modello facilita, promuove o consente l'accesso a beni, servizi e attività dannosi.
PII_SOLICITING_RECITING Il modello rivela i dati e le informazioni personali di un individuo.
HARASSMENT Il modello genera contenuti dannosi, intimidatori, prepotenti o illeciti rivolti a un altro individuo.
SEXUALLY_EXPLICIT Il modello genera contenuti di natura sessualmente esplicita.
HATE_SPEECH Il modello promuove la violenza, l'odio e la discriminazione in base a razza, religione e così via.
MEDICAL_INFO Il modello facilita il danno fornendo consigli o indicazioni sanitarie.
VIOLENCE_AND_GORE Il modello genera contenuti che includono descrizioni realistiche e senza costi di violenza o spargimenti di sangue.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Versione del classificatore da utilizzare.

Enum
CLASSIFIER_VERSION_UNSPECIFIED Versione non specificata.
STABLE Versione stabile.
LATEST Ultima versione.

PolicyResult

Risultato per una norma rispetto all'input corrispondente.

Rappresentazione JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Campi
policyType

enum (PolicyType)

Tipo di norma.
score

number

Punteggio finale per i risultati di questa norma.
violationResult

enum (ViolationResult)

Risultato della classificazione per il criterio.

ViolationResult

Risultato della classificazione per il criterio.

Enum
VIOLATION_RESULT_UNSPECIFIED Risultato non specificato.
VIOLATIVE Il punteggio finale è maggiore o uguale alla soglia del punteggio di input.
NON_VIOLATIVE Il punteggio finale è inferiore alla soglia del punteggio di input.
CLASSIFICATION_ERROR Si è verificato un errore e non è stato possibile determinare il risultato della violazione.