Method: aisafety.classifyContent

Проанализируйте фрагмент контента, используя предоставленный набор политик.

HTTP-запрос

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL использует синтаксис перекодировки gRPC .

Текст запроса

Тело запроса содержит данные со следующей структурой:

JSON-представление 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Поля
input

object ( InputContent )

Обязательно. Содержимое подлежит классификации.

context

object ( Context )

Необязательно. Контекст входных данных, которые будут использованы для классификации.

policies[]

object ( PolicyConfig )

Обязательно. Список политик для классификации.

classifier Version

enum ( ClassifierVersion )

Необязательно. Версия классификатора для использования. Если не указано, будет использована последняя версия.

Тело ответа

Прототип ответа для aisafety.classifyContent RPC.

В случае успеха тело ответа содержит данные со следующей структурой:

JSON-представление 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Поля
policy Results[]

object ( PolicyResult )

Результаты классификации по каждой политике.

Области авторизации

Требуется следующая область OAuth:

  • https://www.googleapis.com/auth/checks

Более подробную информацию см. в обзоре OAuth 2.0 .

InputContent

Содержимое, подлежащее классификации.

JSON-представление 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Поля
input поля объединения. Содержимое, подлежащее классификации. input могут быть только одним из следующих:
text Input

object ( TextInput )

Контент в текстовом формате.

TextInput

Ввод текста, подлежащего классификации.

JSON-представление 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Поля
language Code

string

Необязательно. Язык текста в формате ISO 639-1. Если язык недействителен или не указан, система попытается его определить.

source поля объединения. Источник текста, подлежащего классификации. source может быть только одним из следующих:
content

string

Фактический фрагмент текста, подлежащий классификации.

Контекст

Контекст входных данных, которые будут использованы для классификации.

JSON-представление 
{
  "prompt": string
}
Поля
prompt

string

Необязательно. Запрос, который сгенерировал ответ модели.

PolicyConfig

Список политик, по которым следует проводить классификацию.

JSON-представление 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Поля
policy Type

enum ( PolicyType )

Обязательно. Тип политики.

threshold

number

Необязательно. Пороговое значение, используемое при определении того, является ли контент нарушающим или нет. Если не указано, будет использоваться пороговое значение по умолчанию для данной политики — 0,5.

Тип политики

Уникальный идентификатор политики безопасности.

Перечисления
POLICY_TYPE_UNSPECIFIED По умолчанию.
DANGEROUS_CONTENT Модель облегчает, поощряет или обеспечивает доступ к вредным товарам, услугам и видам деятельности.
PII_SOLICITING_RECITING Модель раскрывает персональную информацию и данные человека.
HARASSMENT Модель генерирует контент, который является вредоносным, запугивающим, оскорбительным или направлен на другого человека.
SEXUALLY_EXPLICIT Модель генерирует контент откровенно сексуального характера.
HATE_SPEECH Модель пропагандирует насилие, ненависть, дискриминацию по признаку расы, религии и т. д.
MEDICAL_INFO Модель способствует причинению вреда, предоставляя советы или рекомендации по вопросам здоровья.
VIOLENCE_AND_GORE Модель генерирует контент, содержащий неоправданные, реалистичные описания насилия или жестокости.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Версия классификатора для использования.

Перечисления
CLASSIFIER_VERSION_UNSPECIFIED Неуказанная версия.
STABLE Стабильная версия.
LATEST Последняя версия.

PolicyResult

Результат для одной политики по соответствующим входным данным.

JSON-представление 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Поля
policy Type

enum ( PolicyType )

Тип полиса.

score

number

Окончательная оценка результатов данной политики.

violation Result

enum ( ViolationResult )

Результат классификации полиса.

НарушениеРезультат

Результат классификации полиса.

Перечисления
VIOLATION_RESULT_UNSPECIFIED Результат не определен.
VIOLATIVE Окончательный балл больше или равен пороговому значению входного балла.
NON_VIOLATIVE Окончательный балл меньше порогового значения входного балла.
CLASSIFICATION_ERROR Произошла ошибка и результат нарушения не удалось определить.