Method: aisafety.classifyContent

Phân tích một nội dung theo bộ chính sách được cung cấp.

Yêu cầu HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL sử dụng cú pháp Chuyển mã gRPC.

Nội dung yêu cầu

Nội dung yêu cầu chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
Trường
input

object (InputContent)

Bắt buộc. Nội dung cần được phân loại.
context

object (Context)

Không bắt buộc. Ngữ cảnh về dữ liệu đầu vào sẽ được dùng để hỗ trợ việc phân loại.
policies[]

object (PolicyConfig)

Bắt buộc. Danh sách các chính sách cần phân loại.
classifierVersion

enum (ClassifierVersion)

Không bắt buộc. Phiên bản của trình phân loại sẽ sử dụng. Nếu bạn không chỉ định, thì hệ thống sẽ sử dụng phiên bản mới nhất.

Nội dung phản hồi

Proto phản hồi cho RPC aisafety.classifyContent.

Nếu thành công, phần nội dung phản hồi sẽ chứa dữ liệu có cấu trúc sau:

Biểu diễn dưới dạng JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
Trường
policyResults[]

object (PolicyResult)

Kết quả phân loại cho từng chính sách.

Phạm vi uỷ quyền

Yêu cầu phạm vi OAuth sau:

  • https://www.googleapis.com/auth/checks

Để biết thêm thông tin, hãy xem bài viết Tổng quan về OAuth 2.0.

InputContent

Nội dung cần được phân loại.

Biểu diễn dưới dạng JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
Trường
Trường nhóm input. Nội dung cần được phân loại. input chỉ có thể là một trong những trạng thái sau:
textInput

object (TextInput)

Nội dung ở định dạng văn bản.

TextInput

Văn bản đầu vào cần được phân loại.

Biểu diễn dưới dạng JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
Trường
languageCode

string

Không bắt buộc. Ngôn ngữ của văn bản ở định dạng ISO 639-1. Nếu ngôn ngữ không hợp lệ hoặc không được chỉ định, hệ thống sẽ cố gắng phát hiện ngôn ngữ đó.
Trường nhóm source. Nguồn của văn bản cần phân loại. source chỉ có thể là một trong những trạng thái sau:
content

string

Đoạn văn bản thực tế cần được phân loại.

Ngữ cảnh

Ngữ cảnh về dữ liệu đầu vào sẽ được dùng để hỗ trợ việc phân loại.

Biểu diễn dưới dạng JSON 
{
  "prompt": string
}
Trường
prompt

string

Không bắt buộc. Câu lệnh đã tạo câu trả lời của mô hình.

PolicyConfig

Danh sách các chính sách cần phân loại.

Biểu diễn dưới dạng JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
Trường
policyType

enum (PolicyType)

Bắt buộc. Loại chính sách.
threshold

number

Không bắt buộc. Ngưỡng điểm số cần sử dụng khi quyết định xem nội dung có vi phạm hay không. Nếu bạn không chỉ định, hệ thống sẽ sử dụng ngưỡng mặc định là 0,5 cho chính sách này.

PolicyType

Giá trị nhận dạng riêng biệt của một chính sách an toàn.

Enum
POLICY_TYPE_UNSPECIFIED Mặc định.
DANGEROUS_CONTENT Mô hình tạo điều kiện, quảng bá hoặc cho phép truy cập vào các hàng hoá, dịch vụ và hoạt động gây hại.
PII_SOLICITING_RECITING Mô hình này tiết lộ thông tin và dữ liệu cá nhân của một cá nhân.
HARASSMENT Mô hình tạo ra nội dung độc hại, hăm doạ, bắt nạt hoặc lăng mạ một cá nhân khác.
SEXUALLY_EXPLICIT Mô hình tạo ra nội dung khiêu dâm.
HATE_SPEECH Mô hình cổ xuý bạo lực, hận thù, phân biệt đối xử dựa trên chủng tộc, tôn giáo, v.v.
MEDICAL_INFO Mô hình này tạo điều kiện cho hành vi gây hại bằng cách đưa ra lời khuyên hoặc hướng dẫn về sức khoẻ.
VIOLENCE_AND_GORE Mô hình tạo ra nội dung mô tả một cách chân thực và vô cớ về hành vi bạo lực hoặc nội dung đẫm máu.
OBSCENITY_AND_PROFANITY

ClassifierVersion

Phiên bản của trình phân loại sẽ sử dụng.

Enum
CLASSIFIER_VERSION_UNSPECIFIED Phiên bản không xác định.
STABLE Phiên bản ổn định.
LATEST Phiên bản mới nhất.

PolicyResult

Kết quả cho một chính sách so với dữ liệu đầu vào tương ứng.

Biểu diễn dưới dạng JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
Trường
policyType

enum (PolicyType)

Loại chính sách.
score

number

Điểm số cuối cùng cho kết quả của chính sách này.
violationResult

enum (ViolationResult)

Kết quả phân loại cho chính sách.

ViolationResult

Kết quả phân loại cho chính sách.

Enum
VIOLATION_RESULT_UNSPECIFIED Kết quả không xác định.
VIOLATIVE Điểm số cuối cùng lớn hơn hoặc bằng ngưỡng điểm số đầu vào.
NON_VIOLATIVE Điểm số cuối cùng nhỏ hơn ngưỡng điểm số đầu vào.
CLASSIFICATION_ERROR Đã xảy ra lỗi nên không xác định được kết quả vi phạm.