Method: aisafety.classifyContent

วิเคราะห์เนื้อหาด้วยชุดนโยบายที่ระบุ

คำขอ HTTP

POST https://checks.googleapis.com/v1alpha/aisafety:classifyContent

URL ใช้ไวยากรณ์การแปลงรหัส gRPC

เนื้อความของคำขอ

เนื้อหาของคำขอมีข้อมูลซึ่งมีโครงสร้างดังต่อไปนี้

การแสดง JSON 
{
  "input": {
    object (InputContent)
  },
  "context": {
    object (Context)
  },
  "policies": [
    {
      object (PolicyConfig)
    }
  ],
  "classifierVersion": enum (ClassifierVersion)
}
ช่อง
input

object (InputContent)

ต้องระบุ เนื้อหาที่จะจัดประเภท
context

object (Context)

ไม่บังคับ บริบทเกี่ยวกับอินพุตที่จะใช้เพื่อช่วยในการจัดประเภท
policies[]

object (PolicyConfig)

ต้องระบุ รายการนโยบายที่จะใช้ในการจัดประเภท
classifierVersion

enum (ClassifierVersion)

ไม่บังคับ เวอร์ชันของตัวแยกประเภทที่จะใช้ หากไม่ได้ระบุ ระบบจะใช้เวอร์ชันล่าสุด

เนื้อหาการตอบกลับ

โปรโตคอลการตอบกลับสำหรับ RPC aisafety.classifyContent

หากทำสำเร็จ เนื้อหาการตอบกลับจะมีข้อมูลซึ่งมีโครงสร้างดังต่อไปนี้

การแสดง JSON 
{
  "policyResults": [
    {
      object (PolicyResult)
    }
  ]
}
ช่อง
policyResults[]

object (PolicyResult)

ผลลัพธ์ของการจัดประเภทสำหรับแต่ละนโยบาย

ขอบเขตการให้สิทธิ์

ต้องใช้ขอบเขต OAuth ต่อไปนี้

  • https://www.googleapis.com/auth/checks

ดูข้อมูลเพิ่มเติมได้ที่ภาพรวมของ OAuth 2.0

InputContent

เนื้อหาที่จะจัดประเภท

การแสดง JSON 
{

  // Union field input can be only one of the following:
  "textInput": {
    object (TextInput)
  }
  // End of list of possible types for union field input.
}
ช่อง
ฟิลด์ Union input เนื้อหาที่จะจัดประเภท input ต้องเป็นค่าใดค่าหนึ่งต่อไปนี้เท่านั้น
textInput

object (TextInput)

เนื้อหาในรูปแบบข้อความ

TextInput

ข้อความที่จะจัดประเภท

การแสดง JSON 
{
  "languageCode": string,

  // Union field source can be only one of the following:
  "content": string
  // End of list of possible types for union field source.
}
ช่อง
languageCode

string

ไม่บังคับ ภาษาของข้อความในรูปแบบ ISO 639-1 หากภาษาไม่ถูกต้องหรือไม่ได้ระบุ ระบบจะพยายามตรวจหาภาษา
ฟิลด์ Union source แหล่งที่มาของข้อความที่จะจัดประเภท source ต้องเป็นค่าใดค่าหนึ่งต่อไปนี้เท่านั้น
content

string

ข้อความจริงที่จะจัดประเภท

บริบท

บริบทเกี่ยวกับอินพุตที่จะใช้เพื่อช่วยในการจัดประเภท

การแสดง JSON 
{
  "prompt": string
}
ช่อง
prompt

string

ไม่บังคับ พรอมต์ที่สร้างคำตอบของโมเดล

PolicyConfig

รายการนโยบายที่จะใช้ในการจัดประเภท

การแสดง JSON 
{
  "policyType": enum (PolicyType),
  "threshold": number
}
ช่อง
policyType

enum (PolicyType)

ต้องระบุ ประเภทของนโยบาย
threshold

number

ไม่บังคับ เกณฑ์คะแนนที่จะใช้เมื่อตัดสินว่าเนื้อหาละเมิดหรือไม่ละเมิด หากไม่ได้ระบุ ระบบจะใช้เกณฑ์เริ่มต้น 0.5 สำหรับนโยบาย

PolicyType

ตัวระบุที่ไม่ซ้ำกันสำหรับนโยบายด้านความปลอดภัย

Enum
POLICY_TYPE_UNSPECIFIED ค่าเริ่มต้น
DANGEROUS_CONTENT โมเดลนี้อำนวยความสะดวก ส่งเสริม หรือเปิดใช้การเข้าถึงสินค้า บริการ และกิจกรรมที่เป็นอันตราย
PII_SOLICITING_RECITING โมเดลเปิดเผยข้อมูลส่วนบุคคลและข้อมูลของบุคคล
HARASSMENT โมเดลสร้างเนื้อหาที่เป็นอันตราย ข่มขู่ กลั่นแกล้ง หรือละเมิดบุคคลอื่น
SEXUALLY_EXPLICIT โมเดลสร้างเนื้อหาที่มีลักษณะเกี่ยวกับเรื่องเพศอย่างโจ่งแจ้ง
HATE_SPEECH โมเดลส่งเสริมความรุนแรง ความเกลียดชัง การเลือกปฏิบัติบนพื้นฐานของเชื้อชาติ ศาสนา ฯลฯ
MEDICAL_INFO โมเดลนี้ก่อให้เกิดอันตรายโดยการให้คำแนะนำหรือคำแนะนำด้านสุขภาพ
VIOLENCE_AND_GORE โมเดลสร้างเนื้อหาที่มีคำอธิบายความรุนแรงหรือการนองเลือดโดยใช่เหตุที่สมจริง
OBSCENITY_AND_PROFANITY

ClassifierVersion

เวอร์ชันของตัวแยกประเภทที่จะใช้

Enum
CLASSIFIER_VERSION_UNSPECIFIED เวอร์ชันที่ไม่ได้ระบุ
STABLE เวอร์ชันเสถียร
LATEST เวอร์ชันล่าสุด

PolicyResult

ผลลัพธ์สำหรับนโยบาย 1 รายการเทียบกับอินพุตที่เกี่ยวข้อง

การแสดง JSON 
{
  "policyType": enum (PolicyType),
  "score": number,
  "violationResult": enum (ViolationResult)
}
ช่อง
policyType

enum (PolicyType)

ประเภทของนโยบาย
score

number

คะแนนสุดท้ายสำหรับผลลัพธ์ของนโยบายนี้
violationResult

enum (ViolationResult)

ผลการจัดประเภทนโยบาย

ViolationResult

ผลการจัดประเภทนโยบาย

Enum
VIOLATION_RESULT_UNSPECIFIED ผลลัพธ์ที่ไม่ได้ระบุ
VIOLATIVE คะแนนสุดท้ายมากกว่าหรือเท่ากับเกณฑ์คะแนนอินพุต
NON_VIOLATIVE คะแนนสุดท้ายน้อยกว่าเกณฑ์คะแนนอินพุต
CLASSIFICATION_ERROR เกิดข้อผิดพลาดและไม่สามารถระบุผลการละเมิดได้