แบบทดสอบ NVIDIA NIM บน GKE

1. ใช้คำสั่งใดใน Cloud Shell เพื่อสร้างคลัสเตอร์ GKE

   gcloud container clusters create

   helm install

   docker run

   kubectl apply

2. GPU ของ NVIDIA รุ่นใดบ้างที่ใช้ใน GKE ไม่ได้

   A100

   B200

   L4

   RTX5000

3. เหตุใดคุณจึงต้องกำหนดค่าคีย์ API ของ NVIDIA NGC เพื่อติดตั้งใช้งาน NVIDIA NIM

   สร้างคลัสเตอร์ GKE ที่จำเป็น

   เพื่อติดตั้งไดรเวอร์ GPU ที่จำเป็น

   เพื่อตรวจสอบสิทธิ์และดึงแผนภูมิ Helm และอิมเมจคอนเทนเนอร์จาก NVIDIA

   โดยจะให้ข้อมูลเข้าสู่ระบบสำหรับโปรเจ็กต์ Google Cloud

4. ก่อนติดตั้ง NVIDIA NIM ด้วย Helm คุณควรสร้างทรัพยากร Kubernetes ใดเพื่อติดตั้งใช้งานไมโครเซอร์วิส (เลือกได้มากกว่า 1 ข้อ)

   เลือกคำตอบได้มากเท่าที่คุณเห็นว่าเหมาะสม

   คลัสเตอร์ GKE ใหม่

   Node Pool ของ GPU

   เนมสเปซ

   การกำหนดค่าการทำให้ใช้งานได้

5. หากต้องการดึงอิมเมจคอนเทนเนอร์ NIM จากรีจิสทรี nvcr.io คุณควรสร้างทรัพยากรประเภทใดในเนมสเปซโดยใช้คีย์ API ของ NGC

   ข้อมูลลับของ Docker Registry

   Node Pool ของ GPU

   ไฟล์ YAML ที่กำหนดเอง

   กฎการส่งต่อพอร์ต

6. ในไฟล์ nim_custom_value.yaml คีย์ image.repository มีไว้เพื่ออะไร

   วิธีกำหนดเวอร์ชันการติดตั้งใช้งาน NIM

   เพื่อกำหนดคอนเทนเนอร์โมเดลที่เราต้องการทำให้ใช้งานได้

   ตั้งชื่อข้อมูลลับ Kubernetes สำหรับการดึงอิมเมจ

   วิธีกำหนดตำแหน่งแผนภูมิ Helm

7. ใช้คำสั่งใดในการติดตั้ง NIM โดยใช้แผนภูมิ Helm, ไฟล์การกำหนดค่าที่กำหนดเอง และเนมสเปซที่เฉพาะเจาะจง

   gcloud container clusters create

   kubectl apply

   helm install

   docker run

8. คุณจะทำให้บริการ NIM เข้าถึงได้จากเทอร์มินัล Cloud Shell ในเครื่องเพื่อทำการทดสอบได้อย่างไร

   ใช้ kubectl port-forward

   กำหนด IP สาธารณะให้กับพ็อด

   แก้ไขกฎไฟร์วอลล์ของคลัสเตอร์

   SSH เข้าสู่โหนด GKE

ส่งคำตอบ