Gửi yêu cầu tuỳ chỉnh bằng quyền truy cập trực tiếp vào mô hình Gemini Nano

Với quyền truy cập trực tiếp vào mô hình của Bộ công cụ học máy (com.google.mlkit:genai-prompt), bạn có thể gửi các yêu cầu tuỳ chỉnh bằng ngôn ngữ tự nhiên trên thiết bị đến mô hình nền tảng Gemini Nano thông qua lớp GenerativeModel. Quyền truy cập trực tiếp vào mô hình chấp nhận dữ liệu đầu vào dạng văn bản hoặc đa phương thức (hình ảnh và văn bản), hỗ trợ các cuộc trò chuyện nhiều lượt do ứng dụng khách quản lý (List<Content> có vai trò USER và MODEL và sessionId) và phát ra kết quả dạng văn bản hoặc kết quả có cấu trúc được nhập.

Bạn có thể sử dụng quyền truy cập trực tiếp vào mô hình cho nhiều trường hợp sử dụng, bao gồm:

Trường hợp sử dụng

Ví dụ

Hiểu hình ảnh

Phân tích ảnh để phân loại, chẳng hạn như "thú cưng", "đồ ăn" hoặc "du lịch".

Bản dịch ngắn

Dịch tin nhắn ngắn giữa tài xế giao hàng và khách hàng.

Tóm tắt có hướng dẫn

Tóm tắt các bài đánh giá về một nhà hàng dựa trên mối quan tâm cụ thể của người dùng.

Trích xuất thực thể

Trích xuất thông tin quan trọng về một sự kiện sắp tới từ một chuỗi email.

Ý tưởng tạo nội dung

Đề xuất câu lệnh cho một mục nhật ký.

Quét tài liệu thông minh

Trích xuất và phân loại các mặt hàng từ hình ảnh biên nhận.

Phân loại văn bản

Phân loại bài đánh giá của khách hàng thành danh mục tích cực, trung lập hoặc tiêu cực.

Quyền truy cập trực tiếp vào mô hình so với API dành riêng cho tác vụ

Bên cạnh quyền truy cập trực tiếp vào mô hình nền tảng Gemini Nano cho câu lệnh tuỳ chỉnh, Bộ công cụ học máy còn cung cấp các API được định cấu hình sẵn cho các nhiệm vụ chuyên biệt về lời nói, hình ảnh và văn bản: Nhận dạng lời nói, Mô tả hình ảnh, Tóm tắt, Hiệu đính, Viết lại và nhiều nhiệm vụ khác. API tác vụ văn bản và hình ảnh sử dụng các loại tính năng dành riêng cho tác vụ và bộ chuyển đổi LoRA được tinh chỉnh dựa trên mô hình cơ sở dùng chung. Bảng sau đây trình bày lợi ích của từng phương pháp:

Mức độ cân nhắc

Quyền truy cập trực tiếp vào mô hình (GenerativeModel)

API tác vụ văn bản và hình ảnh

Công sức tích hợp

Cao.

Cần nhiều nỗ lực hơn để triển khai do phải thiết kế câu lệnh và đảm bảo chất lượng.

Thấp.

Yêu cầu ít công sức hơn vì các API này sử dụng các loại tính năng dành riêng cho nhiệm vụ và bộ chuyển đổi LoRA được tinh chỉnh dựa trên mô hình cơ sở. Bạn không cần phải làm việc trực tiếp với LLM.

Linh hoạt

Linh hoạt hơn vì bạn có thể tuỳ chỉnh câu lệnh, quản lý ngữ cảnh nhiều lượt, thực thi giản đồ có cấu trúc được nhập hoặc xây dựng quy trình làm việc dựa trên tác nhân (AgentRunner) cấp cao hơn trên GenerativeModel.

Ít linh hoạt hơn. Mỗi API dành riêng cho tác vụ đều có tính năng tinh chỉnh LoRA cố định và một câu lệnh tích hợp có các đặc điểm sau:

  • Nội dung mô tả hình ảnh chung chung và ngắn.
  • Bản tóm tắt chỉ được có từ 1 đến 3 gạch đầu dòng.
  • Tính năng viết lại chỉ hỗ trợ các kiểu được xác định trước.

Theo nguyên tắc chung, hãy sử dụng quyền truy cập trực tiếp vào mô hình khi bạn cần tuỳ chỉnh và linh hoạt hơn, đồng thời sử dụng các API dành riêng cho nhiệm vụ cho các nhiệm vụ tiêu chuẩn không yêu cầu logic tuỳ chỉnh.

Mã mẫu