Phát hiện, theo dõi và phân loại đối tượng bằng mô hình phân loại tuỳ chỉnh trên iOS

Bạn có thể sử dụng Bộ công cụ máy học để phát hiện và theo dõi các đối tượng trong các khung hình video liên tiếp.

Khi chuyển một hình ảnh sang Bộ công cụ máy học, công cụ này sẽ phát hiện tối đa năm đối tượng trong hình ảnh cùng với vị trí của từng đối tượng trong hình ảnh đó. Khi phát hiện đối tượng trong luồng video, mỗi đối tượng có một mã nhận dạng duy nhất mà bạn có thể dùng để theo dõi đối tượng từ khung này đến khung khác.

Bạn có thể sử dụng mô hình phân loại hình ảnh tuỳ chỉnh để phân loại các đối tượng được phát hiện. Vui lòng tham khảo Mô hình tuỳ chỉnh có Bộ công cụ máy học để được hướng dẫn về các yêu cầu về khả năng tương thích với mô hình, nơi tìm các mô hình đã huấn luyện trước và cách huấn luyện các mô hình của riêng bạn.

Có hai cách để tích hợp một mô hình tuỳ chỉnh. Bạn có thể nhóm mô hình bằng cách đặt mô hình bên trong thư mục thành phần của ứng dụng, hoặc bạn có thể tự động tải mô hình đó xuống từ Firebase. Bảng sau đây sẽ so sánh hai tuỳ chọn.

Mô hình theo gói Mô hình được lưu trữ
Mô hình này là một phần của tệp .ipa của ứng dụng, giúp tăng kích thước của tệp. Mô hình này không thuộc tệp .ipa của ứng dụng. Thư viện này được lưu trữ bằng cách tải lên Công nghệ máy học Firebase.
Kiểu máy có sẵn ngay lập tức, ngay cả khi thiết bị Android không có kết nối mạng Mô hình được tải xuống theo yêu cầu
Không cần dự án Firebase Cần có dự án Firebase
Bạn phải phát hành lại ứng dụng để cập nhật mô hình Thúc đẩy bản cập nhật mô hình mà không cần phát hành lại ứng dụng
Không có thử nghiệm A/B tích hợp sẵn Thử nghiệm A/B dễ dàng với Cấu hình từ xa Firebase

Chạy thử ứng dụng

Trước khi bắt đầu

  1. Đưa các thư viện Bộ công cụ máy học vào Podfile:

    Cách đóng gói mô hình bằng ứng dụng của bạn:

    pod 'GoogleMLKit/ObjectDetectionCustom', '3.2.0'
    

    Để tự động tải một mô hình xuống từ Firebase, hãy thêm phần phụ thuộc LinkFirebase:

    pod 'GoogleMLKit/ObjectDetectionCustom', '3.2.0'
    pod 'GoogleMLKit/LinkFirebase', '3.2.0'
    
  2. Sau khi bạn cài đặt hoặc cập nhật Nhóm của dự án, hãy mở dự án Xcode bằng cách sử dụng .xcworkspace của dự án. Bộ công cụ máy học được hỗ trợ trong Xcode phiên bản 13.2.1 trở lên.

  3. Nếu muốn tải một mô hình xuống, hãy nhớ thêm Firebase vào dự án iOS của bạn nếu bạn chưa làm việc này. Đây là điều không bắt buộc khi bạn đóng gói mô hình.

1. Tải mô hình

Định cấu hình nguồn mô hình cục bộ

Cách đóng gói mô hình bằng ứng dụng của bạn:

  1. Sao chép tệp mô hình (thường kết thúc bằng .tflite hoặc .lite) vào dự án Xcode của bạn, chú ý chọn Copy bundle resources khi bạn thực hiện việc này. Tệp mô hình sẽ được đưa vào gói ứng dụng và có sẵn cho Bộ công cụ máy học.

  2. Tạo đối tượng LocalModel, chỉ định đường dẫn đến tệp mô hình:

    Swift

    let localModel = LocalModel(path: localModelFilePath)

    Objective-C

    MLKLocalModel *localModel =
        [[MLKLocalModel alloc] initWithPath:localModelFilePath];

Định cấu hình nguồn mô hình được lưu trữ trên Firebase

Để sử dụng mô hình được lưu trữ từ xa, hãy tạo một đối tượng CustomRemoteModel, trong đó chỉ định tên mà bạn chỉ định khi xuất bản:

Swift

let firebaseModelSource = FirebaseModelSource(
    name: "your_remote_model") // The name you assigned in
                               // the Firebase console.
let remoteModel = CustomRemoteModel(remoteModelSource: firebaseModelSource)

Objective-C

MLKFirebaseModelSource *firebaseModelSource =
    [[MLKFirebaseModelSource alloc]
        initWithName:@"your_remote_model"]; // The name you assigned in
                                            // the Firebase console.
MLKCustomRemoteModel *remoteModel =
    [[MLKCustomRemoteModel alloc]
        initWithRemoteModelSource:firebaseModelSource];

Sau đó, hãy bắt đầu tác vụ tải mô hình xuống, chỉ định các điều kiện mà bạn muốn cho phép tải xuống. Nếu mô hình không có trên thiết bị hoặc nếu có phiên bản mới hơn của mô hình, tác vụ sẽ tải không đồng bộ mô hình xuống từ Firebase:

Swift

let downloadConditions = ModelDownloadConditions(
  allowsCellularAccess: true,
  allowsBackgroundDownloading: true
)

let downloadProgress = ModelManager.modelManager().download(
  remoteModel,
  conditions: downloadConditions
)

Objective-C

MLKModelDownloadConditions *downloadConditions =
    [[MLKModelDownloadConditions alloc] initWithAllowsCellularAccess:YES
                                         allowsBackgroundDownloading:YES];

NSProgress *downloadProgress =
    [[MLKModelManager modelManager] downloadModel:remoteModel
                                       conditions:downloadConditions];

Nhiều ứng dụng bắt đầu nhiệm vụ tải xuống trong mã khởi động, nhưng bạn có thể làm như vậy bất cứ lúc nào trước khi cần sử dụng mô hình.

2. Định cấu hình trình phát hiện đối tượng

Sau khi bạn định cấu hình nguồn mô hình, hãy định cấu hình trình phát hiện đối tượng cho trường hợp sử dụng của bạn bằng đối tượng CustomObjectDetectorOptions. Bạn có thể thay đổi các chế độ cài đặt sau:

Cài đặt trình phát hiện đối tượng
Chế độ phát hiện STREAM_MODE (mặc định) | SINGLE_IMAGE_MODE

Trong STREAM_MODE (mặc định), trình phát hiện đối tượng chạy với độ trễ thấp, nhưng có thể tạo ra kết quả không đầy đủ (chẳng hạn như các hộp giới hạn hoặc nhãn danh mục không xác định) trong một số lệnh gọi đầu tiên của trình phát hiện. Ngoài ra, trong STREAM_MODE, trình phát hiện sẽ chỉ định mã theo dõi cho các đối tượng mà bạn có thể dùng để theo dõi đối tượng trên các khung hình. Hãy sử dụng chế độ này khi bạn muốn theo dõi các đối tượng hoặc khi độ trễ thấp là yếu tố quan trọng, chẳng hạn như khi xử lý luồng video theo thời gian thực.

Trong SINGLE_IMAGE_MODE, trình phát hiện đối tượng sẽ trả về kết quả sau khi hộp giới hạn của đối tượng được xác định. Nếu bạn cũng bật tính năng phân loại thì sẽ có kết quả sau khi hộp giới hạn và nhãn danh mục đều có sẵn. Do đó, độ trễ phát hiện có thể cao hơn. Ngoài ra, trong SINGLE_IMAGE_MODE, mã theo dõi sẽ không được chỉ định. Hãy sử dụng chế độ này nếu độ trễ không quan trọng và bạn không muốn xử lý một phần kết quả.

Phát hiện và theo dõi nhiều đối tượng false (mặc định) | true

Liệu có phát hiện và theo dõi tối đa 5 đối tượng hay chỉ đối tượng nổi bật nhất (mặc định).

Phân loại đối tượng false (mặc định) | true

Liệu có phân loại các đối tượng được phát hiện hay không bằng cách sử dụng mô hình thuật toán phân loại tuỳ chỉnh mà chúng tôi cung cấp. Để sử dụng mô hình phân loại tùy chỉnh, bạn cần đặt giá trị này thành true.

Ngưỡng tin cậy khi phân loại

Điểm tin cậy tối thiểu của nhãn đã phát hiện. Nếu bạn không đặt chính sách này, hệ thống sẽ sử dụng mọi ngưỡng phân loại do siêu dữ liệu của mô hình chỉ định. Nếu mô hình không chứa bất kỳ siêu dữ liệu nào hoặc siêu dữ liệu không chỉ định ngưỡng phân loại, thì ngưỡng mặc định sẽ là 0.0.

Số nhãn tối đa cho mỗi đối tượng

Số nhãn tối đa cho mỗi đối tượng mà trình phát hiện sẽ trả về. Nếu bạn không đặt chính sách này, thì hệ thống sẽ sử dụng giá trị mặc định là 10.

Nếu chỉ có mô hình theo gói cục bộ, bạn chỉ cần tạo một trình phát hiện đối tượng từ đối tượng LocalModel của mình:

Swift

let options = CustomObjectDetectorOptions(localModel: localModel)
options.detectorMode = .singleImage
options.shouldEnableClassification = true
options.shouldEnableMultipleObjects = true
options.classificationConfidenceThreshold = NSNumber(value: 0.5)
options.maxPerObjectLabelCount = 3

Objective-C

MLKCustomObjectDetectorOptions *options =
    [[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableClassification = YES;
options.shouldEnableMultipleObjects = YES;
options.classificationConfidenceThreshold = @(0.5);
options.maxPerObjectLabelCount = 3;

Nếu có mô hình lưu trữ từ xa, bạn sẽ phải kiểm tra để đảm bảo rằng mô hình đó đã được tải xuống trước khi chạy. Bạn có thể kiểm tra trạng thái của nhiệm vụ tải mô hình xuống bằng phương thức isModelDownloaded(remoteModel:) của trình quản lý mô hình.

Mặc dù bạn chỉ phải xác nhận điều này trước khi chạy trình phát hiện đối tượng, nhưng nếu bạn có cả mô hình được lưu trữ từ xa và mô hình được gói cục bộ, thì bạn có thể thực hiện việc kiểm tra này khi tạo ObjectDetector: tạo một trình phát hiện từ mô hình từ xa nếu nó đã được tải xuống, và từ mô hình cục bộ.

Swift

var options: CustomObjectDetectorOptions!
if (ModelManager.modelManager().isModelDownloaded(remoteModel)) {
  options = CustomObjectDetectorOptions(remoteModel: remoteModel)
} else {
  options = CustomObjectDetectorOptions(localModel: localModel)
}
options.detectorMode = .singleImage
options.shouldEnableClassification = true
options.shouldEnableMultipleObjects = true
options.classificationConfidenceThreshold = NSNumber(value: 0.5)
options.maxPerObjectLabelCount = 3

Objective-C

MLKCustomObjectDetectorOptions *options;
if ([[MLKModelManager modelManager] isModelDownloaded:remoteModel]) {
  options = [[MLKCustomObjectDetectorOptions alloc] initWithRemoteModel:remoteModel];
} else {
  options = [[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
}
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableClassification = YES;
options.shouldEnableMultipleObjects = YES;
options.classificationConfidenceThreshold = @(0.5);
options.maxPerObjectLabelCount = 3;

Nếu chỉ có một mô hình được lưu trữ từ xa, bạn nên vô hiệu hoá chức năng liên quan đến mô hình (ví dụ: chuyển sang màu xám hoặc ẩn một phần giao diện người dùng) cho đến khi xác nhận rằng mô hình đã được tải xuống.

Bạn có thể xem trạng thái tải mô hình xuống bằng cách đính kèm trình quan sát vào Trung tâm thông báo mặc định. Hãy nhớ sử dụng một tệp tham chiếu yếu đến self trong khối trình quan sát, vì quá trình tải xuống có thể mất một chút thời gian và đối tượng gốc có thể được giải phóng trước khi tải xuống xong. Ví dụ:

Swift

NotificationCenter.default.addObserver(
    forName: .mlkitModelDownloadDidSucceed,
    object: nil,
    queue: nil
) { [weak self] notification in
    guard let strongSelf = self,
        let userInfo = notification.userInfo,
        let model = userInfo[ModelDownloadUserInfoKey.remoteModel.rawValue]
            as? RemoteModel,
        model.name == "your_remote_model"
        else { return }
    // The model was downloaded and is available on the device
}

NotificationCenter.default.addObserver(
    forName: .mlkitModelDownloadDidFail,
    object: nil,
    queue: nil
) { [weak self] notification in
    guard let strongSelf = self,
        let userInfo = notification.userInfo,
        let model = userInfo[ModelDownloadUserInfoKey.remoteModel.rawValue]
            as? RemoteModel
        else { return }
    let error = userInfo[ModelDownloadUserInfoKey.error.rawValue]
    // ...
}

Objective-C

__weak typeof(self) weakSelf = self;

[NSNotificationCenter.defaultCenter
    addObserverForName:MLKModelDownloadDidSucceedNotification
                object:nil
                 queue:nil
            usingBlock:^(NSNotification *_Nonnull note) {
              if (weakSelf == nil | note.userInfo == nil) {
                return;
              }
              __strong typeof(self) strongSelf = weakSelf;

              MLKRemoteModel *model = note.userInfo[MLKModelDownloadUserInfoKeyRemoteModel];
              if ([model.name isEqualToString:@"your_remote_model"]) {
                // The model was downloaded and is available on the device
              }
            }];

[NSNotificationCenter.defaultCenter
    addObserverForName:MLKModelDownloadDidFailNotification
                object:nil
                 queue:nil
            usingBlock:^(NSNotification *_Nonnull note) {
              if (weakSelf == nil | note.userInfo == nil) {
                return;
              }
              __strong typeof(self) strongSelf = weakSelf;

              NSError *error = note.userInfo[MLKModelDownloadUserInfoKeyError];
            }];

API phát hiện và theo dõi đối tượng được tối ưu hoá cho hai trường hợp sử dụng cốt lõi sau:

  • Phát hiện và theo dõi trực tiếp đối tượng nổi bật nhất trong kính ngắm của máy ảnh.
  • Phát hiện nhiều đối tượng từ một hình ảnh tĩnh.

Cách định cấu hình API cho các trường hợp sử dụng này:

Swift

// Live detection and tracking
let options = CustomObjectDetectorOptions(localModel: localModel)
options.shouldEnableClassification = true
options.maxPerObjectLabelCount = 3

// Multiple object detection in static images
let options = CustomObjectDetectorOptions(localModel: localModel)
options.detectorMode = .singleImage
options.shouldEnableMultipleObjects = true
options.shouldEnableClassification = true
options.maxPerObjectLabelCount = 3

Objective-C

// Live detection and tracking
MLKCustomObjectDetectorOptions *options =
    [[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.shouldEnableClassification = YES;
options.maxPerObjectLabelCount = 3;

// Multiple object detection in static images
MLKCustomObjectDetectorOptions *options =
    [[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableMultipleObjects = YES;
options.shouldEnableClassification = YES;
options.maxPerObjectLabelCount = 3;

3. Chuẩn bị hình ảnh nhập vào

Tạo đối tượng VisionImage bằng UIImage hoặc CMSampleBuffer.

Nếu bạn sử dụng UIImage, hãy làm theo các bước sau:

  • Tạo đối tượng VisionImage bằng UIImage. Hãy nhớ chỉ định đúng .orientation.

    Swift

    let image = VisionImage(image: UIImage)
    visionImage.orientation = image.imageOrientation

    Objective-C

    MLKVisionImage *visionImage = [[MLKVisionImage alloc] initWithImage:image];
    visionImage.orientation = image.imageOrientation;

Nếu bạn sử dụng CMSampleBuffer, hãy làm theo các bước sau:

  • Hãy chỉ định hướng của dữ liệu hình ảnh có trong CMSampleBuffer.

    Cách nhận hướng của hình ảnh:

    Swift

    func imageOrientation(
      deviceOrientation: UIDeviceOrientation,
      cameraPosition: AVCaptureDevice.Position
    ) -> UIImage.Orientation {
      switch deviceOrientation {
      case .portrait:
        return cameraPosition == .front ? .leftMirrored : .right
      case .landscapeLeft:
        return cameraPosition == .front ? .downMirrored : .up
      case .portraitUpsideDown:
        return cameraPosition == .front ? .rightMirrored : .left
      case .landscapeRight:
        return cameraPosition == .front ? .upMirrored : .down
      case .faceDown, .faceUp, .unknown:
        return .up
      }
    }
          

    Objective-C

    - (UIImageOrientation)
      imageOrientationFromDeviceOrientation:(UIDeviceOrientation)deviceOrientation
                             cameraPosition:(AVCaptureDevicePosition)cameraPosition {
      switch (deviceOrientation) {
        case UIDeviceOrientationPortrait:
          return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationLeftMirrored
                                                                : UIImageOrientationRight;
    
        case UIDeviceOrientationLandscapeLeft:
          return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationDownMirrored
                                                                : UIImageOrientationUp;
        case UIDeviceOrientationPortraitUpsideDown:
          return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationRightMirrored
                                                                : UIImageOrientationLeft;
        case UIDeviceOrientationLandscapeRight:
          return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationUpMirrored
                                                                : UIImageOrientationDown;
        case UIDeviceOrientationUnknown:
        case UIDeviceOrientationFaceUp:
        case UIDeviceOrientationFaceDown:
          return UIImageOrientationUp;
      }
    }
          
  • Tạo đối tượng VisionImage bằng cách sử dụng đối tượng và hướng CMSampleBuffer:

    Swift

    let image = VisionImage(buffer: sampleBuffer)
    image.orientation = imageOrientation(
      deviceOrientation: UIDevice.current.orientation,
      cameraPosition: cameraPosition)

    Objective-C

     MLKVisionImage *image = [[MLKVisionImage alloc] initWithBuffer:sampleBuffer];
     image.orientation =
       [self imageOrientationFromDeviceOrientation:UIDevice.currentDevice.orientation
                                    cameraPosition:cameraPosition];

4. Tạo và chạy trình phát hiện đối tượng

  1. Tạo trình phát hiện đối tượng mới:

    Swift

    let objectDetector = ObjectDetector.objectDetector(options: options)

    Objective-C

    MLKObjectDetector *objectDetector = [MLKObjectDetector objectDetectorWithOptions:options];
  2. Sau đó, hãy sử dụng trình phát hiện:

    Không đồng bộ:

    Swift

    objectDetector.process(image) { objects, error in
        guard error == nil, let objects = objects, !objects.isEmpty else {
            // Handle the error.
            return
        }
        // Show results.
    }

    Objective-C

    [objectDetector
        processImage:image
          completion:^(NSArray *_Nullable objects,
                       NSError *_Nullable error) {
            if (objects.count == 0) {
                // Handle the error.
                return;
            }
            // Show results.
         }];

    Đồng bộ:

    Swift

    var objects: [Object]
    do {
        objects = try objectDetector.results(in: image)
    } catch let error {
        // Handle the error.
        return
    }
    // Show results.

    Objective-C

    NSError *error;
    NSArray *objects =
        [objectDetector resultsInImage:image error:&error];
    // Show results or handle the error.

5. Nhận thông tin về đối tượng được gắn nhãn

Nếu thành công, lệnh gọi đến trình xử lý hình ảnh sẽ truyền danh sách Object đến trình xử lý hoàn thành hoặc trả về danh sách, tuỳ thuộc vào việc bạn gọi phương thức không đồng bộ hay đồng bộ.

Mỗi Object chứa các thuộc tính sau:

frame CGRect cho biết vị trí của đối tượng trong hình ảnh.
trackingID Số nguyên xác định đối tượng trên các hình ảnh hoặc `nil` trong SINGLE_IMAGE_MODE.
labels
label.text Phần mô tả văn bản của nhãn. Chỉ được trả về nếu siêu dữ liệu của mô hình TensorFlow Lite chứa nội dung mô tả nhãn.
label.index Chỉ mục của nhãn trong số tất cả các nhãn mà bộ phân loại hỗ trợ.
label.confidence Giá trị tin cậy của cách phân loại đối tượng.

Swift

// objects contains one item if multiple object detection wasn't enabled.
for object in objects {
  let frame = object.frame
  let trackingID = object.trackingID
  let description = object.labels.enumerated().map { (index, label) in
    "Label \(index): \(label.text), \(label.confidence), \(label.index)"
  }.joined(separator: "\n")
}

Objective-C

// The list of detected objects contains one item if multiple object detection
// wasn't enabled.
for (MLKObject *object in objects) {
  CGRect frame = object.frame;
  NSNumber *trackingID = object.trackingID;
  for (MLKObjectLabel *label in object.labels) {
    NSString *labelString =
        [NSString stringWithFormat:@"%@, %f, %lu",
                                   label.text,
                                   label.confidence,
                                   (unsigned long)label.index];
  }
}

Đảm bảo trải nghiệm người dùng tuyệt vời

Để có trải nghiệm người dùng tốt nhất, hãy làm theo các nguyên tắc sau trong ứng dụng của bạn:

  • Việc phát hiện đối tượng thành công phụ thuộc vào độ phức tạp trực quan của đối tượng. Để được phát hiện, các đối tượng có số lượng ít các đặc điểm hình ảnh có thể cần chiếm phần lớn hơn của hình ảnh. Bạn nên hướng dẫn người dùng về cách nhập nội dung hoạt động hiệu quả với loại đối tượng bạn muốn phát hiện.
  • Khi sử dụng tính năng phân loại, nếu bạn muốn phát hiện các đối tượng không thuộc danh mục được hỗ trợ, hãy triển khai cách xử lý đặc biệt cho các đối tượng không xác định.

Ngoài ra, vui lòng xem bộ sưu tập [ML Kit Material Design][ứng dụng giới thiệu- đường liên kết]{: .external } và Mẫu cho các tính năng sử dụng công nghệ máy học của Material Design.

Cải thiện hiệu suất

Nếu bạn muốn sử dụng tính năng phát hiện đối tượng trong ứng dụng theo thời gian thực, hãy làm theo các nguyên tắc sau để đạt được tốc độ khung hình tốt nhất:

  • Khi bạn sử dụng chế độ phát trực tuyến trong một ứng dụng theo thời gian thực, đừng sử dụng tính năng phát hiện nhiều đối tượng vì hầu hết các thiết bị sẽ không thể tạo đủ tốc độ khung hình.

  • Để xử lý các khung hình video, hãy sử dụng API đồng bộ results(in:) của trình phát hiện. Gọi phương thức này từ hàm captureOutput(_, didOutput:from:) của AVCaptureVideoDataOutputSampleBufferDelegate để nhận kết quả đồng bộ từ khung video đã cho. Giữ alwaysDiscardsLateVideoFrames của AVCaptureVideoDataOutput dưới dạng true để điều tiết cuộc gọi đến trình phát hiện. Nếu một khung hình video mới xuất hiện trong khi trình phát hiện đang chạy, thì trình phát hiện sẽ bị loại bỏ.
  • Nếu bạn sử dụng đầu ra của trình phát hiện để phủ hình ảnh trên hình ảnh đầu vào, trước tiên hãy nhận kết quả từ Bộ công cụ máy học, sau đó hiển thị hình ảnh và lớp phủ trong một bước duy nhất. Bằng cách đó, bạn sẽ chỉ kết xuất được trên bề mặt hiển thị một lần cho mỗi khung đầu vào đã xử lý. Hãy xem updatePreviewOverlayViewWithLastFrame trong ví dụ về thông tin bắt đầu nhanh cho Bộ công cụ máy học.