Khi bạn truyền một hình ảnh vào Bộ công cụ học máy, bộ công cụ này sẽ phát hiện tối đa 5 đối tượng trong hình ảnh cùng với vị trí của từng đối tượng trong hình ảnh. Khi phát hiện đối tượng trong luồng video, mỗi đối tượng có một mã nhận dạng duy nhất mà bạn có thể dùng để theo dõi đối tượng từ khung hình này sang khung hình khác.
Bạn có thể sử dụng mô hình phân loại hình ảnh tuỳ chỉnh để phân loại các đối tượng được phát hiện. Vui lòng tham khảo Mô hình tuỳ chỉnh có Bộ công cụ học máy để được hướng dẫn về các yêu cầu về khả năng tương thích với mô hình, nơi tìm các mô hình đã huấn luyện trước và cách huấn luyện mô hình của riêng bạn.
Có 2 cách để tích hợp mô hình tuỳ chỉnh. Bạn có thể gói mô hình này bằng cách đặt mô hình vào trong thư mục thành phần của ứng dụng, hoặc bạn có thể tự động tải mô hình xuống từ Firebase. Bảng sau đây so sánh hai tuỳ chọn.
| Mô hình theo gói | Mô hình được lưu trữ |
|---|---|
Mô hình này nằm trong tệp .ipa của ứng dụng, giúp tăng kích thước của tệp. |
Mô hình không thuộc tệp .ipa trong ứng dụng của bạn. Dữ liệu này được lưu trữ bằng cách tải lên Công nghệ học máy Firebase. |
| Mô hình có sẵn ngay lập tức, ngay cả khi thiết bị Android không có kết nối mạng | Mô hình được tải xuống theo yêu cầu |
| Không cần dự án Firebase | Cần có một dự án Firebase |
| Bạn phải phát hành lại ứng dụng để cập nhật mô hình này | Đẩy bản cập nhật mô hình mà không cần phát hành lại ứng dụng |
| Không có thử nghiệm A/B được tích hợp sẵn | Dễ dàng thử nghiệm A/B bằng Cấu hình từ xa Firebase |
Dùng thử
- Hãy xem ứng dụng bắt đầu nhanh bằng tầm nhìn để tham khảo ví dụ về cách sử dụng mô hình đi kèm và ứng dụng khởi động nhanh automl để tham khảo ví dụ về cách sử dụng mô hình được lưu trữ.
- Hãy xem ứng dụng trưng bày Material Design để biết cách triển khai API này toàn diện.
Trước khi bắt đầu
Đưa thư viện Bộ công cụ học máy vào Podfile:
Cách nhóm một mô hình với ứng dụng:
pod 'GoogleMLKit/ObjectDetectionCustom', '3.2.0'Để tự động tải một mô hình xuống từ Firebase, hãy thêm phần phụ thuộc
LinkFirebase:pod 'GoogleMLKit/ObjectDetectionCustom', '3.2.0' pod 'GoogleMLKit/LinkFirebase', '3.2.0'Sau khi bạn cài đặt hoặc cập nhật Nhóm của dự án, hãy mở dự án Xcode bằng
.xcworkspacecủa dự án. Bộ công cụ học máy được hỗ trợ trong Xcode phiên bản 13.2.1 trở lên.Nếu muốn tải một mô hình xuống, hãy nhớ thêm Firebase vào dự án iOS (nếu bạn chưa thực hiện). Bạn không bắt buộc phải làm việc này khi gói mô hình.
1. Tải mô hình
Định cấu hình nguồn mô hình cục bộ
Cách gói mô hình với ứng dụng:
Sao chép tệp mô hình (thường kết thúc bằng
.tflitehoặc.lite) vào dự án Xcode của bạn, hãy nhớ chọnCopy bundle resourceskhi thực hiện. Tệp mô hình sẽ được đưa vào gói ứng dụng và có sẵn cho Bộ công cụ học máy.Tạo đối tượng
LocalModel, chỉ định đường dẫn đến tệp mô hình:Swift
let localModel = LocalModel(path: localModelFilePath)
Objective-C
MLKLocalModel *localModel = [[MLKLocalModel alloc] initWithPath:localModelFilePath];
Định cấu hình nguồn mô hình được lưu trữ trên Firebase
Để sử dụng mô hình được lưu trữ từ xa, hãy tạo một đối tượng CustomRemoteModel, trong đó nêu rõ tên bạn đã chỉ định cho mô hình khi phát hành:
Swift
let firebaseModelSource = FirebaseModelSource(
name: "your_remote_model") // The name you assigned in
// the Firebase console.
let remoteModel = CustomRemoteModel(remoteModelSource: firebaseModelSource)
Objective-C
MLKFirebaseModelSource *firebaseModelSource =
[[MLKFirebaseModelSource alloc]
initWithName:@"your_remote_model"]; // The name you assigned in
// the Firebase console.
MLKCustomRemoteModel *remoteModel =
[[MLKCustomRemoteModel alloc]
initWithRemoteModelSource:firebaseModelSource];
Sau đó, hãy bắt đầu tác vụ tải mô hình xuống, chỉ định các điều kiện mà bạn muốn cho phép tải xuống. Nếu mô hình không có trên thiết bị hoặc nếu có phiên bản mới hơn của mô hình, tác vụ sẽ tải mô hình xuống không đồng bộ từ Firebase:
Swift
let downloadConditions = ModelDownloadConditions( allowsCellularAccess: true, allowsBackgroundDownloading: true ) let downloadProgress = ModelManager.modelManager().download( remoteModel, conditions: downloadConditions )
Objective-C
MLKModelDownloadConditions *downloadConditions =
[[MLKModelDownloadConditions alloc] initWithAllowsCellularAccess:YES
allowsBackgroundDownloading:YES];
NSProgress *downloadProgress =
[[MLKModelManager modelManager] downloadModel:remoteModel
conditions:downloadConditions];
Nhiều ứng dụng bắt đầu tác vụ tải xuống trong mã khởi động, nhưng bạn có thể thực hiện việc này bất cứ lúc nào trước khi cần sử dụng mô hình.
2. Định cấu hình trình phát hiện vật thể
Sau khi bạn định cấu hình các nguồn cho mô hình, hãy định cấu hình trình phát hiện đối tượng cho trường hợp sử dụng của bạn bằng một đối tượng CustomObjectDetectorOptions. Bạn có thể thay đổi các chế độ cài đặt sau:
| Cài đặt trình phát hiện đối tượng | |
|---|---|
| Chế độ phát hiện |
STREAM_MODE (mặc định) | SINGLE_IMAGE_MODE
Trong Trong |
| Phát hiện và theo dõi nhiều đối tượng |
false (mặc định) | true
Phát hiện và theo dõi tối đa 5 đối tượng hay chỉ một đối tượng nổi bật nhất (mặc định). |
| Phân loại đối tượng |
false (mặc định) | true
Liệu có phân loại các đối tượng đã phát hiện được bằng cách sử dụng mô hình thuật toán phân loại tuỳ chỉnh được cung cấp hay không. Để sử dụng mô hình phân loại tuỳ chỉnh, bạn cần đặt mô hình này thành |
| Ngưỡng tin cậy về phân loại |
Điểm số tin cậy tối thiểu của các nhãn đã phát hiện. Nếu bạn không đặt chính sách này, hệ thống sẽ sử dụng mọi ngưỡng của thuật toán phân loại mà siêu dữ liệu của mô hình chỉ định. Nếu mô hình không chứa siêu dữ liệu nào hoặc siêu dữ liệu không chỉ định ngưỡng phân loại, thì ngưỡng mặc định là 0.0 sẽ được sử dụng. |
| Số nhãn tối đa cho mỗi đối tượng |
Số lượng nhãn tối đa cho mỗi đối tượng mà trình phát hiện sẽ trả về. Nếu bạn không đặt chính sách này, hệ thống sẽ sử dụng giá trị mặc định là 10. |
Nếu chỉ có một mô hình theo gói cục bộ, bạn chỉ cần tạo một trình phát hiện đối tượng từ đối tượng LocalModel:
Swift
let options = CustomObjectDetectorOptions(localModel: localModel) options.detectorMode = .singleImage options.shouldEnableClassification = true options.shouldEnableMultipleObjects = true options.classificationConfidenceThreshold = NSNumber(value: 0.5) options.maxPerObjectLabelCount = 3
Objective-C
MLKCustomObjectDetectorOptions *options =
[[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableClassification = YES;
options.shouldEnableMultipleObjects = YES;
options.classificationConfidenceThreshold = @(0.5);
options.maxPerObjectLabelCount = 3;
Nếu có một mô hình được lưu trữ từ xa, bạn sẽ phải kiểm tra để đảm bảo rằng mô hình đó đã được tải xuống trước khi chạy. Bạn có thể kiểm tra trạng thái của tác vụ tải mô hình xuống bằng phương thức isModelDownloaded(remoteModel:) của trình quản lý mô hình.
Mặc dù chỉ phải xác nhận điều này trước khi chạy trình phát hiện đối tượng, nhưng nếu có cả mô hình được lưu trữ từ xa và mô hình gói cục bộ, thì bạn nên thực hiện quy trình kiểm tra này khi tạo thực thể cho ObjectDetector: tạo trình phát hiện từ mô hình từ xa nếu mô hình từ xa đã được tải xuống, ngược lại từ mô hình cục bộ.
Swift
var options: CustomObjectDetectorOptions!
if (ModelManager.modelManager().isModelDownloaded(remoteModel)) {
options = CustomObjectDetectorOptions(remoteModel: remoteModel)
} else {
options = CustomObjectDetectorOptions(localModel: localModel)
}
options.detectorMode = .singleImage
options.shouldEnableClassification = true
options.shouldEnableMultipleObjects = true
options.classificationConfidenceThreshold = NSNumber(value: 0.5)
options.maxPerObjectLabelCount = 3
Objective-C
MLKCustomObjectDetectorOptions *options;
if ([[MLKModelManager modelManager] isModelDownloaded:remoteModel]) {
options = [[MLKCustomObjectDetectorOptions alloc] initWithRemoteModel:remoteModel];
} else {
options = [[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
}
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableClassification = YES;
options.shouldEnableMultipleObjects = YES;
options.classificationConfidenceThreshold = @(0.5);
options.maxPerObjectLabelCount = 3;
Nếu chỉ có một mô hình được lưu trữ từ xa, bạn nên tắt chức năng liên quan đến mô hình (ví dụ: chuyển sang màu xám hoặc ẩn một phần giao diện người dùng) cho đến khi xác nhận mô hình đã được tải xuống.
Bạn có thể biết trạng thái tải mô hình xuống bằng cách đính kèm đối tượng tiếp nhận dữ liệu vào Trung tâm thông báo mặc định. Hãy nhớ sử dụng tham chiếu yếu đến self trong khối trình quan sát, vì quá trình tải xuống có thể mất một chút thời gian và đối tượng ban đầu có thể được giải phóng khi quá trình tải xuống hoàn tất. Ví dụ:
Swift
NotificationCenter.default.addObserver(
forName: .mlkitModelDownloadDidSucceed,
object: nil,
queue: nil
) { [weak self] notification in
guard let strongSelf = self,
let userInfo = notification.userInfo,
let model = userInfo[ModelDownloadUserInfoKey.remoteModel.rawValue]
as? RemoteModel,
model.name == "your_remote_model"
else { return }
// The model was downloaded and is available on the device
}
NotificationCenter.default.addObserver(
forName: .mlkitModelDownloadDidFail,
object: nil,
queue: nil
) { [weak self] notification in
guard let strongSelf = self,
let userInfo = notification.userInfo,
let model = userInfo[ModelDownloadUserInfoKey.remoteModel.rawValue]
as? RemoteModel
else { return }
let error = userInfo[ModelDownloadUserInfoKey.error.rawValue]
// ...
}
Objective-C
__weak typeof(self) weakSelf = self;
[NSNotificationCenter.defaultCenter
addObserverForName:MLKModelDownloadDidSucceedNotification
object:nil
queue:nil
usingBlock:^(NSNotification *_Nonnull note) {
if (weakSelf == nil | note.userInfo == nil) {
return;
}
__strong typeof(self) strongSelf = weakSelf;
MLKRemoteModel *model = note.userInfo[MLKModelDownloadUserInfoKeyRemoteModel];
if ([model.name isEqualToString:@"your_remote_model"]) {
// The model was downloaded and is available on the device
}
}];
[NSNotificationCenter.defaultCenter
addObserverForName:MLKModelDownloadDidFailNotification
object:nil
queue:nil
usingBlock:^(NSNotification *_Nonnull note) {
if (weakSelf == nil | note.userInfo == nil) {
return;
}
__strong typeof(self) strongSelf = weakSelf;
NSError *error = note.userInfo[MLKModelDownloadUserInfoKeyError];
}];
API theo dõi và phát hiện đối tượng được tối ưu hoá cho 2 trường hợp sử dụng chính sau:
- Phát hiện trực tiếp và theo dõi đối tượng nổi bật nhất trong kính ngắm của máy ảnh.
- Phát hiện nhiều đối tượng qua một ảnh tĩnh.
Cách định cấu hình API cho các trường hợp sử dụng sau:
Swift
// Live detection and tracking let options = CustomObjectDetectorOptions(localModel: localModel) options.shouldEnableClassification = true options.maxPerObjectLabelCount = 3 // Multiple object detection in static images let options = CustomObjectDetectorOptions(localModel: localModel) options.detectorMode = .singleImage options.shouldEnableMultipleObjects = true options.shouldEnableClassification = true options.maxPerObjectLabelCount = 3
Objective-C
// Live detection and tracking
MLKCustomObjectDetectorOptions *options =
[[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.shouldEnableClassification = YES;
options.maxPerObjectLabelCount = 3;
// Multiple object detection in static images
MLKCustomObjectDetectorOptions *options =
[[MLKCustomObjectDetectorOptions alloc] initWithLocalModel:localModel];
options.detectorMode = MLKObjectDetectorModeSingleImage;
options.shouldEnableMultipleObjects = YES;
options.shouldEnableClassification = YES;
options.maxPerObjectLabelCount = 3;
3. Chuẩn bị hình ảnh đầu vào
Tạo đối tượng VisionImage bằng UIImage hoặc CMSampleBuffer.
Nếu bạn sử dụng UIImage, hãy làm theo các bước sau:
- Tạo đối tượng
VisionImagebằngUIImage. Hãy nhớ chỉ định đúng.orientation.Swift
let image = VisionImage(image: UIImage) visionImage.orientation = image.imageOrientation
Objective-C
MLKVisionImage *visionImage = [[MLKVisionImage alloc] initWithImage:image]; visionImage.orientation = image.imageOrientation;
Nếu bạn sử dụng CMSampleBuffer, hãy làm theo các bước sau:
-
Chỉ định hướng của dữ liệu hình ảnh có trong
CMSampleBuffer.Cách tải hướng của hình ảnh:
Swift
func imageOrientation( deviceOrientation: UIDeviceOrientation, cameraPosition: AVCaptureDevice.Position ) -> UIImage.Orientation { switch deviceOrientation { case .portrait: return cameraPosition == .front ? .leftMirrored : .right case .landscapeLeft: return cameraPosition == .front ? .downMirrored : .up case .portraitUpsideDown: return cameraPosition == .front ? .rightMirrored : .left case .landscapeRight: return cameraPosition == .front ? .upMirrored : .down case .faceDown, .faceUp, .unknown: return .up } }Objective-C
- (UIImageOrientation) imageOrientationFromDeviceOrientation:(UIDeviceOrientation)deviceOrientation cameraPosition:(AVCaptureDevicePosition)cameraPosition { switch (deviceOrientation) { case UIDeviceOrientationPortrait: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationLeftMirrored : UIImageOrientationRight; case UIDeviceOrientationLandscapeLeft: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationDownMirrored : UIImageOrientationUp; case UIDeviceOrientationPortraitUpsideDown: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationRightMirrored : UIImageOrientationLeft; case UIDeviceOrientationLandscapeRight: return cameraPosition == AVCaptureDevicePositionFront ? UIImageOrientationUpMirrored : UIImageOrientationDown; case UIDeviceOrientationUnknown: case UIDeviceOrientationFaceUp: case UIDeviceOrientationFaceDown: return UIImageOrientationUp; } } - Tạo đối tượng
VisionImagebằng cách sử dụng đối tượng và hướngCMSampleBuffer:Swift
let image = VisionImage(buffer: sampleBuffer) image.orientation = imageOrientation( deviceOrientation: UIDevice.current.orientation, cameraPosition: cameraPosition)
Objective-C
MLKVisionImage *image = [[MLKVisionImage alloc] initWithBuffer:sampleBuffer]; image.orientation = [self imageOrientationFromDeviceOrientation:UIDevice.currentDevice.orientation cameraPosition:cameraPosition];
4. Tạo và chạy trình phát hiện đối tượng
Tạo trình phát hiện vật thể mới:
Swift
let objectDetector = ObjectDetector.objectDetector(options: options)
Objective-C
MLKObjectDetector *objectDetector = [MLKObjectDetector objectDetectorWithOptions:options];
Sau đó, sử dụng trình phát hiện:
Một cách không đồng bộ:
Swift
objectDetector.process(image) { objects, error in guard error == nil, let objects = objects, !objects.isEmpty else { // Handle the error. return } // Show results. }Objective-C
[objectDetector processImage:image completion:^(NSArray*_Nullable objects, NSError *_Nullable error) { if (objects.count == 0) { // Handle the error. return; } // Show results. }]; Đồng bộ:
Swift
var objects: [Object] do { objects = try objectDetector.results(in: image) } catch let error { // Handle the error. return } // Show results.Objective-C
NSError *error; NSArray
*objects = [objectDetector resultsInImage:image error:&error]; // Show results or handle the error.
5. Nhận thông tin về đối tượng được gắn nhãn
Nếu lệnh gọi đến trình xử lý hình ảnh thành công, thì trình xử lý hình ảnh sẽ chuyển danh sách Object đến trình xử lý hoàn thành hoặc trả về danh sách, tuỳ thuộc vào việc bạn đã gọi phương thức không đồng bộ hay đồng bộ.
Mỗi Object chứa các thuộc tính sau:
frame |
CGRect cho biết vị trí của đối tượng trong hình ảnh. |
||||||
trackingID |
Một số nguyên xác định đối tượng trên các hình ảnh, hoặc "nil" ở dạng SINGLE_IMAGE_MODE. | ||||||
labels |
|
Swift
// objects contains one item if multiple object detection wasn't enabled.
for object in objects {
let frame = object.frame
let trackingID = object.trackingID
let description = object.labels.enumerated().map { (index, label) in
"Label \(index): \(label.text), \(label.confidence), \(label.index)"
}.joined(separator: "\n")
}
Objective-C
// The list of detected objects contains one item if multiple object detection
// wasn't enabled.
for (MLKObject *object in objects) {
CGRect frame = object.frame;
NSNumber *trackingID = object.trackingID;
for (MLKObjectLabel *label in object.labels) {
NSString *labelString =
[NSString stringWithFormat:@"%@, %f, %lu",
label.text,
label.confidence,
(unsigned long)label.index];
}
}
Đảm bảo trải nghiệm người dùng tuyệt vời
Để có trải nghiệm người dùng tốt nhất, hãy làm theo các nguyên tắc sau trong ứng dụng của bạn:
- Việc phát hiện đối tượng có thành công hay không phụ thuộc vào độ phức tạp về hình ảnh của đối tượng. Để được phát hiện, các đối tượng có ít tính năng hình ảnh có thể cần chiếm phần lớn hơn hình ảnh. Bạn nên cung cấp cho người dùng hướng dẫn về cách ghi lại dữ liệu đầu vào phù hợp với loại đối tượng bạn muốn phát hiện.
- Khi sử dụng tính năng phân loại, nếu bạn muốn phát hiện các đối tượng không thuộc các danh mục được hỗ trợ, hãy triển khai cách xử lý đặc biệt cho các đối tượng không xác định.
Ngoài ra, hãy tham khảo [ứng dụng giới thiệu Material Design của Bộ công cụ học máy][hiển thị-link]{: .external } và thiết kế Material Design Mẫu cho bộ sưu tập các tính năng sử dụng công nghệ học máy.
Cải thiện hiệu suất
Nếu bạn muốn sử dụng tính năng phát hiện đối tượng trong ứng dụng theo thời gian thực, hãy làm theo các nguyên tắc sau để đạt được tốc độ khung hình tốt nhất:Khi bạn dùng chế độ truyền trực tuyến trong một ứng dụng theo thời gian thực, đừng sử dụng tính năng phát hiện nhiều đối tượng vì hầu hết thiết bị sẽ không tạo được tốc độ khung hình đầy đủ.
- Để xử lý khung video, hãy sử dụng API đồng bộ
results(in:)của trình phát hiện. Hãy gọi phương thức này từ hàmcaptureOutput(_, didOutput:from:)củaAVCaptureVideoDataOutputSampleBufferDelegateđể nhận kết quả đồng bộ từ khung hình video đã cho. GiữalwaysDiscardsLateVideoFramescủaAVCaptureVideoDataOutputở dạngtrueđể điều tiết lệnh gọi đến trình phát hiện. Nếu có một khung hình video mới trong khi trình phát hiện đang chạy, thì khung hình đó sẽ bị loại bỏ. - Nếu bạn sử dụng đầu ra của trình phát hiện để phủ đồ hoạ lên hình ảnh đầu vào, trước tiên, hãy lấy kết quả từ Bộ công cụ học máy, sau đó kết xuất hình ảnh và lớp phủ chỉ qua một bước. Bằng cách này, bạn chỉ kết xuất trên giao diện màn hình một lần cho mỗi khung đầu vào được xử lý. Hãy xem ví dụ về updatePreviewOverlayViewWithLastFrame trong mẫu bắt đầu nhanh của Bộ công cụ học máy.