Puoi utilizzare ML Kit per rilevare e monitorare gli oggetti nei frame video successivi.
Quando passi un'immagine ad ML Kit, quest'ultimo rileva fino a cinque oggetti insieme alla posizione di ciascun oggetto nell'immagine. Durante il rilevamento degli oggetti nei video stream, ogni oggetto ha un ID univoco che puoi utilizzare per monitorare l'oggetto da un frame all'altro. Facoltativamente, puoi anche abilitare la classificazione di oggetti approssimativi, che etichetta gli oggetti con descrizioni ampie di categorie.
Prova
- Prova l'app di esempio per vedere un utilizzo di esempio di questa API.
- Consulta l'app Showcase Material Design per un'implementazione end-to-end di questa API.
Prima di iniziare
- Nel file
build.gradle
a livello di progetto, assicurati di includere il Repository Maven di Google in entrambe le sezionibuildscript
eallprojects
. - Aggiungi le dipendenze per le librerie Android di ML Kit al file gradle a livello di app
del tuo modulo, che in genere è
app/build.gradle
:dependencies { // ... implementation 'com.google.mlkit:object-detection:17.0.1' }
1. Configura il rilevatore di oggetti
Per rilevare e monitorare gli oggetti, crea prima un'istanza di ObjectDetector
e, facoltativamente, specifica le impostazioni predefinite del rilevatore che vuoi modificare.
Configura il rilevatore di oggetti per il tuo caso d'uso con un oggetto
ObjectDetectorOptions
. Puoi modificare le seguenti impostazioni:Impostazioni rilevatore di oggetti Modalità di rilevamento STREAM_MODE
(valore predefinito) |SINGLE_IMAGE_MODE
In
STREAM_MODE
(impostazione predefinita), il rilevatore di oggetti viene eseguito con bassa latenza, ma potrebbe produrre risultati incompleti (come riquadri di delimitazione o etichette di categorie non specificati) nelle prime chiamate al rilevatore. Inoltre, inSTREAM_MODE
, il rilevatore assegna ID di monitoraggio agli oggetti, che possono essere utilizzati per monitorare gli oggetti tra i frame. Utilizza questa modalità quando vuoi monitorare gli oggetti o quando è importante la bassa latenza, ad esempio durante l'elaborazione di video stream in tempo reale.In
SINGLE_IMAGE_MODE
, il rilevatore dell'oggetto restituisce il risultato dopo aver determinato il riquadro di delimitazione dell'oggetto. Se abiliti anche la classificazione, il risultato verrà restituito dopo che il riquadro di delimitazione e l'etichetta della categoria sono entrambi disponibili. Di conseguenza, la latenza del rilevamento è potenzialmente più elevata. Inoltre, inSINGLE_IMAGE_MODE
, gli ID monitoraggio non vengono assegnati. Utilizza questa modalità se la latenza non è critica e non vuoi avere a che fare con risultati parziali.Rileva e monitora più oggetti false
(valore predefinito) |true
Indica se rilevare e tracciare fino a cinque oggetti o solo l'oggetto più in evidenza (impostazione predefinita).
Classificare gli oggetti false
(valore predefinito) |true
Se classificare gli oggetti rilevati in categorie generiche. Quando abilitato, il rilevatore di oggetti classifica gli oggetti nelle seguenti categorie: articoli di moda, cibo, articoli per la casa, luoghi e piante.
L'API di rilevamento e monitoraggio degli oggetti è ottimizzata per questi due casi d'uso principali:
- Rilevamento e tracciamento in tempo reale dell'oggetto più in evidenza nel mirino della fotocamera.
- Il rilevamento di più oggetti da un'immagine statica.
Per configurare l'API per questi casi d'uso:
Kotlin
// Live detection and tracking val options = ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.STREAM_MODE) .enableClassification() // Optional .build() // Multiple object detection in static images val options = ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() // Optional .build()
Java
// Live detection and tracking ObjectDetectorOptions options = new ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.STREAM_MODE) .enableClassification() // Optional .build(); // Multiple object detection in static images ObjectDetectorOptions options = new ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() // Optional .build();
Ottieni un'istanza di
ObjectDetector
:Kotlin
val objectDetector = ObjectDetection.getClient(options)
Java
ObjectDetector objectDetector = ObjectDetection.getClient(options);
2. Prepara l'immagine di input
Per rilevare e monitorare gli oggetti, passa le immagini al metodoprocess()
dell'istanza ObjectDetector
.
Il rilevatore di oggetti viene eseguito direttamente da un Bitmap
, NV21 ByteBuffer
o un
YUV_420_888 media.Image
. Ti consigliamo di creare un InputImage
da queste origini
se hai accesso diretto a una di queste origini. Se crei
un elemento InputImage
da altre origini, ci occuperemo noi della conversione
internamente e potrebbe essere meno efficiente.
Per ogni frame di video o immagine in una sequenza:
Puoi creare un oggetto InputImage
da origini diverse, ognuna spiegata di seguito.
Utilizzo di un media.Image
Per creare un oggetto InputImage
da un oggetto media.Image
, ad esempio quando acquisisci un'immagine dalla fotocamera di un dispositivo, trasmetti l'oggetto media.Image
e la rotazione dell'immagine a InputImage.fromMediaImage()
.
Se usi la libreria
FotocameraX, le classi OnImageCapturedListener
e ImageAnalysis.Analyzer
calcolano automaticamente il valore di rotazione.
Kotlin
private class YourImageAnalyzer : ImageAnalysis.Analyzer { override fun analyze(imageProxy: ImageProxy) { val mediaImage = imageProxy.image if (mediaImage != null) { val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees) // Pass image to an ML Kit Vision API // ... } } }
Java
private class YourAnalyzer implements ImageAnalysis.Analyzer { @Override public void analyze(ImageProxy imageProxy) { Image mediaImage = imageProxy.getImage(); if (mediaImage != null) { InputImage image = InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees()); // Pass image to an ML Kit Vision API // ... } } }
Se non utilizzi una raccolta della fotocamera che fornisce il grado di rotazione dell'immagine, puoi calcolarlo dal grado di rotazione del dispositivo e dall'orientamento del sensore della fotocamera nel dispositivo:
Kotlin
private val ORIENTATIONS = SparseIntArray() init { ORIENTATIONS.append(Surface.ROTATION_0, 0) ORIENTATIONS.append(Surface.ROTATION_90, 90) ORIENTATIONS.append(Surface.ROTATION_180, 180) ORIENTATIONS.append(Surface.ROTATION_270, 270) } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) @Throws(CameraAccessException::class) private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. val deviceRotation = activity.windowManager.defaultDisplay.rotation var rotationCompensation = ORIENTATIONS.get(deviceRotation) // Get the device's sensor orientation. val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager val sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION)!! if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360 } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360 } return rotationCompensation }
Java
private static final SparseIntArray ORIENTATIONS = new SparseIntArray(); static { ORIENTATIONS.append(Surface.ROTATION_0, 0); ORIENTATIONS.append(Surface.ROTATION_90, 90); ORIENTATIONS.append(Surface.ROTATION_180, 180); ORIENTATIONS.append(Surface.ROTATION_270, 270); } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing) throws CameraAccessException { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation(); int rotationCompensation = ORIENTATIONS.get(deviceRotation); // Get the device's sensor orientation. CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE); int sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION); if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360; } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360; } return rotationCompensation; }
Quindi, passa l'oggetto media.Image
e il
valore del grado di rotazione a InputImage.fromMediaImage()
:
Kotlin
val image = InputImage.fromMediaImage(mediaImage, rotation)
Java
InputImage image = InputImage.fromMediaImage(mediaImage, rotation);
Utilizzo dell'URI di un file
Per creare un oggetto InputImage
da un URI del file, passa il contesto dell'app e l'URI del file a InputImage.fromFilePath()
. Questo è utile quando
utilizzi un intent ACTION_GET_CONTENT
per richiedere all'utente di selezionare
un'immagine dall'app Galleria.
Kotlin
val image: InputImage try { image = InputImage.fromFilePath(context, uri) } catch (e: IOException) { e.printStackTrace() }
Java
InputImage image; try { image = InputImage.fromFilePath(context, uri); } catch (IOException e) { e.printStackTrace(); }
Utilizzo di ByteBuffer
o ByteArray
Per creare un oggetto InputImage
da un oggetto ByteBuffer
o ByteArray
, calcola prima il grado di rotazione
dell'immagine come descritto in precedenza per l'input media.Image
.
Quindi, crea l'oggetto InputImage
con il buffer o l'array, insieme ad altezza, larghezza, formato di codifica del colore e grado di rotazione dell'immagine:
Kotlin
val image = InputImage.fromByteBuffer( byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ) // Or: val image = InputImage.fromByteArray( byteArray, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 )
Java
InputImage image = InputImage.fromByteBuffer(byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ); // Or: InputImage image = InputImage.fromByteArray( byteArray, /* image width */480, /* image height */360, rotation, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 );
Utilizzo di un Bitmap
Per creare un oggetto InputImage
da un oggetto Bitmap
, effettua la seguente dichiarazione:
Kotlin
val image = InputImage.fromBitmap(bitmap, 0)
Java
InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
L'immagine è rappresentata da un oggetto Bitmap
insieme con i gradi di rotazione.
3. Elabora l'immagine
Passa l'immagine al metodoprocess()
:
Kotlin
objectDetector.process(image) .addOnSuccessListener { detectedObjects -> // Task completed successfully // ... } .addOnFailureListener { e -> // Task failed with an exception // ... }
Java
objectDetector.process(image) .addOnSuccessListener( new OnSuccessListener<List<DetectedObject>>() { @Override public void onSuccess(List<DetectedObject> detectedObjects) { // Task completed successfully // ... } }) .addOnFailureListener( new OnFailureListener() { @Override public void onFailure(@NonNull Exception e) { // Task failed with an exception // ... } });
4. Visualizza informazioni sugli oggetti rilevati
Se la chiamata a process()
ha esito positivo, viene passato un elenco di DetectedObject
al listener di operazione riuscita.
Ogni DetectedObject
contiene le seguenti proprietà:
Riquadro di delimitazione | Un elemento Rect che indica la posizione dell'oggetto nell'immagine. |
||||||
ID monitoraggio | Un numero intero che identifica l'oggetto nelle immagini. Null in SINGLE_IMAGE_MODE. | ||||||
Etichette |
|
Kotlin
for (detectedObject in detectedObjects) { val boundingBox = detectedObject.boundingBox val trackingId = detectedObject.trackingId for (label in detectedObject.labels) { val text = label.text if (PredefinedCategory.FOOD == text) { ... } val index = label.index if (PredefinedCategory.FOOD_INDEX == index) { ... } val confidence = label.confidence } }
Java
// The list of detected objects contains one item if multiple // object detection wasn't enabled. for (DetectedObject detectedObject : detectedObjects) { Rect boundingBox = detectedObject.getBoundingBox(); Integer trackingId = detectedObject.getTrackingId(); for (Label label : detectedObject.getLabels()) { String text = label.getText(); if (PredefinedCategory.FOOD.equals(text)) { ... } int index = label.getIndex(); if (PredefinedCategory.FOOD_INDEX == index) { ... } float confidence = label.getConfidence(); } }
Garantire un'esperienza utente ottimale
Per un'esperienza utente ottimale, segui queste linee guida nella tua app:
- Il successo del rilevamento degli oggetti dipende dalla complessità visiva dell'oggetto. Per essere rilevati, gli oggetti con un numero ridotto di caratteristiche visive potrebbero dover occupare una parte più grande dell'immagine. Dovresti fornire agli utenti indicazioni su come acquisire input che funzionino bene con il tipo di oggetti che vuoi rilevare.
- Quando utilizzi la classificazione, se vuoi rilevare oggetti che non rientrano in modo chiaro nelle categorie supportate, implementa una gestione speciale per gli oggetti sconosciuti.
Dai anche un'occhiata all'app ML Kit Material Design per la vetrina e alla raccolta Modelli Pattern per funzionalità basate sul machine learning di Material Design.
Miglioramento delle prestazioni
Se vuoi utilizzare il rilevamento di oggetti in un'applicazione in tempo reale, segui queste linee guida per ottenere le frequenze fotogrammi migliori:
Quando utilizzi la modalità di streaming in un'applicazione in tempo reale, non utilizzare il rilevamento di più oggetti, dato che la maggior parte dei dispositivi non sarà in grado di produrre frequenze fotogrammi adeguate.
Disabilita la classificazione se non ti serve.
- Se utilizzi l'API
Camera
ocamera2
, limita le chiamate al rilevatore. Se un nuovo fotogramma video diventa disponibile mentre il rilevatore è in esecuzione, rilascialo. Per un esempio, consulta la classeVisionProcessorBase
nell'app di esempio della guida rapida. - Se utilizzi l'API
CameraX
, assicurati che la strategia di contropressione sia impostata sul valore predefinitoImageAnalysis.STRATEGY_KEEP_ONLY_LATEST
. Questo garantisce che verrà inviata una sola immagine alla volta per l'analisi. Se vengono prodotte altre immagini quando l'analizzatore è occupato, queste verranno eliminate automaticamente e non verranno messe in coda per la consegna. Una volta chiusa l'immagine analizzata chiamando ImageProxy.close(), verrà pubblicata l'immagine più recente. - Se utilizzi l'output del rilevatore per sovrapporre gli elementi grafici all'immagine di input, recupera prima il risultato da ML Kit, quindi esegui il rendering dell'immagine e dell'overlay in un unico passaggio. Il rendering viene eseguito sulla superficie del display solo una volta per ogni frame di input. Per un esempio, consulta le classi
CameraSourcePreview
eGraphicOverlay
nell'app di esempio della guida rapida. - Se utilizzi l'API Camera2, acquisisci immagini in formato
ImageFormat.YUV_420_888
. Se utilizzi la versione precedente dell'API Camera, acquisisci immagini in formatoImageFormat.NV21
.