Rileva e monitora gli oggetti con ML Kit su Android

Puoi utilizzare ML Kit per rilevare e monitorare gli oggetti nei frame video successivi.

Quando passi un'immagine a ML Kit, rileva fino a cinque oggetti nell'immagine insieme alla posizione di ciascun oggetto nell'immagine. Quando vengono rilevati oggetti nei flussi video, ogni oggetto ha un ID univoco che puoi utilizzare per monitorare l'oggetto da un frame all'altro. Facoltativamente, puoi abilitare la classificazione approssimativa degli oggetti, che etichetta gli oggetti con descrizioni di categorie ampie.

Questa API utilizza una libreria non in bundle che deve essere scaricata prima dell'uso. Per saperne di più, consulta questa guida.

Prova subito

• Prova l'app di esempio per vedere un esempio di utilizzo di questa API.
• Consulta l'app Material Design Showcase per un'implementazione end-to-end di questa API.

Prima di iniziare

Questa API richiede il livello API 19 di Android o superiore. Assicurati che il file di build dell'app utilizzi un valore minSdkVersion pari o superiore a 19.

1. Nel file build.gradle a livello di progetto, assicurati di includere il repository Maven di Google nelle sezioni buildscript e allprojects.
2. Aggiungi le dipendenze per le librerie Android di ML Kit al file gradle a livello di app del tuo modulo, che in genere è app/build.gradle:

   dependencies {
     // ...
   
     implementation 'com.google.mlkit:object-detection:17.0.0'
   
   }
   

1. Configura il rilevatore di oggetti

Per rilevare e monitorare gli oggetti, devi prima creare un'istanza di ObjectDetector e, facoltativamente, specificare le impostazioni del rilevatore che vuoi modificare rispetto all'impostazione predefinita.

1. Configura il rilevatore di oggetti per il tuo caso d'uso con un oggetto ObjectDetectorOptions. Puoi modificare le seguenti impostazioni:

   Impostazioni del rilevatore di oggetti
   Modalità di rilevamento	STREAM_MODE (valore predefinito) | SINGLE_IMAGE_MODE In STREAM_MODE (impostazione predefinita), il rilevatore di oggetti viene eseguito con bassa latenza, ma potrebbe produrre risultati incompleti (come riquadri di delimitazione o etichette di categoria non specificati) sulle prime chiamate del rilevatore. Inoltre, in STREAM_MODE, il rilevatore assegna gli ID di monitoraggio agli oggetti, che puoi utilizzare per monitorare gli oggetti nei frame. Usa questa modalità quando vuoi monitorare gli oggetti o quando è importante la bassa latenza, ad esempio durante l'elaborazione di video stream in tempo reale. In SINGLE_IMAGE_MODE, il rilevatore di oggetti restituisce il risultato dopo aver determinato il riquadro di delimitazione dell'oggetto. Se abiliti anche la classificazione, restituisce il risultato dopo che il riquadro di delimitazione e l'etichetta della categoria sono entrambi disponibili. Di conseguenza, la latenza di rilevamento è potenzialmente più elevata. Inoltre, in SINGLE_IMAGE_MODE non sono assegnati ID monitoraggio. Usa questa modalità se la latenza non è critica e non vuoi gestire risultati parziali.
   Rilevamento e monitoraggio di più oggetti	false (valore predefinito) | true Indica se rilevare e monitorare fino a cinque oggetti o solo l'oggetto più in evidenza (impostazione predefinita).
   Classifica oggetti	false (valore predefinito) | true Indica se classificare o meno gli oggetti rilevati in categorie approssimative. Se abilitato, il rilevatore di oggetti classifica gli oggetti nelle seguenti categorie: articoli di moda, cibo, prodotti per la casa, luoghi e piante.

   L'API di rilevamento e monitoraggio degli oggetti è ottimizzata per questi due casi d'uso principali:

   • Rilevamento in tempo reale e monitoraggio dell'oggetto più in evidenza nel mirino della fotocamera.
   • Il rilevamento di più oggetti da un'immagine statica.

   Per configurare l'API per questi casi d'uso:

   Kotlin

   // Live detection and tracking
   val options = ObjectDetectorOptions.Builder()
           .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
           .enableClassification()  // Optional
           .build()
   
   // Multiple object detection in static images
   val options = ObjectDetectorOptions.Builder()
           .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
           .enableMultipleObjects()
           .enableClassification()  // Optional
           .build()

   Java

   // Live detection and tracking
   ObjectDetectorOptions options =
           new ObjectDetectorOptions.Builder()
                   .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
                   .enableClassification()  // Optional
                   .build();
   
   // Multiple object detection in static images
   ObjectDetectorOptions options =
           new ObjectDetectorOptions.Builder()
                   .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
                   .enableMultipleObjects()
                   .enableClassification()  // Optional
                   .build();

2. Ottieni un'istanza di ObjectDetector:

   Kotlin

   val objectDetector = ObjectDetection.getClient(options)

   Java

   ObjectDetector objectDetector = ObjectDetection.getClient(options);

2. Prepara l'immagine di input

Per rilevare e monitorare gli oggetti, passa le immagini al metodo process() dell'istanza ObjectDetector.

Il rilevatore di oggetti viene eseguito direttamente da Bitmap, NV21 ByteBuffer o YUV_420_888 media.Image. Consigliamo di creare una InputImage da queste origini se hai accesso diretto a una di queste. Se crei un elemento InputImage da altre origini, gestiremo internamente la conversione e potrebbe essere meno efficiente.

Per ogni frame di video o immagine in sequenza, procedi nel seguente modo:

Puoi creare un oggetto InputImage da diverse origini, ognuno dei quali è spiegato di seguito.

media.Image

Per creare un oggetto InputImage da un oggetto media.Image, ad esempio quando acquisisci un'immagine dalla fotocamera di un dispositivo, passa l'oggetto media.Image e la rotazione dell'immagine a InputImage.fromMediaImage().

Se utilizzi la libreria CameraX, le classi OnImageCapturedListener e ImageAnalysis.Analyzer calcolano il valore di rotazione automaticamente.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

Se non utilizzi una libreria delle videocamere che ti dà il grado di rotazione dell'immagine, puoi calcolarla in base al grado di rotazione e all'orientamento del sensore della videocamera del dispositivo:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}
MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

Quindi, passa l'oggetto media.Image e il valore del grado di rotazione a InputImage.fromMediaImage():

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

usando l'URI di un file.

Per creare un oggetto InputImage da un URI del file, passa il contesto dell'app e l'URI del file a InputImage.fromFilePath(). Questa operazione è utile quando utilizzi un intento ACTION_GET_CONTENT per richiedere all'utente di selezionare un'immagine dalla sua app Galleria.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}
MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

ByteBuffer o ByteArray

Per creare un oggetto InputImage da un elemento ByteBuffer o ByteArray, innanzitutto calcola il grado di rotazione delle immagini come descritto in precedenza per l'input media.Image. Quindi, crea l'oggetto InputImage con il buffer o l'array, insieme ad altezza, larghezza, formato di codifica dei colori e grado di rotazione dell'immagine:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

Bitmap

Per creare un oggetto InputImage da un oggetto Bitmap, effettua la seguente dichiarazione:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
MLKitVisionImage.java

L'immagine è rappresentata da un oggetto Bitmap insieme ai gradi di rotazione.

3. Elabora immagine

Passa l'immagine al metodo process():

Kotlin

objectDetector.process(image)
    .addOnSuccessListener { detectedObjects ->
        // Task completed successfully
        // ...
    }
    .addOnFailureListener { e ->
        // Task failed with an exception
        // ...
    }

Java

objectDetector.process(image)
    .addOnSuccessListener(
        new OnSuccessListener<List<DetectedObject>>() {
            @Override
            public void onSuccess(List<DetectedObject> detectedObjects) {
                // Task completed successfully
                // ...
            }
        })
    .addOnFailureListener(
        new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });

Nota: se utilizzi l'API CameraX, assicurati di chiudere ImageProxy al termine dell'utilizzo, ad esempio aggiungendo un elemento OnCompleteListener al metodo Task restituito dal metodo process. Guarda la classe VisionProcessorBase nell'app di esempio della guida rapida per un esempio.

4. Ottieni informazioni sugli oggetti rilevati

Se la chiamata alla funzione process() ha esito positivo, viene passato un elenco di DetectedObject al listener di successo.

Nota: in modalità streaming, il rilevatore di oggetti potrebbe dover elaborare 30 o più frame, a seconda delle prestazioni del dispositivo, prima che rilevi il primo oggetto.

Ogni DetectedObject contiene le seguenti proprietà:

Riquadro di delimitazione	Rect che indica la posizione dell'oggetto nell'immagine.
ID monitoraggio	Un numero intero che identifica l'oggetto nelle immagini. Nullo in SINGLE_IMAGE_MODE.
Etichette	Descrizione etichetta La descrizione del testo dell'etichetta. Sarà una delle costanti Stringa definite in PredefinedCategory. Indice etichette Indice dell'etichetta tra tutte le etichette supportate dalla categoria di classificazione. Sarà una delle costanti numeriche definite in PredefinedCategory. Sicurezza delle etichette Il valore di confidenza della classificazione degli oggetti.

Kotlin

for (detectedObject in detectedObjects) {
    val boundingBox = detectedObject.boundingBox
    val trackingId = detectedObject.trackingId
    for (label in detectedObject.labels) {
        val text = label.text
        if (PredefinedCategory.FOOD == text) {
            ...
        }
        val index = label.index
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        val confidence = label.confidence
    }
}

Java

// The list of detected objects contains one item if multiple
// object detection wasn't enabled.
for (DetectedObject detectedObject : detectedObjects) {
    Rect boundingBox = detectedObject.getBoundingBox();
    Integer trackingId = detectedObject.getTrackingId();
    for (Label label : detectedObject.getLabels()) {
        String text = label.getText();
        if (PredefinedCategory.FOOD.equals(text)) {
            ...
        }
        int index = label.getIndex();
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        float confidence = label.getConfidence();
    }
}

Garantire un'esperienza utente ottimale

Per un'esperienza utente ottimale, segui queste linee guida nella tua app:

• Il rilevamento riuscito degli oggetti dipende dalla complessità visiva dell'oggetto. Per poter essere rilevati, gli oggetti con un numero ridotto di funzionalità visive potrebbero occupare una parte più grande dell'immagine. Devi fornire agli utenti indicazioni sull'acquisizione degli input che funzionino bene con il tipo di oggetti che vuoi rilevare.
• Se utilizzi la classificazione, se vuoi rilevare oggetti che non rientrano nelle categorie supportate, implementa la gestione speciale degli oggetti sconosciuti.

Scopri anche l'app Showcase di ML Design Material Design e la raccolta Pattern di Material Design per le funzionalità di machine learning.

Miglioramento delle prestazioni

Se vuoi utilizzare il rilevamento di oggetti in un'applicazione in tempo reale, segui queste linee guida per ottenere la migliore frequenza fotogrammi:

• Quando utilizzi la modalità flusso in un'applicazione in tempo reale, non utilizzare il rilevamento di più oggetti, poiché la maggior parte dei dispositivi non sarà in grado di produrre frequenze di fotogrammi adeguate.

• Disattiva la classificazione se non ti serve.

• Se utilizzi l'API Camera o camera2, limita le chiamate al rilevatore. Se è disponibile un nuovo frame video mentre il rilevatore è in esecuzione, elimina il frame. Guarda la classe VisionProcessorBase nell'app di esempio della guida rapida per un esempio.
• Se utilizzi l'API CameraX, assicurati che la strategia di contropressione sia impostata sul valore predefinito ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. In questo modo, verrà fornita una sola immagine alla volta per l'analisi. Se vengono generate più immagini quando lo strumento di analisi è occupato, verranno eliminate automaticamente e non saranno messe in coda per la pubblicazione. Una volta che l'immagine analizzata viene chiusa chiamando ImageProxy.close(), verrà pubblicata l'ultima immagine successiva.
• Se utilizzi l'output del rilevatore per sovrapporre la grafica all'immagine di input, prima ottieni il risultato da ML Kit, quindi visualizza l'immagine e l'overlay in un solo passaggio. Questo viene visualizzato nella superficie di visualizzazione una sola volta per ogni frame di input. Guarda un esempio delle classi CameraSourcePreview e GraphicOverlay nell'app di esempio della guida rapida.
• Se utilizzi l'API Camera2, acquisisci le immagini nel formato ImageFormat.YUV_420_888. Se utilizzi la versione precedente dell'API Camera, acquisisci le immagini in formato ImageFormat.NV21.