Android এ ML কিট সহ সেলফি সেগমেন্টেশন

এমএল কিট সেলফি বিভাজনের জন্য একটি অপ্টিমাইজড এসডিকে প্রদান করে।

সেলফি সেগমেন্টার অ্যাসেটগুলো বিল্ড করার সময় আপনার অ্যাপের সাথে স্ট্যাটিক্যালি লিঙ্ক করা হয়। এর ফলে আপনার অ্যাপ ডাউনলোডের সাইজ প্রায় ৪.৫ মেগাবাইট বেড়ে যাবে এবং পিক্সেল ৪-এ পরিমাপ অনুযায়ী, ইনপুট ছবির আকারের ওপর নির্ভর করে এপিআই ল্যাটেন্সি ২৫ms থেকে ৬৫ms পর্যন্ত পরিবর্তিত হতে পারে।

চেষ্টা করে দেখুন

  • এই API-টির একটি উদাহরণমূলক ব্যবহার দেখতে নমুনা অ্যাপটি ব্যবহার করে দেখুন।

শুরু করার আগে

  1. আপনার প্রোজেক্ট-স্তরের build.gradle ফাইলে, buildscript এবং allprojects উভয় সেকশনেই গুগলের মেভেন রিপোজিটরি অন্তর্ভুক্ত করা নিশ্চিত করুন।
  2. আপনার মডিউলের অ্যাপ-লেভেল গ্রেডল ফাইলে (যা সাধারণত app/build.gradle হয়) এমএল কিট অ্যান্ড্রয়েড লাইব্রেরির ডিপেন্ডেন্সিগুলো যোগ করুন।
dependencies {
  implementation 'com.google.mlkit:segmentation-selfie:16.0.0-beta6'
}

১. সেগমেন্টারের একটি ইনস্ট্যান্স তৈরি করুন

সেগমেন্টার বিকল্পগুলি

কোনো ইমেজে সেগমেন্টেশন করার জন্য, প্রথমে নিম্নলিখিত অপশনগুলো উল্লেখ করে Segmenter এর একটি ইনস্ট্যান্স তৈরি করুন।

ডিটেক্টর মোড

Segmenter দুটি মোডে কাজ করে। আপনার ব্যবহারের ধরনের সাথে মানানসই মোডটি বেছে নিন।

STREAM_MODE (default)

এই মোডটি ভিডিও বা ক্যামেরা থেকে ফ্রেম স্ট্রিম করার জন্য ডিজাইন করা হয়েছে। এই মোডে, সেগমেন্টারটি আরও মসৃণ সেগমেন্টেশন ফলাফল দেওয়ার জন্য পূর্ববর্তী ফ্রেমের ফলাফল ব্যবহার করবে।

SINGLE_IMAGE_MODE

এই মোডটি সম্পর্কহীন একক ছবির জন্য ডিজাইন করা হয়েছে। এই মোডে, সেগমেন্টার প্রতিটি ছবিকে স্বাধীনভাবে প্রসেস করবে এবং ফ্রেমগুলোর মধ্যে কোনো স্মুদিং করা হবে না।

কাঁচা আকারের মাস্ক সক্রিয় করুন

সেগমেন্টারকে এমন একটি র সাইজ মাস্ক ফেরত দিতে বলা হয় যা মডেল আউটপুট সাইজের সাথে মেলে।

মাস্কের মূল আকার (যেমন ২৫৬x২৫৬) সাধারণত ইনপুট ছবির আকারের চেয়ে ছোট হয়। এই বিকল্পটি সক্রিয় করার সময় মাস্কের আকার জানার জন্য অনুগ্রহ করে SegmentationMask#getWidth() এবং SegmentationMask#getHeight() কল করুন।

এই অপশনটি নির্দিষ্ট না করলে, সেগমেন্টারটি ইনপুট ছবির আকারের সাথে মেলানোর জন্য র মাস্কটিকে রিস্কেল করবে। আপনি যদি কাস্টমাইজড রিস্কেলিং লজিক প্রয়োগ করতে চান অথবা আপনার ব্যবহারের ক্ষেত্রে রিস্কেলিংয়ের প্রয়োজন না হয়, তবে এই অপশনটি ব্যবহার করার কথা বিবেচনা করতে পারেন।

সেগমেন্টার বিকল্পগুলি নির্দিষ্ট করুন:

কোটলিন

val options =
        SelfieSegmenterOptions.Builder()
            .setDetectorMode(SelfieSegmenterOptions.STREAM_MODE)
            .enableRawSizeMask()
            .build()

জাভা

SelfieSegmenterOptions options =
        new SelfieSegmenterOptions.Builder()
            .setDetectorMode(SelfieSegmenterOptions.STREAM_MODE)
            .enableRawSizeMask()
            .build();

Segmenter এর একটি ইনস্ট্যান্স তৈরি করুন। আপনার নির্দিষ্ট করা অপশনগুলো পাস করুন:

কোটলিন

val segmenter = Segmentation.getClient(options)

জাভা

Segmenter segmenter = Segmentation.getClient(options);

২. ইনপুট চিত্রটি প্রস্তুত করুন।

কোনো ইমেজের সেগমেন্টেশন করার জন্য, ডিভাইসের Bitmap , media.Image , ByteBuffer , বাইট অ্যারে বা কোনো ফাইল থেকে একটি InputImage অবজেক্ট তৈরি করুন।

আপনি বিভিন্ন উৎস থেকে একটি InputImage অবজেক্ট তৈরি করতে পারেন, যার প্রতিটি নিচে ব্যাখ্যা করা হলো।

একটি media.Image ব্যবহার করে।

একটি media.Image অবজেক্ট থেকে InputImage অবজেক্ট তৈরি করতে, যেমন যখন আপনি ডিভাইসের ক্যামেরা থেকে একটি ছবি তোলেন, তখন media.Image অবজেক্টটি এবং ছবিটির রোটেশন InputImage.fromMediaImage() ফাংশনে পাস করুন।

আপনি CameraX লাইব্রেরি ব্যবহার করলে, OnImageCapturedListener এবং ImageAnalysis.Analyzer ক্লাসগুলো আপনার জন্য ঘূর্ণন মান গণনা করে দেয়।

কোটলিন

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

জাভা

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

যদি আপনি এমন কোনো ক্যামেরা লাইব্রেরি ব্যবহার না করেন যা আপনাকে ছবির ঘূর্ণন মাত্রা জানিয়ে দেয়, তাহলে আপনি ডিভাইসের ঘূর্ণন মাত্রা এবং ডিভাইসের ক্যামেরা সেন্সরের অভিমুখ থেকে এটি গণনা করতে পারেন:

কোটলিন

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}

জাভা

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

এরপর, media.Image অবজেক্ট এবং ঘূর্ণন ডিগ্রির মানটি InputImage.fromMediaImage() -এ পাস করুন:

কোটলিন

val image = InputImage.fromMediaImage(mediaImage, rotation)

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

একটি ফাইল URI ব্যবহার করে

একটি ফাইল URI থেকে InputImage অবজেক্ট তৈরি করতে, InputImage.fromFilePath() -এ অ্যাপ কনটেক্সট এবং ফাইল URI পাস করুন। এটি তখন কাজে আসে যখন আপনি ACTION_GET_CONTENT ইন্টেন্ট ব্যবহার করে ব্যবহারকারীকে তার গ্যালারি অ্যাপ থেকে একটি ছবি বেছে নিতে বলেন।

কোটলিন

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

ByteBuffer বা ByteArray ব্যবহার করে

একটি ByteBuffer বা ByteArray থেকে InputImage অবজেক্ট তৈরি করতে, প্রথমে media.Image ইনপুটের জন্য পূর্বে বর্ণিত পদ্ধতি অনুযায়ী ছবির ঘূর্ণন মাত্রা গণনা করুন। তারপর, বাফার বা অ্যারেটি ব্যবহার করে ছবির উচ্চতা, প্রস্থ, কালার এনকোডিং ফরম্যাট এবং ঘূর্ণন মাত্রা সহ InputImage অবজেক্টটি তৈরি করুন।

কোটলিন

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)

জাভা

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);

Bitmap ব্যবহার করে

একটি Bitmap অবজেক্ট থেকে InputImage অবজেক্ট তৈরি করতে, নিম্নলিখিত ডিক্লারেশনটি করুন:

কোটলিন

val image = InputImage.fromBitmap(bitmap, 0)

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);

ছবিটি ঘূর্ণন মাত্রা সহ একটি Bitmap অবজেক্ট দ্বারা উপস্থাপিত হয়।

৩. ছবিটি প্রক্রিয়া করুন

প্রস্তুতকৃত InputImage অবজেক্টটি Segmenter এর process মেথডে প্রেরণ করুন।

কোটলিন

Task<SegmentationMask> result = segmenter.process(image)
       .addOnSuccessListener { results ->
           // Task completed successfully
           // ...
       }
       .addOnFailureListener { e ->
           // Task failed with an exception
           // ...
       }

জাভা

Task<SegmentationMask> result =
        segmenter.process(image)
                .addOnSuccessListener(
                        new OnSuccessListener<SegmentationMask>() {
                            @Override
                            public void onSuccess(SegmentationMask mask) {
                                // Task completed successfully
                                // ...
                            }
                        })
                .addOnFailureListener(
                        new OnFailureListener() {
                            @Override
                            public void onFailure(@NonNull Exception e) {
                                // Task failed with an exception
                                // ...
                            }
                        });

৪. বিভাজনের ফলাফল নিন

আপনি নিম্নলিখিতভাবে বিভাজনের ফলাফল পেতে পারেন:

কোটলিন

val mask = segmentationMask.getBuffer()
val maskWidth = segmentationMask.getWidth()
val maskHeight = segmentationMask.getHeight()

for (val y = 0; y < maskHeight; y++) {
  for (val x = 0; x < maskWidth; x++) {
    // Gets the confidence of the (x,y) pixel in the mask being in the foreground.
    val foregroundConfidence = mask.getFloat()
  }
}

জাভা

ByteBuffer mask = segmentationMask.getBuffer();
int maskWidth = segmentationMask.getWidth();
int maskHeight = segmentationMask.getHeight();

for (int y = 0; y < maskHeight; y++) {
  for (int x = 0; x < maskWidth; x++) {
    // Gets the confidence of the (x,y) pixel in the mask being in the foreground.
    float foregroundConfidence = mask.getFloat();
  }
}

সেগমেন্টেশনের ফলাফল কীভাবে ব্যবহার করতে হয় তার একটি পূর্ণাঙ্গ উদাহরণের জন্য, অনুগ্রহ করে এমএল কিট কুইকস্টার্ট স্যাম্পলটি দেখুন।

কর্মক্ষমতা উন্নত করার টিপস

আপনার ফলাফলের মান ইনপুট ছবির মানের উপর নির্ভর করে:

  • এমএল কিট থেকে সঠিক সেগমেন্টেশন ফলাফল পেতে হলে, ছবিটির আকার কমপক্ষে ২৫৬x২৫৬ পিক্সেল হতে হবে।
  • ছবির ফোকাস খারাপ হলেও তা নির্ভুলতার ওপর প্রভাব ফেলতে পারে। যদি গ্রহণযোগ্য ফলাফল না পান, তবে ব্যবহারকারীকে ছবিটি পুনরায় তুলতে বলুন।

আপনি যদি কোনো রিয়েল-টাইম অ্যাপ্লিকেশনে সেগমেন্টেশন ব্যবহার করতে চান, তাহলে সর্বোত্তম ফ্রেম রেট পেতে এই নির্দেশিকাগুলো অনুসরণ করুন:

  • STREAM_MODE ব্যবহার করুন।
  • কম রেজোলিউশনে ছবি তোলার কথা বিবেচনা করুন। তবে, এই API-এর ছবির আকারের প্রয়োজনীয়তাগুলোও মনে রাখবেন।
  • র সাইজ মাস্ক অপশনটি চালু করার কথা বিবেচনা করুন এবং সমস্ত রিস্কেলিং লজিক একসাথে যুক্ত করুন। উদাহরণস্বরূপ, প্রথমে আপনার ইনপুট ছবির আকারের সাথে মেলানোর জন্য এপিআই-কে মাস্কটি রিস্কেল করতে দেওয়া এবং তারপরে প্রদর্শনের জন্য ভিউ-এর আকারের সাথে মেলানোর জন্য এটিকে আবার রিস্কেল করার পরিবর্তে, সরাসরি র সাইজ মাস্কের জন্য অনুরোধ করুন এবং এই দুটি ধাপকে একটিতে একত্রিত করুন।
  • আপনি যদি Camera বা camera2 API ব্যবহার করেন, তাহলে ডিটেক্টরে কল করার গতি সীমিত করুন। ডিটেক্টর চলার সময় যদি একটি নতুন ভিডিও ফ্রেম উপলব্ধ হয়, তাহলে ফ্রেমটি বাদ দিন। একটি উদাহরণের জন্য কুইকস্টার্ট স্যাম্পল অ্যাপে VisionProcessorBase ক্লাসটি দেখুন।
  • আপনি যদি CameraX API ব্যবহার করেন, তাহলে নিশ্চিত করুন যে ব্যাকপ্রেশার স্ট্র্যাটেজি তার ডিফল্ট মান ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST এ সেট করা আছে। এটি নিশ্চিত করে যে একবারে বিশ্লেষণের জন্য কেবল একটি ছবিই পাঠানো হবে। অ্যানালাইজার ব্যস্ত থাকা অবস্থায় যদি আরও ছবি তৈরি হয়, তবে সেগুলি স্বয়ংক্রিয়ভাবে বাদ হয়ে যাবে এবং পাঠানোর জন্য সারিতে যুক্ত হবে না। ImageProxy.close() কল করে বিশ্লেষণাধীন ছবিটি বন্ধ করা হলে, পরবর্তী সর্বশেষ ছবিটি পাঠানো হবে।
  • যদি আপনি ইনপুট ইমেজের উপর গ্রাফিক্স ওভারলে করার জন্য ডিটেক্টরের আউটপুট ব্যবহার করেন, তাহলে প্রথমে এমএল কিট (ML Kit) থেকে ফলাফলটি নিন, তারপর ইমেজটি রেন্ডার করুন এবং একটি একক ধাপে ওভারলে করুন। এর ফলে প্রতিটি ইনপুট ফ্রেমের জন্য ডিসপ্লে সারফেসে কেবল একবারই রেন্ডার হয়। একটি উদাহরণের জন্য কুইকস্টার্ট স্যাম্পল অ্যাপে CameraSourcePreview এবং GraphicOverlay ক্লাসগুলো দেখুন।
  • আপনি যদি Camera2 API ব্যবহার করেন, তাহলে ImageFormat.YUV_420_888 ফরম্যাটে ছবি তুলুন। আর যদি পুরোনো Camera API ব্যবহার করেন, তাহলে ImageFormat.NV21 ফরম্যাটে ছবি তুলুন।