คุณใช้ ML Kit เพื่อจดจําข้อความในรูปภาพหรือวิดีโอได้ เช่น ข้อความของป้ายจราจร คุณสมบัติหลักของคุณลักษณะนี้ ได้แก่
ฟีเจอร์ | ไม่ได้จัดกลุ่ม | รวมกลุ่ม |
---|---|---|
ชื่อห้องสมุด | com.google.android.gms:play-services-mlkit-text-recognition
com.google.android.gms:play-services-mlkit-text-recognition-chinese com.google.android.gms:play-services-mlkit-text-recognition-devanagari com.google.android.gms:play-services-mlkit-text-recognition-japanese com.google.android.gms:play-services-mlkit-text-recognition-korean |
com.google.mlkit:text-recognition
com.google.mlkit:text-recognition-chinese com.google.mlkit:text-recognition-devanagari com.google.mlkit:text-recognition-japanese com.google.mlkit:text-recognition-korean |
การใช้งาน | โมเดลจะดาวน์โหลดแบบไดนามิกผ่านบริการ Google Play | โมเดลจะลิงก์กับแอปกับแบบคงที่ขณะที่สร้าง |
ขนาดแอป | มีขนาดเพิ่มขึ้นประมาณ 260 KB ต่อสถาปัตยกรรมสคริปต์ | มีขนาดเพิ่มขึ้นประมาณ 4 MB ต่อสคริปต์ต่อสถาปัตยกรรม |
เวลาเริ่มต้น | อาจต้องรอให้ระบบดาวน์โหลดโมเดลก่อนจึงจะใช้งานได้ | โมเดลจะพร้อมใช้งานทันที |
ประสิทธิภาพ | เรียลไทม์ในอุปกรณ์ส่วนใหญ่สําหรับไลบรารีสคริปต์ละติน ซึ่งจะทํางานช้าในอุปกรณ์อื่นๆ | เรียลไทม์ในอุปกรณ์ส่วนใหญ่สําหรับไลบรารีสคริปต์ละติน ซึ่งจะทํางานช้าในอุปกรณ์อื่นๆ |
ลองเลย
- ลองใช้แอปตัวอย่างเพื่อดูตัวอย่างการใช้งาน API นี้
- ลองทดสอบโค้ดด้วยตนเองโดยใช้ codelab
ข้อควรปฏิบัติก่อนที่จะเริ่มต้น
- ในไฟล์
build.gradle
ระดับโปรเจ็กต์ โปรดตรวจสอบว่าได้รวมที่เก็บ Maven ของ Google ไว้ทั้งในส่วนbuildscript
และallprojects
เพิ่มทรัพยากร Dependency สําหรับไลบรารี Android ของ ML Kit ไปยังไฟล์ Gradle ระดับโมดูลของโมดูล ซึ่งโดยปกติจะเป็น
app/build.gradle
วิธีรวมกลุ่มแอปกับแอป
dependencies { // To recognize Latin script implementation 'com.google.mlkit:text-recognition:16.0.0' // To recognize Chinese script implementation 'com.google.mlkit:text-recognition-chinese:16.0.0' // To recognize Devanagari script implementation 'com.google.mlkit:text-recognition-devanagari:16.0.0' // To recognize Japanese script implementation 'com.google.mlkit:text-recognition-japanese:16.0.0' // To recognize Korean script implementation 'com.google.mlkit:text-recognition-korean:16.0.0' }
สําหรับการใช้โมเดลนี้ในบริการ Google Play:
dependencies { // To recognize Latin script implementation 'com.google.android.gms:play-services-mlkit-text-recognition:19.0.0' // To recognize Chinese script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-chinese:16.0.0' // To recognize Devanagari script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-devanagari:16.0.0' // To recognize Japanese script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-japanese:16.0.0' // To recognize Korean script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-korean:16.0.0' }
หากเลือกใช้โมเดลในบริการของ Google Play คุณจะกําหนดค่าแอปให้ดาวน์โหลดโมเดลดังกล่าวลงในอุปกรณ์โดยอัตโนมัติหลังจากที่ติดตั้งแอปจาก Play Store แล้วได้ ซึ่งทําได้โดยเพิ่มประกาศ ต่อไปนี้ลงในไฟล์
AndroidManifest.xml
ของแอป<application ...> ... <meta-data android:name="com.google.mlkit.vision.DEPENDENCIES" android:value="ocr" > <!-- To use multiple models: android:value="ocr,ocr_chinese,ocr_devanagari,ocr_japanese,ocr_korean,..." --> </application>
นอกจากนี้ คุณยังตรวจสอบความพร้อมของโมเดลอย่างชัดเจนและขอดาวน์โหลดผ่านบริการ ModuleInstallClient API ของ Google Play ได้ หากคุณไม่เปิดใช้การดาวน์โหลดโมเดลเวลาติดตั้งหรือขอการดาวน์โหลดอย่างชัดแจ้ง ระบบจะดาวน์โหลดโมเดลดังกล่าวในครั้งแรกที่คุณเรียกใช้โปรแกรมสแกน คําขอที่คุณดําเนินการก่อนที่การดาวน์โหลดจะเสร็จสมบูรณ์ ไม่พบผลลัพธ์ใดๆ
1. สร้างอินสแตนซ์ของ TextRecognizer
สร้างอินสแตนซ์ TextRecognizer
โดยส่งต่อตัวเลือกที่เกี่ยวข้องกับไลบรารีที่คุณประกาศไว้ว่าอ้างอิงตามข้างต้น
Kotlin
// When using Latin script library val recognizer = TextRecognition.getClient(TextRecognizerOptions.DEFAULT_OPTIONS) // When using Chinese script library val recognizer = TextRecognition.getClient(ChineseTextRecognizerOptions.Builder().build()) // When using Devanagari script library val recognizer = TextRecognition.getClient(DevanagariTextRecognizerOptions.Builder().build()) // When using Japanese script library val recognizer = TextRecognition.getClient(JapaneseTextRecognizerOptions.Builder().build()) // When using Korean script library val recognizer = TextRecognition.getClient(KoreanTextRecognizerOptions.Builder().build())
Java
// When using Latin script library TextRecognizer recognizer = TextRecognition.getClient(TextRecognizerOptions.DEFAULT_OPTIONS); // When using Chinese script library TextRecognizer recognizer = TextRecognition.getClient(new ChineseTextRecognizerOptions.Builder().build()); // When using Devanagari script library TextRecognizer recognizer = TextRecognition.getClient(new DevanagariTextRecognizerOptions.Builder().build()); // When using Japanese script library TextRecognizer recognizer = TextRecognition.getClient(new JapaneseTextRecognizerOptions.Builder().build()); // When using Korean script library TextRecognizer recognizer = TextRecognition.getClient(new KoreanTextRecognizerOptions.Builder().build());
2. เตรียมรูปภาพอินพุต
หากต้องการจดจําข้อความในรูปภาพ ให้สร้างออบเจ็กต์ InputImage
จาก Bitmap
, media.Image
, ByteBuffer
, อาร์เรย์ไบต์ หรือไฟล์ในอุปกรณ์ จากนั้นส่งผ่านออบเจ็กต์ InputImage
ไปยังเมธอด processImage
ของ TextRecognizer
คุณสร้างออบเจ็กต์ InputImage
จากแหล่งที่มาต่างๆ ได้ ซึ่งแต่ละแบบจะอธิบายไว้ด้านล่าง
การใช้ media.Image
หากต้องการสร้างออบเจ็กต์ InputImage
จากออบเจ็กต์ media.Image
เช่น เมื่อคุณจับภาพจากกล้องถ่ายรูปของอุปกรณ์ ให้ส่งออบเจ็กต์ media.Image
และการหมุนรูปภาพไปที่ InputImage.fromMediaImage()
หากคุณใช้ไลบรารี
CameraX คลาส OnImageCapturedListener
และ ImageAnalysis.Analyzer
จะคํานวณค่าการหมุนเวียนให้คุณ
Kotlin
private class YourImageAnalyzer : ImageAnalysis.Analyzer { override fun analyze(imageProxy: ImageProxy) { val mediaImage = imageProxy.image if (mediaImage != null) { val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees) // Pass image to an ML Kit Vision API // ... } } }
Java
private class YourAnalyzer implements ImageAnalysis.Analyzer { @Override public void analyze(ImageProxy imageProxy) { Image mediaImage = imageProxy.getImage(); if (mediaImage != null) { InputImage image = InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees()); // Pass image to an ML Kit Vision API // ... } } }
หากไม่ได้ใช้ไลบรารีกล้องที่ให้องศาการหมุนของรูปภาพ คุณจะคํานวณได้จากองศาการหมุนของอุปกรณ์และการวางแนวของเซ็นเซอร์กล้องในอุปกรณ์ โดยทําดังนี้
Kotlin
private val ORIENTATIONS = SparseIntArray() init { ORIENTATIONS.append(Surface.ROTATION_0, 0) ORIENTATIONS.append(Surface.ROTATION_90, 90) ORIENTATIONS.append(Surface.ROTATION_180, 180) ORIENTATIONS.append(Surface.ROTATION_270, 270) } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) @Throws(CameraAccessException::class) private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. val deviceRotation = activity.windowManager.defaultDisplay.rotation var rotationCompensation = ORIENTATIONS.get(deviceRotation) // Get the device's sensor orientation. val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager val sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION)!! if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360 } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360 } return rotationCompensation }
Java
private static final SparseIntArray ORIENTATIONS = new SparseIntArray(); static { ORIENTATIONS.append(Surface.ROTATION_0, 0); ORIENTATIONS.append(Surface.ROTATION_90, 90); ORIENTATIONS.append(Surface.ROTATION_180, 180); ORIENTATIONS.append(Surface.ROTATION_270, 270); } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing) throws CameraAccessException { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation(); int rotationCompensation = ORIENTATIONS.get(deviceRotation); // Get the device's sensor orientation. CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE); int sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION); if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360; } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360; } return rotationCompensation; }
จากนั้นส่งออบเจ็กต์ media.Image
และค่าองศาการหมุนไปยัง InputImage.fromMediaImage()
โดยทําดังนี้
Kotlin
val image = InputImage.fromMediaImage(mediaImage, rotation)
Java
InputImage image = InputImage.fromMediaImage(mediaImage, rotation);
การใช้ URI ของไฟล์
หากต้องการสร้างออบเจ็กต์ InputImage
จาก URI ของไฟล์ ให้ส่งบริบทของแอปและ URI ของไฟล์ไปยัง InputImage.fromFilePath()
ซึ่งจะมีประโยชน์เมื่อคุณใช้ Intent ของ ACTION_GET_CONTENT
ในการแจ้งให้ผู้ใช้เลือกรูปภาพจากแอปแกลเลอรี
Kotlin
val image: InputImage try { image = InputImage.fromFilePath(context, uri) } catch (e: IOException) { e.printStackTrace() }
Java
InputImage image; try { image = InputImage.fromFilePath(context, uri); } catch (IOException e) { e.printStackTrace(); }
การใช้ ByteBuffer
หรือ ByteArray
หากต้องการสร้างออบเจ็กต์ InputImage
จาก ByteBuffer
หรือ ByteArray
ให้คํานวณองศาการหมุนรูปภาพตามที่อธิบายไว้ก่อนหน้านี้สําหรับอินพุต media.Image
ก่อน
จากนั้นสร้างออบเจ็กต์ InputImage
ที่มีบัฟเฟอร์หรืออาร์เรย์ พร้อมความสูง ความกว้าง รูปแบบการเข้ารหัสสี และองศาการหมุนของรูปภาพ ดังนี้
Kotlin
val image = InputImage.fromByteBuffer( byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ) // Or: val image = InputImage.fromByteArray( byteArray, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 )
Java
InputImage image = InputImage.fromByteBuffer(byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ); // Or: InputImage image = InputImage.fromByteArray( byteArray, /* image width */480, /* image height */360, rotation, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 );
การใช้ Bitmap
หากต้องการสร้างออบเจ็กต์ InputImage
จากออบเจ็กต์ Bitmap
ให้ประกาศดังนี้
Kotlin
val image = InputImage.fromBitmap(bitmap, 0)
Java
InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
ภาพจะแสดงเป็นวัตถุ Bitmap
พร้อมองศาการหมุน
3. ประมวลผลรูปภาพ
ส่งรูปภาพไปยังเมธอด process
ดังนี้
Kotlin
val result = recognizer.process(image) .addOnSuccessListener { visionText -> // Task completed successfully // ... } .addOnFailureListener { e -> // Task failed with an exception // ... }
Java
Task<Text> result = recognizer.process(image) .addOnSuccessListener(new OnSuccessListener<Text>() { @Override public void onSuccess(Text visionText) { // Task completed successfully // ... } }) .addOnFailureListener( new OnFailureListener() { @Override public void onFailure(@NonNull Exception e) { // Task failed with an exception // ... } });
4. แยกข้อความออกจากบล็อกข้อความที่รู้จัก
หากการจดจําข้อความสําเร็จ ระบบจะส่งต่อออบเจ็กต์ Text
ไปยัง Listener ที่สําเร็จ ออบเจ็กต์ Text
มีข้อความแบบเต็มที่จดจําได้ในอิมเมจและออบเจ็กต์ TextBlock
0 รายการขึ้นไป
TextBlock
แต่ละบล็อกแสดงถึงบล็อกข้อความสี่เหลี่ยมผืนผ้า ซึ่งมีออบเจ็กต์ Line
0 รายการหรือมากกว่า ออบเจ็กต์ Line
แต่ละรายการจะแสดงบรรทัดข้อความ ซึ่งประกอบด้วยออบเจ็กต์ Element
0 รายการหรือมากกว่า ออบเจ็กต์ Element
แต่ละรายการจะแสดงแทนคําหรือเอนทิตีแบบคํา ซึ่งมีออบเจ็กต์ Symbol
0 รายการหรือมากกว่า ออบเจ็กต์ Symbol
แต่ละรายการจะแสดงอักขระ ตัวเลข หรือเอนทิตีเหมือนคํา
สําหรับออบเจ็กต์ TextBlock
, Line
, Element
และ Symbol
แต่ละรายการ คุณรับรู้ข้อความในภูมิภาค พิกัดขอบเขตของภูมิภาค และแอตทริบิวต์อื่นๆ อีกมากมาย เช่น ข้อมูลการหมุน คะแนนความเชื่อมั่น ฯลฯ
เช่น
Kotlin
val resultText = result.text for (block in result.textBlocks) { val blockText = block.text val blockCornerPoints = block.cornerPoints val blockFrame = block.boundingBox for (line in block.lines) { val lineText = line.text val lineCornerPoints = line.cornerPoints val lineFrame = line.boundingBox for (element in line.elements) { val elementText = element.text val elementCornerPoints = element.cornerPoints val elementFrame = element.boundingBox } } }
Java
String resultText = result.getText(); for (Text.TextBlock block : result.getTextBlocks()) { String blockText = block.getText(); Point[] blockCornerPoints = block.getCornerPoints(); Rect blockFrame = block.getBoundingBox(); for (Text.Line line : block.getLines()) { String lineText = line.getText(); Point[] lineCornerPoints = line.getCornerPoints(); Rect lineFrame = line.getBoundingBox(); for (Text.Element element : line.getElements()) { String elementText = element.getText(); Point[] elementCornerPoints = element.getCornerPoints(); Rect elementFrame = element.getBoundingBox(); for (Text.Symbol symbol : element.getSymbols()) { String symbolText = symbol.getText(); Point[] symbolCornerPoints = symbol.getCornerPoints(); Rect symbolFrame = symbol.getBoundingBox(); } } } }
ป้อนหลักเกณฑ์ของรูปภาพ
-
ML Kit ต้องมีข้อความที่แสดงด้วยข้อมูลพิกเซลที่เพียงพอ เพื่อให้ ML Kit จดจําข้อความได้อย่างถูกต้อง โดยหลักการแล้ว อักขระแต่ละอักขระควรมีขนาดอย่างน้อย 16x16 พิกเซล โดยทั่วไปประโยชน์ที่อักขระจะมีขนาดใหญ่กว่า 24x24 พิกเซลไม่ได้คือข้อดี
เช่น รูปภาพขนาด 640x480 อาจเหมาะสําหรับใช้สแกนนามบัตรที่ใช้ความกว้างทั้งหมดของรูปภาพ อาจต้องมีรูปภาพขนาด 720x1280 พิกเซลจึงจะสแกนเอกสารที่พิมพ์บนกระดาษขนาดตัวอักษรได้
-
การโฟกัสรูปภาพที่ไม่ดีอาจส่งผลต่อความแม่นยําในการจดจําข้อความ หากไม่ได้รับผลการค้นหาที่ยอมรับได้ ให้ลองขอให้ผู้ใช้จับภาพอีกครั้ง
-
หากคุณจําข้อความในแอปพลิเคชันแบบเรียลไทม์ได้ ก็ควรพิจารณาขนาดโดยรวมของรูปภาพที่ป้อนด้วย รูปภาพขนาดเล็กกว่าจะได้รับการประมวลผลเร็วขึ้น หากต้องการลดเวลาในการตอบสนอง ให้ตรวจสอบว่าข้อความใช้รูปภาพมากที่สุดเท่าที่จะเป็นไปได้ และจับภาพที่ความละเอียดต่ําลง (คํานึงถึงข้อกําหนดความถูกต้องที่กล่าวถึงข้างต้น) ดูข้อมูลเพิ่มเติมได้ในเคล็ดลับในการปรับปรุงประสิทธิภาพ
เคล็ดลับในการปรับปรุงประสิทธิภาพ
- หากใช้
Camera
หรือcamera2
API แล้ว ระบบจะจํากัดการควบคุมในตัวตรวจจับ หากเฟรมวิดีโอใหม่พร้อมใช้งาน ขณะตัวตรวจจับกําลังทํางาน ให้วางเฟรม ดูตัวอย่างคลาสVisionProcessorBase
ในแอปตัวอย่างการเริ่มต้นอย่างรวดเร็ว - หากคุณใช้ API ของ
CameraX
โปรดตรวจสอบว่าได้ตั้งค่ากลยุทธ์ Backpressure เป็นค่าเริ่มต้นImageAnalysis.STRATEGY_KEEP_ONLY_LATEST
การดําเนินการนี้รับประกันได้ว่าระบบจะส่งรูปภาพมาวิเคราะห์เพียงครั้งละ 1 รูป หากมีการสร้างอิมเมจเพิ่มเติมเมื่อเครื่องมือวิเคราะห์ไม่ว่าง รูปภาพเหล่านั้นจะหายไปโดยอัตโนมัติและไม่ต่อคิวสําหรับส่ง เมื่อมีการปิดรูปภาพที่กําลังวิเคราะห์อยู่โดยเรียก ImageProxy.close() ระบบจะแสดงรูปภาพล่าสุดลําดับถัดไป - หากคุณใช้เอาต์พุตของตัวตรวจจับเพื่อวางซ้อนกราฟิกบนรูปภาพอินพุต ขั้นแรกให้รับผลลัพธ์จาก ML Kit แล้วแสดงผลรูปภาพและซ้อนทับในขั้นตอนเดียว ซึ่งจะแสดงผลไปยังพื้นที่แสดงผลเพียง 1 ครั้งต่อเฟรมของแต่ละเฟรมเท่านั้น ดูคลาส
CameraSourcePreview
และGraphicOverlay
ในแอปตัวอย่างเริ่มต้นอย่างรวดเร็ว - หากคุณใช้ Camera2 API ให้จับภาพในรูปแบบ
ImageFormat.YUV_420_888
หากคุณใช้ Camera API เวอร์ชันเก่า ให้จับภาพในรูปแบบImageFormat.NV21
- พิจารณาจับภาพที่ความละเอียดต่ําลง อย่างไรก็ตาม โปรดทราบว่า ข้อกําหนดด้านขนาดของรูปภาพของ API นี้