値を予測する iOS アプリを作成する

1. 始める前に

この Codelab では、TensorFlow Serving と REST および gRPC を使用して iOS アプリから回帰推論を実行する方法を学びます。

前提条件

Swift による iOS 開発の基本的な知識
トレーニングやデプロイなど、TensorFlow による機械学習に関する基本的な知識
Colaboratory の基本的な知識
ターミナル、Python、Docker の基本的な知識

学習内容

TensorFlow で回帰モデルをトレーニングする方法
簡単な iOS アプリを作成し、TensorFlow Serving（REST と gRPC）を使用してトレーニング済みモデルを使用して予測を行う方法。
結果を UI に表示する方法。

必要なもの

Colab へのアクセス
最新バージョンの Xcode
CocoaPods
Docker
Bash
プロトコルバッファコンパイラ（自分で gRPC スタブを自分で再生成する場合のみ）
gRPC-swift コード生成プラグイン（gRPC スタブを自分で生成する場合にのみ必要）

2. 設定する

この Codelab のコードをダウンロードするには:

この Codelab の GitHub リポジトリに移動します。
[Code] > [Download zip] をクリックして、この Codelab のすべてのコードをダウンロードします。

ダウンロードした zip ファイルを解凍して、必要なリソースがすべて揃った codelabs ルートフォルダを展開します。

この Codelab では、リポジトリの TFServing/RegressioniOS サブディレクトリ内のファイルのみが必要です。このサブディレクトリには 2 つのフォルダが含まれています。

starter フォルダには、この Codelab で構築するスターターコードが含まれています。
finished フォルダには、完成したサンプルアプリの完成したコードが含まれています。

3. プロジェクトの依存関係をダウンロードする

必要な Pod をダウンロードする

starter/iOS フォルダで、次のコマンドを実行します。

pod install

CocoaPods により、必要なライブラリがすべてインストールされ、新しい regression.xcworkspace ファイルが生成されます。

4.スターターアプリを実行する

regression.xcworkspace ファイルをダブルクリックして Xcode を開きます。

アプリを実行して操作する

デバイスターゲットを iPhone 13 などの iPhone に変更します。

[Run] をクリックし、Xcode がプロジェクトをコンパイルし、シミュレータでスターターアプリを起動するのを待ちます。

UI は非常にシンプルです。テキストボックスには数値を入力できます。この数値は、REST または gRPC で TensorFlow Serving バックエンドに送信されます。バックエンドは、入力値に対して回帰を行い、予測値をクライアントアプリに返します。クライアントアプリはその結果を UI に再度表示します。

数値を入力して [推論] をクリックすると、アプリがまだバックエンドと通信できないため、何も起こりません。

5. TensorFlow を使用して単純な回帰モデルをトレーニングする

回帰は ML タスクの中でも最も一般的なものの 1 つです。目標は、入力に基づいて単一の連続数量を予測することです。たとえば、今日の天気に基づいて明日の最高気温を予測します。

回帰モデルのトレーニング

ブラウザで、このリンクを開きます。

Colab が Python ノートブックを読み込みます。

Python ノートブックで TensorFlow ライブラリと NumPy ライブラリをインポートし、入力として xs、ラベルとして ys を使用して、6 組のトレーニングデータを作成します。

これらのデータポイントをグラフでプロットすると、データポイントは y = 2x -1 式から生成されるため、実際には直線上にあります。

Keras API を使用して、単純な 2 層ニューラルネットワークを作成し、x 入力に基づいて y 値を予測し、モデルをコンパイルして適合させます。

xs = np.array([-1.0,  0.0, 1.0, 2.0, 3.0, 4.0], dtype=float)
ys = np.array([-3.0, -1.0, 1.0, 3.0, 5.0, 7.0], dtype=float)

model = tf.keras.Sequential([
   tf.keras.layers.Dense(units=10, input_shape=[1]),
   tf.keras.layers.Dense(units=1),
   ])

model.compile(optimizer='sgd',
             loss='mean_squared_error')

history = model.fit(xs, ys, epochs=500, verbose=0)

print("Finished training the model")

print(model.predict([10.0]))

モデルのトレーニングには数秒かかり、10 入力の予測値は 18.999996 になります。正解は 2 * 10 -1 = 19 なので、かなり良い予測です。

モデルをエクスポートします。

model_dir = './regression/'
version = 123
export_path = os.path.join(model_dir, str(version))
model.save(export_path, save_format="tf")
print('\nexport_path = {}'.format(export_path))
!ls -l {export_path}

エクスポートされた SavedModel を 1 つの regression.zip ファイルに圧縮します。

!zip -r regression.zip ./regression

ナビゲーションメニューで [ランタイム] > [すべて実行] をクリックしてノートブックを実行し、実行が完了するまで待ちます。
[ Files] をクリックし、regression.zip ファイルをダウンロードします。

6. TensorFlow Serving を使用して回帰モデルをデプロイする

TensorFlow Serving を使用してモデルをデプロイするには、ダウンロードした regression.zip ファイルを 7-Zip などの解凍ツールで解凍します。

フォルダ構造は次の画像のようになります。

regression フォルダは、SavedModel フォルダとして参照できます。123 はバージョン番号の例です。別の数字を選択することもできます。

TensorFlow サービスの提供を開始

ターミナルで、TensorFlow Serving と Docker を起動します。ただし、PATH/TO/SAVEDMODEL プレースホルダは、パソコンの regression フォルダの絶対パスに置き換えてください。

docker pull tensorflow/serving

docker run -it --rm -p 8500:8500 -p 8501:8501 -v "PATH/TO/SAVEDMODEL:/models/regression" -e MODEL_NAME=regression tensorflow/serving

Docker では、最初に TensorFlow Serving の画像が自動的にダウンロードされます。これには 1 分ほどかかります。その後、TensorFlow Serving が起動します。ログは次のコードスニペットのようになります。

2022-02-25 06:01:12.513231: I external/org_tensorflow/tensorflow/cc/saved_model/loader.cc:206] Restoring SavedModel bundle.
2022-02-25 06:01:12.585012: I external/org_tensorflow/tensorflow/core/platform/profile_utils/cpu_utils.cc:114] CPU Frequency: 3000000000 Hz
2022-02-25 06:01:13.395083: I external/org_tensorflow/tensorflow/cc/saved_model/loader.cc:190] Running initialization op on SavedModel bundle at path: /models/ssd_mobilenet_v2_2/123
2022-02-25 06:01:13.837562: I external/org_tensorflow/tensorflow/cc/saved_model/loader.cc:277] SavedModel load for tags { serve }; Status: success: OK. Took 1928700 microseconds.
2022-02-25 06:01:13.877848: I tensorflow_serving/servables/tensorflow/saved_model_warmup_util.cc:59] No warmup data file found at /models/ssd_mobilenet_v2_2/123/assets.extra/tf_serving_warmup_requests
2022-02-25 06:01:13.929844: I tensorflow_serving/core/loader_harness.cc:87] Successfully loaded servable version {name: regression version: 123}
2022-02-25 06:01:13.985848: I tensorflow_serving/model_servers/server_core.cc:486] Finished adding/updating models
2022-02-25 06:01:13.985987: I tensorflow_serving/model_servers/server.cc:367] Profiler service is enabled
2022-02-25 06:01:13.988994: I tensorflow_serving/model_servers/server.cc:393] Running gRPC ModelServer at 0.0.0.0:8500 ...
[warn] getaddrinfo: address family for nodename not supported
2022-02-25 06:01:14.033872: I tensorflow_serving/model_servers/server.cc:414] Exporting HTTP/REST API at:localhost:8501 ...
[evhttp_server.cc : 245] NET_LOG: Entering the event loop ...

7. REST を介して iOS アプリを TensorFlow Serving に接続する

これでバックエンドの準備が整ったため、クライアントリクエストを TensorFlow Serving に送信して予測を行うことができます。TensorFlow Serving にリクエストを送信する方法は 2 つあります。

REST
gRPC

REST でリクエストを送信してレスポンスを受信する

手順は次の 3 つです。

REST リクエストを作成します。
TensorFlow Serving に REST リクエストを送信します。
REST レスポンスから予測結果を抽出し、UI をレンダリングします。

以下の手順は iOS/regression/ViewController.swift ファイルで行います。

REST リクエストを作成する

現時点では、doInference() 関数は TensorFlow Serving に REST リクエストを送信しません。REST リクエストを作成するには、この REST ブランチを実装する必要があります。

if (connectionMode[picker.selectedRow(inComponent: 0)] == "REST") {
    print("Using REST")
    // TODO: Add code to send a REST request to TensorFlow Serving.

}

TensorFlow Serving は、単一の値を含む POST リクエストを想定しているため、入力ペイロードをリクエストのペイロードである JSON に埋め込む必要があります。

次のコードを REST ブランチに追加します。

//Create the REST request.
let json: [String: Any] = ["signature_name" : "serving_default", "instances" : [[value]]]

let jsonData = try? JSONSerialization.data(withJSONObject: json)

let url = URL(string: "http://localhost:8501/v1/models/regression:predict")!
var request = URLRequest(url: url)
request.httpMethod = "POST"

// Insert JSON data into the request.
request.httpBody = jsonData

TensorFlow Serving に REST リクエストを送信する

REST ブランチのコードの直後に次のコードを追加します。

// Send the REST request.
let task = URLSession.shared.dataTask(with: request) { data, response, error in
    guard let data = data, error == nil else {
        print(error?.localizedDescription ?? "No data")
        return
    }

    // TODO: Add code to process the response.
}

task.resume()

TensorFlow Serving から REST レスポンスを処理する

前のコードスニペットの TODO: Add code to process the response. コメントの直後に次のコードを追加します。

// Process the REST response.
let results: RESTResults = try! JSONDecoder().decode(RESTResults.self, from: data)
DispatchQueue.main.async{
    self.txtOutput.text = String(results.predictions[0][0])
}

これで、後処理関数によってレスポンスから予測値が抽出され、その結果が UI に表示されます。

実行

[Run] をクリックし、Xcode がシミュレータでアプリを起動するのを待ちます。
テキストボックスに数値を入力し、[推論] をクリックします。

これで、UI に予測値が表示されます。

8. gRPC を使用して iOS アプリと TensorFlow Serving を接続する

TensorFlow Serving は REST に加えて、gRPC もサポートします。

gRPC は、最新のオープンソースで高性能なリモートプロシージャコール（RPC）フレームワークです。あらゆる環境で実行できます。負荷分散やトレース、ヘルスチェック、認証に対応するプラグイン可能なサポートにより、データセンター内やデータセンター間でサービスを効率的に接続できます。実際には、gRPC は REST よりもパフォーマンスが高いことがわかっています。

gRPC でリクエストを送信してレスポンスを受信する

次の 4 つの簡単な手順に沿ってください。

（省略可）gRPC クライアントスタブコードを生成します。
gRPC リクエストを作成する。
gRPC サービングに gRPC リクエストを送信します。
gRPC レスポンスから予測結果を抽出し、UI をレンダリングします。