Tensorflow

TensorFlowモデルマージツール



Tensorflow Model Merge Tool



このツールは、すべてのTensorFlowモデルを、TensorFlowServing形式で使用できる同じ大きなモデルに組み合わせることができます。以下の利点があります

  • 小さなモデルを同じモデルにマージして、展開を容易にすることができます。
  • マージできるため、各デプロイメントのモデル名は同じですが、バージョンが異なります。 TensorFlow Servingの特性に応じて、ホットデプロイメントが可能です。

詳細を見る GitHub 。



使用法

  1. 訓練され凍結されたモデルを./frozenに入れますフォルダの下
  2. でexport_serving_model.pyエクスポート情報を追加する
    • 更新情報を設定するUPDATE_MESSAGE
    • エクスポート機能の定義
    • 関数の上に追加@ServingInfo.export変更をエクスポートできます（ 追加しない場合、このモデルはエクスポートされません ）。
  3. 実行中export_serving_model.py脚本
  4. 意志./serving/{version}サーバー展開にコピー

説明

実行中export_serving_model.py会議 自動 フォルダ内./serving 2つのファイルを生成（または変更）します。

  • current_version：更新情報を記録する現在のバージョンを示します。
  • exported_models：エクスポートされたモデルを示します。

エクスポートされたモデル

モデル 署名名 input_signature_map output_signature_map 凍結された場所（./frozen）
【モデル説明】 hyaudio_1 'inputs':'hyaudio/vggish_input:0' 'classes':'hyaudio/predict_classes:0', 'probs':'hyaudio/predict_probs:0' audio/hyaudio.pb
【モデル説明】 hyaudio_2 'inputs':'hyaudio/vggish_input:0' 'classes':'hyaudio/predict_classes:0', 'probs':'hyaudio/predict_probs:0' audio/hyaudio.pb

エクスポートされたモデルを確認します

公式を使用 SavedModel CLI ツール。



すべて表示SignatureDef署名：

saved_model_cli show --dir ./serving/1 --tag_set serve

指定されたモデルへのすべての入力を表示し、ノード情報を出力します。

saved_model_cli show --dir ./serving/1 --tag_set serve --signature_def audio_hyaudio