TensorFlow Liteモデル
AI・機械学習TFLITEは端末向け推論で使われるモデル形式です。入力の形状、データ型、前処理、量子化の条件が合わないと期待した結果になりません。LiteRT等の対応実行環境を用意し、モデル配布元の入力・出力仕様を確認します。
- 主な用途
- 端末向けの機械学習推論
- 中身の種類
- バイナリデータ
目次・よくある質問・根拠資料を見る
内容の最終確認： · 編集：Kai
開き方・操作手順
使っている環境や目的の項目を開いて、手順を確認してください。
操作名・対応状況はアプリ・OS・版によって異なります。変更する前に原本を残してください。
開けないとき：症状から確認
- テンソルの型が違う：floatや整数の指定、scale・zero-point等を仕様と照合します。
- 画像入力なのに精度が低い：寸法、チャンネル順、正規化、ラベルの対応を確認します。
- 演算が未対応：ランタイムの版、演算セット、使用するアクセラレーターへの対応を確認します。
- 浮動小数を渡してエラー：入力dtypeがint8等なら指定の量子化条件を確認します。
- delegateが使えない：対象機器と演算対応を確認し、CPUでの確認結果と分けます。
- 入力サイズ変更で失敗：shape_signatureと再確保の要否を対応APIで確認します。
元モデル → TFLITE / 検証
- 信頼できる元モデルを、対応する変換機能でTFLITEへ書き出します。量子化する場合は必要な代表データ等を用意します。
- 元モデルとの出力差と対象端末での速度・メモリーを確認します。
- 書き出し前後で同じ入力を使い、出力の形状・値・処理時間を比較します。モデル定義と変換条件も保存します。
TFLITEから元の学習構造・状態を完全に戻せるとは限りません。量子化や演算対応によって出力が変わる場合があります。
量子化モデルで確認する数値
同じ画像でもfloat32とint8では渡す値の作り方が異なる場合があります。入力・出力双方の型と量子化パラメーターを確認します。
量子化出力を浮動小数の確率として直接扱うと判定が変わります。配布元の後処理も含めて検証します。
この手順の根拠：Google · LiteRT / TensorFlow Project · tf.lite.Interpreter
CPUとアクセラレーターの確認を分ける
CPUで動くモデルでも、特定delegateが全演算に対応するとは限りません。読込・実行ログで使用条件を確認します。
実機でウォームアップ、処理時間、必要メモリを測ります。変換前と同じテストデータで精度も確認してから運用します。
この手順の根拠：Google · LiteRT / TensorFlow Project · tf.lite.Interpreter
関連形式との違い
| 形式 | 主な役割 | 確認する点 |
|---|---|---|
| TFLITE | 端末向け推論 | 量子化と演算対応 |
| KERAS | 編集・学習用モデル保存 | 独自レイヤーと環境 |
| ONNX | 推論交換 | 別ランタイムへの対応 |
取り扱いと安全性
モデルを含むアプリやプラグインは正規配布元から導入します。未知のモデルは信頼せず、サイズや必要メモリーも確認します。
よくある質問
画像を入れれば何でも判定できる？
そのモデルの入力仕様と学習目的に合わせます。
整数入力はそのまま渡せる？
量子化のパラメーターと前処理を確認します。
ONNXへ改名できる？
実際のモデル変換と動作検証が必要です。
TFLITEなら全スマホで高速？
演算、量子化、機器、ランタイムで変わります。対象端末で精度と速度を確認します。
整数モデルへ0〜1の値をそのまま渡す？
dtypeとscale・zero_pointに合わせます。正規化と量子化を混同しないようにします。
形式の基本情報：正式名称・MIME type・管理団体
- 名称
- TensorFlow Lite / LiteRT model
- 管理・仕様
- MIME type
- 作成元・配信元の指定による。拡張子だけでMIME typeは確定できません。
公式・一次情報
- 公式資料LiteRT
TensorFlow Liteから続く端末向け推論環境の公式資料です。
Google · リンク確認： - プロジェクト公式tf.lite.Interpreter
テンソルの型・形状・量子化パラメーターを確認する資料です。
TensorFlow Project · リンク確認：