エッジAI（オンデバイス推論）
エッジAIは、データを取得する機器そのもの、たとえばカメラやオンプレミス機器の上で推論を実行し、遠隔のサービスへ送信しません。遅延はローカルネットワーク内に収まり、映像は建物の外へ出ず、インターネット接続が途絶えてもシステムは動作を続けます。
推論をエッジへ移すと何が変わるのか
| エッジ | クラウド | |
|---|---|---|
| 往復遅延 | ローカルネットワーク内のみ | リクエストごとにインターネット往復 |
| 障害時の動作 | 継続する | 停止する |
| 映像の所在 | 拠点内にとどまる | 構外へ出る |
| 帯域コスト | 推論では発生しない | ストリーム数に比例 |
| モデル更新 | 機器ごとに配布 | 中央で即時 |
映像系の導入では、プライバシーを論じる前に帯域の計算で結論が出ることがほとんどです。50系統のカメラ映像を遠隔サービスへ送るのは継続的な上り帯域の確保を意味しますが、フレームがある場所でモデルを動かせば、送るのは随時のメタデータだけになります。
エッジ推論に必要なハードウェア
- アクセラレータ：カメラ台数ではなく、系統数と各系統の解析フレームレートに合わせて選定します。
- メモリ：モデルと登録ギャラリーを保持できる容量。顔認識では登録件数とともに増加します。
- 冷却余裕：断続的ではなく継続的に負荷がかかる機器としての設計が必要です。
- 物理的に施錠された筐体：テンプレートを保持する機器は攻撃対象の一部になります。
サイジングを決めるのはカメラ台数ではなく、毎秒あたりの解析フレーム数です。40台を各2fpsで解析する現場は、10台を各15fpsで解析する現場より負荷が小さくなります。台数だけでは導入仕様を定義できないのはこのためです。
クラウドの方が適するのはどのような場合か
エッジが常に正解というわけではありません。処理が継続的ではなく随時である場合、拠点内機器に収まらない規模のモデルが必要な場合、多拠点の情報をリアルタイムに集約する必要がある場合は、中央側の方が適します。配置は処理の性質に従うというのが率直な結論であり、実際の多くの現場では両方が併存します。
議論を一つで決着させる要件は、データを構外へ出せないという法的または方針上の制約です。それが存在する場合、性能比較を始める前に配置は決まります。
多くの現場が行き着く折衷は、推論をエッジに置き、それ以外を中央に置く構成です。モデルの学習と配布は中央で行い、解析は機器がローカルで実行し、戻すのはイベント、サムネイル、稼働情報だけにします。これにより、帯域とプライバシーの利点を保ちながら、機器群を一箇所から管理できます。
よくある質問
- エッジAIとは何ですか。
- エッジAIは、カメラやオンプレミス機器など、データを取得する機器上で推論を実行し、遠隔サービスへ送信しない方式です。遅延はローカルネットワーク内に収まり、映像は拠点内にとどまり、インターネット障害時も動作が継続します。
- エッジAIとクラウドAIの違いは何ですか。
- 処理の配置場所です。エッジAIは取得した場所で処理し、クラウドAIは遠隔サービスへ送ります。エッジは遅延、映像の帯域、データを拠点内にとどめる点で優位です。クラウドはモデル規模、中央での更新、多拠点のリアルタイム集約で優位です。
- エッジAIはインターネットに一切接続しないという意味ですか。
- 必ずしもそうではありません。多くのエッジ導入では、推論と生データを拠点内に保ちつつ、管理、通知、モデル更新のために接続を維持します。一切接続しない形態はエアギャップ導入であり、より厳しい要件を伴う別の設計です。
- エッジでの映像解析にはどの程度のハードウェアが必要ですか。
- サイジングはカメラ台数ではなく毎秒の解析フレーム数に従います。40台を各2fpsで解析するのは、10台を各15fpsで解析するより負荷が小さくなります。メモリはモデルに加え、顔認識では登録件数とともに増える登録ギャラリーも保持する必要があります。
- エッジAIはクラウドAIよりプライバシー保護に優れますか。
- 特定の露出を一つ取り除きます。生データが構外に出ないため、第三者側の複製も越境移転の正当化も不要になります。一方、保存期間、アクセス制御、結果を誰が照会できるかは、推論の場所にかかわらず方針上の課題として残ります。
- エッジ機器上のモデルは更新できますか。
- 更新できますが、機能の切り替えではなく配布の問題として扱います。通常は段階的な展開と切り戻し経路を用意して各機器へ配信します。エアギャップ環境では、変更管理手続きのもとで物理媒体により持ち込みます。