膨大なデータを処理し学習モデルを構築する機械学習は一般的には巨大なデータセンタを必要とします。このうちクラウド経由でサービス提供されるものをクラウドAIと呼び、センサーやIoT機器などのデバイスからデータをクラウドに吸い上げ、クラウド上で機械学習を行います。しかし、IoT機器などが普及し収集するデータが膨大になるにつれ、クラウド上で処理するのではなく、エッジ側で処理することが求められるようになりました。クラウドにアップロードする通信コストと処理の遅延、通信障害やセキュリティなどが課題として上がってきたためです。

エッジAIの代表的な端末であるAIカメラを例にとって説明します。AIカメラはデータを保存しつつ画像認識を行うため、処理の遅延や画像圧縮による映像の劣化が起こりづらい利点があります。プライバシー侵害の観点からもAIカメラは有用です。デバイス単独で映像処理できるため、映像データをクラウドに残さず、個人を特定できないデータにして管理することができるからです。セキュリティ強化の観点からも同じことが言えます。機密性の高いデータを外部サーバーに転送せずに計算処理できるからです。また、インターネットを介さないため通信障害の影響も受けません。

一方、エッジ側でのAI処理を可能にするには、高性能なエッジサーバーもしくはデバイスそのものに高性能なチップを搭載する必要があります。現在はデバイスのリソースが限られるため、クラウドAIに比べて計算能力は劣ります。また、導入コストがクラウドAIよりも高くなるケースがあります。

このためエッジAIには、スタンドアロン型（独立型）とクラウドAIも同時に活用する併用型があります。併用型では大規模な演算が必要なAIモデルの学習はクラウドで行い、エッジ側はその学習モデルを受け取ることで対応判断をしています。