機械学習は急速に発展している。新しいモデルやアルゴリズム、アプリケーションが毎日のように登場している。経済協力開発機構（OECD）によると、2020年だけで人工知能（AI）には750億ドルを超える投資が行われ、2012年の30億ドルから増加した。その大半は機械学習の研究開発に向けられた。
機械学習は反復的な算術演算で構成され、線形代数を多用するため、従来は高性能なコンピューターを使ってサーバーやクラウド上で実行されてきた。しかし、より性能の低いコンピューティングデバイスを使い、複雑な機械学習タスクを敷地外でありながら近くの場所で実行できるとしたらどうだろうか。そうすれば、企業は大規模なデータセンターを必要とせず、エッジでAIを適用できるようになる。
TinyMLは、小型で低消費電力のマイクロコントローラーを搭載したデバイスを使い、機械学習をエッジにもたらしている。
TinyMLとは何か？
Tiny Machine Learning（TinyML）は、機械学習（ML）と組み込みシステムが交差する領域に位置する分野で、低消費電力のマイクロコントローラー上でMLモデルを実行できるようにする。
組み込みシステムは主に、特定の機能を実行するよう設計されたハードウェアとソフトウェアで構成される。これらもコンピューターだが、PCや携帯電話、タブレットなどの汎用コンピューターとは異なり、特定の処理に特化している。組み込みシステムの例としては、プリンター、家電製品、デジタルカメラ、電子計算機、ATMなどがある。
マイクロコントローラーは、ごくわずかな電力で動作する小さなチップで、多くの場合メモリー容量は数キロバイトしかなく、OSなしで動作することもある。組み込みシステムのハードウェア部分を構成し、システムがタスクを実行できるようにする。
マイクロコントローラーの主な特徴は次のとおりだ。
- 低消費電力：マイクロコントローラーはエネルギー効率が非常に高く、消費電力は数ミリワットにすぎない。
- 小さなメモリーフットプリント：数キロバイト程度のメモリーでも動作できる。
- OS不要：動作にOSを必要としないため、高速かつ効率的だ。
- 低コスト：一般に安価である。
TinyMLの起源は2014年までさかのぼる。Pete WardenはGoogleのスタッフ・リサーチ・エンジニアで、同業者からは機械学習におけるTinyMLというサブ分野の創始者であり、初期の発展に影響を与えた人物と見なされている。
関連記事： AI as a Serviceを効果的に実装する
TinyMLが重要な理由
MLの人気と利用が急速に高まるなか、エッジでMLを適用できることの重要性も増している。Microsoft Azure、Amazon AWS、Google Cloudなどの大手クラウドプロバイダーが、膨大なデータセットに対してMLモデルを並列実行する何千台ものサーバーを備えたデータセンターを構築している一方で、TinyMLなら企業のニーズに基づく単純なタスクを実行するデバイスを1～2台だけ導入できる。例えば、次のようなケースだ。
スマート家電メーカーが、電気料金のリアルタイムの変動に応じて家電の消費電力を自動調整したいとする。ただし、すべての家電向けに高価なデータセンターを構築するため、数百万ドルを投資したくはない。そこで各デバイスにTinyMLアルゴリズムを組み込み、現在の状態（時刻や、家の中の他の家電がどれだけ電力を消費しているかなど）に応じて、どの程度電力を削減すべきかをそれぞれのデバイスに学習させることができる。
ある自動車メーカーが、自社の自動運転車両群をライドシェアリングサービスに活用したいとする。しかし、現時点では十分な人が恩恵を受けられないため、完全自動運転に投資するつもりはない。そこで車両にTinyMLアルゴリズムを組み込み、過去の走行で収集したデータ（制限速度や交通パターンなど）に基づくパターン検出によって、各車両が独立して動作できるようにする。
どちらのケースでも、必要なのが小型デバイスだけなら、高価なインフラの構築にかかる数百万ドルを節約でき、その分、新機能の開発に注力できる。
TinyMLがエッジコンピューティングに与える影響
エッジコンピューティングとは、ユーザーがより高速な応答時間の恩恵を受けられるよう、クラウドコンピューティングをユーザーの近くに移す仕組みを指す。データのごく一部だけに迅速な対応が必要な場合、すべてのデータをインターネット経由で行き来させずに済むという考え方だ。
TinyMLは、必要なデータ以外をアップロードせず、各デバイス上でMLアルゴリズムを実行することで、デバイスに自律的なエッジ機能を持たせる方法を実現している。これにより、TinyML搭載デバイスは性能を高められるだけでなく、大規模なデータセットを持つ集中型サーバーに直接接続する場合よりもはるかに少ない電力で動作できる。ユーザー体験を向上させながら、コストと時間も削減できる。
関連記事： マイクロデータセンターがエッジを進化させる
TinyMLのメリットと利点
集中型のクラウドベースシステムと比べ、TinyMLの利用には次のような多くのメリットがある。
- 低レイテンシーでの高速な推論：TinyMLアルゴリズムはわずか数十ミリ秒で結果を推論できるため、学習用のデータをすべてリモートサーバーに送信しなければならない従来のMLモデルよりもはるかに高速に動作する。
- 低コスト：エッジでMLを実行すれば、企業は何千台ものサーバーを備えた高価なデータセンターを構築せずに済む。代わりに、安価な自己学習型デバイスを使い、必要な電力も抑えられるため、事業コストを大幅に削減できる。
- 小さなモデルサイズ：TinyMLモデルは、圧縮や量子化などの技術を使って小型デバイスで動作するよう最適化されている。その結果、標準モデルと同じ精度を維持しながら、ファイルサイズを小さくできる。
- ローカルストレージ：MLアルゴリズムは、すべてのパラメーターを保存するために大量のメモリーとディスク容量を必要とするため、RAMやフラッシュストレージの容量が限られたデバイスでは扱いにくい。TinyMLは、学習に使ったすべての変数を保存する代わりに、結果の判定に重要な特徴量、つまり推論に必要な部分だけを保持することで、この問題を軽減する。その結果、モデルファイルも小さくなる。
- データプライバシー：ビッグデータの時代においてデータプライバシーの重要性はますます高まっている。TinyMLなら、データをエッジデバイス上だけに保持することで、機密データを失うリスクを抑え、企業がデータを再び管理できるようになる。
TinyMLの課題
エッジで機械学習を利用するメリットは明らかだが、企業がこの技術を効果的に導入する前に認識しておくべき制約もいくつかある。
- 限られたデータ転送速度：帯域幅が限られているため、デバイス間で大規模なデータセットをやり取りするには時間がかかる。しかし、5Gネットワークの全面展開により、高速なデータ転送が可能になり、この課題は解消されると期待されている。
- 限られたメモリー：前述のとおり、MLモデルはすべてのパラメーターを保存するために大量のメモリーを必要とするため、RAM容量が少ないデバイスでは問題が生じる。TinyMLアルゴリズムは、標準モデルと同じ精度を維持しながら使用するストレージを減らすことで、この課題に対処するよう開発されてきた。現在、TinyMLデバイスの要件を満たせるMLプラットフォームはまだ少ない。
- トラブルシューティングの問題：MLモデルはデバイスから取得したデータで学習され、デバイス自体で実行されるため、パフォーマンスの問題を検出して解決する作業は、技術者がリモートで問題を診断できるクラウド環境よりも複雑になる。
TinyMLの企業活用事例
TinyMLは、組織のネットワーク機能やセキュリティ、データプライバシーを改善したいITチームにとって有効だ。TinyMLの恩恵を受けられる業界には、次のようなものがある。
- 製造：TinyMLは、機械のリアルタイム分析を可能にし、より効率的な製造プロセスを実現する。
- 小売・eコマース：小売・eコマース企業は、エッジでTinyMLモデルを利用することで、顧客サービスの改善、価格戦略の最適化、収益機会の拡大、倉庫や店舗の在庫水準の把握を行える。
- 医療：TinyMLモデルは、症状が現れる前にデバイス上で健康状態を検知したり、医療機器が正常に動作していることを確認したり、自宅にいる患者のバイタルサインを監視したりするのに役立つ。
- リモートセンシング・森林管理：TinyMLアルゴリズムは、天候や植生に基づいて、木々が伐採に適した時期や森林火災の発生場所を予測することで、森林管理の課題解決に利用されている。
- 自動車：自動車メーカーは、TinyMLモデルを使って安全機能を改善したり、車両の不具合が重大な問題になる前に修正したり、研究目的で道路上のドライバーの行動に関する情報を収集したりできる。
TinyMLを始めるには
TinyMLは、エッジにあるスマートデバイスを活用したい組織に多くのメリットをもたらす有望な技術だ。TinyMLアプリケーションをサポートするMLフレームワークはいくつかある。代表的なプラットフォームにはTensorFlow、PyTorch Mobile、そしてEdge Impulseがある。
モノのインターネット（IoT）が拡大を続けるなか、多くの企業がスマートデバイスから収集したデータを分析するため、エッジで機械学習を利用する方法を模索している。その結果、精度やセキュリティを損なわずに、このプロセスを効率化できるツールの開発に対する関心が高まっている。
次に読む： AI主導のITSMがIT管理を変革する