機械学習ここにあり – 賢く使う

人工知能（AI）の一部である機械学習（ML）は、医療診断、画像処理、分類、予測、リグレッションテストなど、様々な用途ですでに効果的に活用されています。MLの利用について考えるとき、主に2つのリスク領域があります。ML利用のセキュリティ、そして学習成果の妥当性が損なわれることです。

図1：産業用モノのインターネット（IIoT）には多くの相互接続がありますが、システムに組み込まれた機械学習によってそれらをさらに効率的に管理できます。（画像提供：SlideShare.net）

AIのセキュリティ攻撃は以前からありますが、より巧妙になり続けています。攻撃可能面、つまり不正なユーザーがこっそりとデータを入力または抽出できる多くの箇所が悪用される可能性があります。さらに、入力データ、アルゴリズム設計、および出力決定の3つの領域には脆弱性のリスクがあります。

機械学習では、大量のデータにアクセスし、そこから人には成し遂げられないレベルの学習を行うことで、最も効果的な成果を上げられます。攻撃には、「バックドア」の作成と悪意的なペイロードまたはトリガの挿入によって巧妙に仕掛けられた、熟練度の高い攻撃のモデルがあります。この分野のAIでは、アルゴリズムが複雑で予測が難しく、標準や規制の対象に含まれず、専門的なデータに基づいているため、改ざんを検出するのがさらに困難になります。

セキュリティの他にもリスクの領域があります。機械学習モデルは人間が作成するので、モデルに含まれ得る偏り（バイアス）の影響を受けます。データバイアスは危険であり、慎重に対処する必要があります。バイアスの対処は、機械学習のリスクを管理する上で非常に大きな部分を占めます。

さらにリスクには、不十分なデータと、良好または適切なデータの存在が関連します。最適な出力を得るための最良の入力を見つける際に十分なデータポイントをともなう変動データがないと、それは大きな問題になる場合があります。機械学習モデルを構成するデータは、データ型、タイムフレーム、その他の形式の変動性にわたって多様性が必要です。

さらに、出力の解釈という要素があります。そこには出力の誤解釈の可能性があります。モデルでは推測とガイダンスが提供されますが、解釈から価値を生じさせるには、モデルがどのように構築されたか、どのような仮定が行われたか、出力から何がわかるかを考慮することが重要です。

問題が起こり得る次のようなケースがすでに存在します。

• アルゴリズムが、2016年のBrexit国民投票の際に英国ポンドが2分間で6%下落した原因とされている。
• 全米の刑事裁判システムで再犯率（常習的犯行率）予測に使用されているアルゴリズムは、人種的に偏りがある。
• 磁気共鳴機能画像法（fMRI）で誤りのある統計的想定とバグが発覚し、多くの脳研究の結果に疑念が生じている。
• 2017年にビットコインの価格が急騰したとき、ハッカーはGoogleクラウドインスタンスを無料で使用してマイニングを行った。折しもGoogle CloudインスタンスにはGoogle Cloudの異常検出システムが使われていて、クライアントはセキュリティ侵害の警告を受けた。

機械学習システムは難しい問題を解決します。実際には、セキュリティの面で悪影響を受ける可能性があり、また精度レベルは使用される技術およびその技術を利用した効果的なアプリケーションの増加の歩みの影響を受けることでしょう。

機械学習の最近の進歩

STMicroelectronicsは先ごろ、同社のSTM32G4に対応する初の機械学習アプリケーションを発表しました。このアプリは、同社のパートナーであり機械学習STパートナープログラムメンバーでもあるCartesiamによるものです。STはSTM32Cube.AIを投入しており、これにより開発者は、データを収集してPC上のニューラルネットワーク学習フレームワークで処理する前に、ウォーキング、ランニング、スイミングなどの特定のアクティビティを認識するようにニューラルネットワークに簡単に学習させることができます。次に出力がコードに変換されることで、STM32 MCUがアクティビティを認識できるようになります。

図2：写真はSTMicroelectronicsのSensorTile評価ボードです。（画像提供：STMicroelectronics）

CartesiamのNanoEdge AIは、STM32マイクロコントローラで学習フェーズを実行します。エンジニアは、特定の状況に合わせて十分学習済みのモデルを作成できなくても、機械学習を使用してスマートなソリューションを実現したいときにこのソリューションを活用できます。学習フェーズはMCUで実行され、目的の環境内のデバイスの通常動作を学習した後、同じMCUで推論を実行し動作の異常を検出、報告します。

NanoEdge AIでは、開発者がローカルのAI学習および分析機能を、STM32 MCU向けに最適化されたCコードに簡単に統合できます。デモでは、Cartesiamが、同社の機械学習ライブラリによってSTMのSensorTileモジュール、SensorTile評価ボード（図2）が使用され、振動解析を通じてBLDCモータの挙動が学習されてから、組み込みSTM32L4 MCUにより異常が検出、報告される仕組みを示しています。

機械学習のコアは、STMicroelectronicsの高機能センサ、たとえばLSM6DSOX iNEMOなどにも使われています。このコアは、有限ステートマシン（FSM）および高度なデジタル機能との組み合わせにより、超低電力状態から高性能、高精度のAI機能に移行する能力を、バッテリ駆動のIoT、ゲーム、ウェアラブル、民生用電子機器などにもたらします。標準的なOS要件をサポートすることで、LSM6DSOXは、動的データバッチ処理に利用可能な9KBのRAMを備えた実センサ、仮想センサ、バッチセンサを提供します。

人工知能と機械学習はあらゆる形で驚異的な能力を示し続けていますが、その活用を引き続き促進するのは、新たなアプリケーション、出力の強度、セキュリティ維持能力の相乗的な効果だと言えましょう。