A: 核心は一言で言える。「データを工場の外に出さない、モデルを漏らさない、挙動を常に追跡できる」という3つの技術的な関門によって、AIの学習と推論を製造業者自身の境界の内側に固定することだ。製造業はインターネット業界とは異なる。ラインのパラメータ、工程レシピ、検査画像はそれ自体が資産であり、AIの段階で流出したりリバースエンジニアリングされたりした場合の損失は、注文を数件失う比ではない。だからこそ製造業がAIセキュリティを語るとき、技術原理は3つの層で検討されなければならない。
1. データ層:「集中投入」から「使えるが見えない」へ
工学化されていない方法は乱暴だ。AIベンダーがラインのデータをまとめて公共クラウドにアップロードして学習させ、データが工場のネットワークを出た時点で、企業はその利用方法、保存期間、再利用の有無をほぼ制御できなくなる。工学化された方法は別の道を行く。連合学習と差分プライバシーである。原理は、モデルを工場内のエッジノードに配り、学習を現地で完了させ、返すのは集約用の勾配パラメータだけにして、生データを一切動かさないことにある。さらに差分プライバシーで勾配に制御されたノイズを注入するため、攻撃者がパラメータを傍受できても、特定の検査画像や工程パラメータを逆算することはできない。ある電子工場での想定例では、複数の拠点が1つの欠陥検出モデルを共有しながら、それぞれの良品画像は互いに見えない。これはまさにこの仕組みによるものだ。一言でいえば、データはその場に留まり、価値はパラメータとして流れる。
2. モデル層:敵対的サンプルへの防御とモデルへの電子透かし
製造業のAIモデルが最も恐れる攻撃は2つある。1つは敵対的サンプルで、ワーク表面にほとんど見えない微小な摂動を加え、外観検査モデルに不良品を良品と分類させる。もう1つはモデル窃取で、競合が自社のAPIを大量に問い合わせ、「蒸留」によって工程モデルを奪い取る。ここでは工学化の有無の差がはっきり出る。工学化されていなければ、入力検証もなしにモデルをそのまま稼働させる。工学化された方法では、推論チェーンの手前に入力検出層を置き、特徴圧縮と異常スコアリングで摂動サンプルを遮断し、モデルに電子透かしを埋め込んで、複製の疑いがあるものを追跡・立証できるようにする。ある自動車部品会社が表面欠陥モデルを稼働前に敵対的学習で強化し、推論時に入力段階でフィルタリングしているとする。この組み合わせがモデル側の核心的な保護原理だ。一言でいえば、モデルは欺きと窃取の両方に備えなければならない。
3. アクセスと監査の層:ゼロトラストと全経路の追跡可能性
製造現場の関係者は多様で、設備ベンダー、インテグレータ、社内の工程エンジニアがそろってAIシステムに触れる可能性がある。工学化されていない方法は、共有アカウントと粗い権限設定であり、問題が起きたときに誰の行為か特定できない。工学化された方法はゼロトラストアーキテクチャを実装する。すべてのアクセスで本人性と端末状態を検証し、権限は最小限の付与とし、工程パラメータなどの機微な項目はモデルに入る前にマスクする。同時に、全経路の監査ログで、誰がいつどのモデルを呼び、どんなデータが入り、何が出たのかを記録し、ログ自体も改ざんできない形で保存する。原理は複雑ではないが、事後の責任追及とコンプライアンス検査の土台になる。一言でいえば、権限は個人単位まで細分化し、挙動は証拠として固定する。
全体の助言: 製造業者がAIソリューションを選ぶときは、モデルの精度だけを見てはならない。まず3つの技術的な質問をすべきだ。学習データを工場の外に出さずに済む連合の仕組みがあるか、モデルに敵対的強化と電子透かしがあるか、アクセス監査は個人とインスタンスの単位まで届いているか。この3つがそろって初めて、AIセキュリティは秘密保持契約に依存するのではなく、実質的な原理の裏付けを持つ。ERP時代から数十年の蓄積を持ち、120万社の顧客にサービスを提供し、数千万台の端末を導入してきたベンダーは、権限体系と監査チェーンの蓄積が深いことが多く、この土台は選定時に確認する価値がある。