ミン・スン
投稿日: 2019年9月4日

AI システムのセキュリティ対策は AI 自ら行うのが最適な理由

今日の AI では、画像認識や自然言語処理の分野におけるディープラーニングの研究が注目されています。しかしながら、全ての新しいテクノロジーが開発されるときはいつもそうですが、AI も例外になく、セキュリティ関連が問題視されます。最新テクノロジーはビジネスの在り方や私たちの働き方を革新してくれますが、一方でセキュリティ面で間違いが起こらないようにする必要があります。

幸いなことに、テクノロジーがテクノロジーをセキュリティー面で強固にする鍵を握っています。

AI の強みが、
AI のリスクになり得る理由

どのソフトウェアシステムであってもセキュリティに関して心配されるのはいつものことで、AI に関してもそれは変わりません。さらにAI の場合、よりセキュリティが求められる2つの要素があります。

要素の1つに、AI のもつパワーがあります。AI システムは人間の生産性を上げるために開発されてきました。特に反復作業では、人間よりもはるかに効率的にこなしてくれます。しかし、間違った方向性でシステムを扱ってしまうと、世の中にメリットをもたらさない生産性が向上されてしまいます。AI の測り知れないパワーは強みでもありますが、間違った使用がされた場合は危険なものとなり得ます。

この危険は、AI が普及するにつれて拡大します。将来的に AI システムは、業界を問わず広く普及する見込みで、本来の目的で使用されず、間違った方向で使用されてしまうという潜在的なリスクも広がっていくことになります。

2つ目の危険要素は、AI はデータに依存していることです。大半の AI システムはデータ駆動型で、意思決定のために必ずデータを必要とします。つまり悪用する場合、AI システムを制御する必要はなく、代わりにデータ操作を行うだけで、それが可能となってしまうのです。データ源が危険に晒されることを想定したデータのバックアップはとても重要です。

セキュリティ脅威の新時代
– 2種類の攻撃

では、データ攻撃はどのような手段で行われるのでしょうか?
ブラックボックスとホワイトボックスの2種類の攻撃が挙げられます。

ブラックボックス攻撃とは、ハッカーは AI システムの情報を知らないので、システム内のデータを収集しようとします。おおよそ 1,000 ものデータの入力と出力の関係性を観察し、ここでのサンプルをベースに、システム内にあるデータを推測して攻撃を仕掛けてきます。AI システムから収集できるデータが多いほど、攻撃の成功率が上がります。ブラックボックス攻撃は、攻撃者が選択できるサンプルが多くて、実行時間が長いシステムが狙われ易くなります。

ホワイトボックス攻撃とは、ハッカーは既にシステム内の構成(パラメータなど)を把握しており、システムを停止させるのに必要なデータ変更を行います。この方法は、ブラックボックス攻撃より成功率がはるかに高いでのですが、システムの概要を理解する必要があるため簡単ではありません。概要を把握できなければ、データの操作を始めることもできないからです。ブラックボックス攻撃よりもホワイトボックス攻撃は、持続的かつ長期的により大きなダメージを与えられてしまいます。

また、ハッカーは非常に迅速にシステムをハッキングしてから、システム全体をコピーすることもできます。ハッキング時にシステムを直接制御しませんが、ハッカーは使用可能なシステムのコピーを入手しているため、ホワイトボックス攻撃が可能となってしまいます。

AIによる救助

ハッカー攻撃を恐れる中にも、クラウドの銀の裏地があり、AI システムを AI 自ら保護することができます。

機械学習を使用して過去の攻撃を学習することにより、攻撃が差し迫ったときにシステムが動作をどのように変化させるかを予測できます。特定の警告があれば、システムをシャットダウンするモデルをつくります。人間がこれらの警告の兆候をチェックするよりもはるかに効率的です。必要なのは、まず十分なトレーニングのためのデータを収集することです。

問題は新しいタイプの攻撃が常に作成されていることです。この場合、システムが何を探すべきか判らないため、機械学習は機能しません。しかし近い将来、何か得策が見つかるかもしれません。というのは、システム内の脆弱性の存在確認をするための、AIトレーニングに関する研究が進んでいるからです。これは加工のデータを学習して、システムに注意すべきことを教えるよりもはるかに積極的なアプローチです。

現在、人間が AI による作業範囲を定義して、システム内の脆弱性を確認するテストが行われています。この学習は過去データを収集するよりもはるかに困難です。なぜなら、この作業は広範囲で行うこととなり、とても複雑なものだからです。しかし将来的には、 AI のすべての利点を活用し、この学習を完全に自動化してコストを最小限に抑えながら、効率と生産性の向上が期待されます。

AI の危険性を考えると、映画の ターミネータなどを思い浮かべる人がいるかもしれません。しかし現在のAI 技術は、映画の世界にまで追いつておらず、AI の利点はそのリスクに比べはるかに大きいのです。

AI を使用する人々や企業は、セキュリティに関して注意しなくてはなりません。すべてのソフトウェアと同様に、潜在的な脆弱性を改善するために、AI システムを常に最新の状態に保つことをお勧めします。また、システムの脆弱性をテストして、システムの障害を防ぐために必要なデータの変更量を確認する必要があります。理想的にはシステムが、変更が必要なデータを検出できるようにして、プロアクティブにシャットダウンしたり、バックアップシステムに切り替えたりできるようにするのです。

コンピュータシステムがより複雑になるにつれ、人間がシステム内のセキュリティの脆弱性を見つけることが難しくなります。世界最高技術をもつ人間のハッカーは、非常に複雑なシステムをハッキングすることはできませんが、それはシステムが完璧であることを意味しません。そのため、AI を活用して脆弱性を積極的に調査し、さらにニーズに応える頑強なシステムをつくる必要があります。