勝つのはハッカーか？プログラムか？AIのセキュリティ対決事例7つ

インターネットが当たり前のように生活の中に浸透したことから、インターネットを舞台とした犯罪であるサイバー攻撃も生活の中で身近な出来事となっており、セキュリティ確保が必須となっていますよね。

そして、機械学習をはじめとするAI（人工知能）技術は、世の中のあらゆる分野への適用が始まっており、そのスピードはますます加速し、当然、AI（人工知能）技術もセキュリティの向上のために利用されてきました。

一方、AI（人工知能）技術の普及が進み誰もが使える環境の実用化が進むなか、それを悪用することへの懸念も現実のこととして浮かび上がってきています。

これまでも、セキュリティの確保に関しては、イタチの追いかけっこでしたが、AI（人工知能）技術の普及はこうした状況にどう影響するのでしょう。AI（人工知能）技術の普及によりセキュリティは飛躍的に高まるのでしょうか。

それでは、AI（人工知能）技術のセキュリティ分野での適用状況を事例をまじえてわかりやすくお伝えします。

AI（人工知能）技術を適用したセキュリティ製品
1. 事例1：NAGV製品1－CylancePROTECT
2. 事例2：NAGV製品2－DarkTrace
AIサイバー攻撃
AI（人工知能）の目をくらます
1. 事例7：アドバーサリアル・エグザンプル（Adversarial Examples）」

AI（人工知能）技術を適用したセキュリティ製品

これまでのセキュリティ対策では、パソコンやサーバといった防御対象（エンドポイント）に届いたファイルを既存のマルウェアの情報を登録したパタンファイルやシグネチャと照合することでマルウェアを検出していました。

しかし、この方式では新たに出現するマルウェアを検出できないという欠点があり、こうした欠点を克服する手法NAGV（Next Generation AntiVirus、次世代アンチウイルス）を既存の手法と組合わせて利用され始めたのです。

NAGVとしては、隔離された領域を作ってコードを実行して挙動を観察するサンドボックス、ログなどからシステム稼働状況を解析して侵入を素早く検知して被害拡大を防ぐEDR（Endpoint Detection and Response）などが典型的な手法。

そして、ディープラーニングを中心に機械学習といったAI（人工知能）技術を適用してマルウェアを検出する手法がNAGVとして注目され、製品も続々と登場しています。

事例1：NAGV製品1－CylancePROTECT

そのNAGV製品のCylancePROTECTは、マルウェアおよび非マルウェアのデータを使った機械学習によってマルウェアの特徴を見つけ出し、パターンファイルに頼らないマルウェア検知を実用化。

未知のマルウェアも高い検出率で検出可能です。2017年5月に世界的に大流行のランサムウェアWanncaCryにおいても、同社のユーザーには被害がなかったとのことで有名になりました。

事例2：NAGV製品2－DarkTrace

DarkTraceは、防御対象のネットワークの振る舞いを機械学習することで、ネットワーク固有の正常な状態を把握します。そして、正常状態から逸脱した動作を検知してユーザーに通報。

これにより、マルウェアなどの外部からの攻撃のみならず、組織内での異常なトラフィックも検知可能とする点が特徴です。

AIサイバー攻撃

ここまでは、セキュリティ製品のお話しをしましたが、攻撃側のサイバー攻撃にAI（人工知能）技術を利用されるのではないかと危惧され、実際に攻撃者がAIサイバー攻撃を実行したとの報告はまだありませんが、研究レベルではどのように攻撃側がAI（人工知能）を利用するのかの研究がなされています。

それでは今度は実際の事例を4つご紹介しましょう。

事例3：AIサイバー攻撃1－AI（人工知能）による電話を使ったDoS攻撃

2017年にインドのコールセンターに突然、大量の問い合わせ電話が殺到し、その対応でパンク寸前となりました。

一部の問い合わせ内容があまりにも酷似していることから調査した結果、顧客からの問い合わせを偽装した電話によるDoS攻撃と判明。しかも、音声合成や音声認識の能力を持ったAI（人工知能）がオペレーターと電話をしていたという結論に達したというものでした。

事例4：AIサイバー攻撃2－CAPTCHA システムの回避

次にご紹介するのはCAPTCHA（Completely Automated Public Turing test to tell Computers and Humans Apart）。CAPTCHAは、ボットによる不正アクセスを防ぐためのセキュリティ認証の手法で、最近は、パスワード以外の方法として採用が広がっています。

アメリカのAI企業Vicarious社は、再帰的皮質ネットワーク（Recursive Cortical Network）というAI（人工知能）学習モデルを使って、Google、Yahoo、PayPalなどの最新のCAPTCHAに表示された文字を90％という高い精度で解読したという論文を科学雑誌Scienceに発表しました。すなわち、AI（人工知能）によって、CAPTCHAという認証方法が破られる可能性が高い事を示しているのです。

しかし、CAPTCHA自体をあまりにも複雑化してしまってはユーザーに不便をかけることになりますので、どのようにして強化するかは悩ましいところでしょう。

事例5：AIサイバー攻撃3－フィッシングの精度の向上と範囲の拡大

2016年7月にZeroFoxというセキュリティ企業が、SNAP_RというAI（人工知能）ソフトを使ってポハッシュタグ#PokemonでつぶやくTwitterユーザにメンションを送り返信させるという実験を実施しました。

この実験で約30%のユーザーが一緒に送られたリンク（無害なもの）をクリック。すなわち、AI（人工知能）を使ったフィッシング被害にあう状況をオンラインで実証したのです。SNAP_Rの機能はディープラーニングにより200万件のツイートメッセージで学習して、生成したツイートを本物らしくし、また、特定のハッシュタグでの活発な発言者を探し出してターゲットにする機能を有しています。

事例6：AIサイバー攻撃4－高度な回避型マルウェアの開発

そして最後にご紹介する事例は回避型マルウェア。IBM基礎研究所の研究チームはマルウェア病魚検討のツールとして、ターゲットに被害を及ぼすまで誰からも存在を検知できないようにするマルウェアDeepLockerを開発しました。

DeepLockerは音声認識や顔認識などを利用してターゲットを特定の人物や組織のみに絞り込み、さらに、攻撃を開始するまでは通常のソフトとして振る舞いセキュリティソフトの検知を免れる機能を有します。これによりマルウェアであることを気づかれにくくしているのです。

AI（人工知能）の目をくらます

ところで、ディープラーニング（深層学習）が画像認識を中心に高い精度で注目を集めていますが、これもセキュリティ問題が懸念されています。ディープラーニングで使うデータに手を加えることで誤認識させようとするもの。

その詳しい内容を実例でみていきましょう。

事例7：アドバーサリアル・エグザンプル（Adversarial Examples）」

アドバーサリアル・エグザンプルとは、認識に用いるデータにある種のノイズを加えたりすることで、AI（人工知能）に誤検出させようとするものです。

加工された画像自体を人間が見ても変化に気づきません。しかしディープラーニングのモデルには全く異なる画像に見えてしまい誤認識してしまいます。

また、トレーニングセット・ポイズニング（Training Set Poisoning）という学習時の攻撃手法もあり、これは教師データに正解とは異なるタグを付与した画像データを混入して学習結果を正解とは異なる結果に導くものです。

仮に自動運転中の車に交通標識を誤認識させるようなことがあれば、我々の生活自体に大きな影響が出てしまいます。

ですからGoogleはCleverhansという擬似的なアドバーサリアル・エグザンプル攻撃チェック用の画像データ集により脆弱性を調べるソフトウェアライブラリを公開しました。また、米スタンフォード大学はConvex Relaxationsというアドバーサリアル・エグザンプル攻撃を防ぐ手法を発表しています。