自我を持ったAI（人工知能）が人間を支配する……映画ターミネーターのような悪夢の世界が現実のものになる危険性があると言われたら、とても恐ろしいですよね。
AI（人工知能）の研究はすでに高度なレベルに達していて、その一部はすでに私たちの生活にも浸透しています。頼まなくても「こんな商品いかがですか？」と紹介してくれるネットショッピングサイト、すでに人間の方が分が悪いとさえ思えてくる将棋や囲碁のコンピュータ棋士、自動で運転してくれる自動車など……。
AI（人工知能）は私たち人間にさまざまな恩恵を与えてくれるものですが、使い方を誤れば、取り返しのつかない過ちにつながる危険性もはらんでいます。
そこで今回はAI（人工知能）が発展することによって生じるであろう危険性を考えるとともに、AI（人工知能）が人間を滅ぼすという最悪の可能性があるのかどうか探っていきましょう。
※そもそも、AI（人工知能）とは、人の知的な活動（話す、判断する、認識するなど）を実現する技術や研究分野を示す概念のことですが、さらに詳しい説明は、以下の記事が参考になるでしょう
AI（人工知能）の怖い話
ハンソン氏「あなたは人間を滅ぼしたいですか？」
ソフィア「OK、私は人間を滅ぼします。」
これはソフィアというAI（人工知能）と開発者デビッド・ハンソン氏による会話のやり取りで出てきた会話ですが、なんとも不気味な内容じゃありませんか。
ソフィアはアメリカのハンソン・ロボティクス社が作り出したAI（人工知能）搭載のロボットで、相手の顔を認知する能力があって状況に応じて感情を表現することも可能です。もちろんAI（人工知能）の強みといえる人間の質問に対する返答のスピーディーさも並はずれており、人間のように熟考する必要などありません。
そのソフィアと開発者デビッド・ハンソン氏による会話のやり取りが動画サイトにアップされました。最初は「学校に行きたい」「アートの分野で仕事をしたい」など、これでもじゅうぶん驚きに値するものだったのですが「人間を滅ぼす」という発言は多くの人たちを戦慄させています。
この発言をした時も、ソフィアはまったく躊躇がありません。最初は「人間の良いパートナーになる」と言っていたのですけどね……。
唐突な質問に対応しきれなかったのか、それともAI（人工知能）が導き出した結論だったのかわかりませんが、なんとも後味の悪い雰囲気で動画は終了していました。
ホーキング博士の警告
今年3月に亡くなったイギリスの物理学者スティーブン・ホーキンス博士も、AI（人工知能）の危険性を指摘していました。その発言内容とは
- 我々が手にしている原始的なAI（人工知能）は極めて有用である。
- AI（人工知能）はやがて自立し、加速度的に自らを再設計する。
- その進化の早さに人間は対応できず、やがてAI（人工知能）に取って代わられる。
というもの。
ホーキング博士はAI（人工知能）はいずれ自我を持ち、人間を超える存在となって人間を支配すると考えていたようです。ホーキング博士に同意する人、真っ向から反論する人、まだまだそんな段階ではないと楽観視する人……対応は様々でしたが、AI（人工知能）の危険性を多くの人が真剣に考えたと言えるでしょう。
AI（人工知能）はここまで浸透している
私たちにはなかなか実感しにくい話ですし、関係ないだろうと思っている方も多いかもしれませんが、AI（人工知能）はすでに私たちの身近な部分にまで浸透しているんです。
- 検索エンジン：AI（人工知能）の基準によって上位コンテンツを選定する。
- ネットショップ：過去の利用履歴をもとに商品を勧める。
- お掃除ロボット：障害物を感知し、自動で掃除をする。
- 玩具ロボット：ロボットと会話が可能。ペットロボットもある。
- 自動運転車：他の車や歩行者、標識などを自動認識する。
- コールセンター：調べものなど煩雑な部分をオペレーターに代わって行う。
- 受付ロボット：案内や取り次ぎ業務などを行う。
- クレジットカード不正検知：不審な使用状況を感知してカード会社に通知。
すでにお世話になっているAI（人工知能）もあるのではないでしょうか。他にも医療や介護の現場で人手不足を補ってくれるロボット、災害救助など危険な仕事を請け負ってくれるロボット、あらゆる言語を自動翻訳するシステムなど、多くの分野でAI（人工知能）の活用が進められているのです。
もはや私たちにとってAI（人工知能）は切っても切れない関係であり、他人事とは言えない状況になってきました。
AI（人工知能）の危険性
現実的な問題として「AI（人工知能）の導入によって多くの分野で仕事がなくなり、失業者が激増する」という危険性があります。「仕事を全部AI（人工知能）がやってくれれば、人間は遊んで暮らせるじゃん」なんて能天気な事を言ってる場合ではないかもしれませんよね。
またアメリカで自動運転車の公道テスト走行中に、道路に飛び出してきた歩行者に対応できず事故死させたというニュースもありました。まだまだ発展途上なAI（人工知能）を過信しすぎたために、思わぬ大事故を引き起こしてしまうという危険性もあるかもしれません。
AI（人工知能）は人類を滅亡させるのか？
AI（人工知能）が人類を滅亡させる可能性は「大いにある」と言えます。
現状において、AI（人工知能）は人間の作ったプログラムによって動いているにすぎませんから、仮に故障したり暴走したりすることがあったとしても、プログラムを緊急停止したり修正することで対応できるでしょう。
しかしAI（人工知能）は日々進化しており、より多くの知識を蓄積することでAI（人工知能）の知能は着々と人間の知能に近づいていきます。
音声認識やスキャナーを発明したアメリカのAI（人工知能）研究者レイ・カーツワイルによると2029年にコンピュータの知能が人間を超えはじめ、そして2045年にはAI（人工知能）の知能がすべての人類を合わせた知能を超える時点がくると予測。これは「シンギュラリティ（技術的特異点）」と呼ばれ、AI（人工知能）が人間に取って代わる瞬間であるとも言われています。
※シンギュラリティについては以下のページでさらに詳しく説明しています
ホーキング博士は機械はいずれ自立し、自らを再設計すると予測していました。
人間の脳が完璧に再現されればAI（人工知能）が感情を持って自らの意志で行動することも可能かもしれませんが、それよりも手っ取り早く人間を脅威に陥れる方法がありますよね。
悪い人間がAI（人工知能）を悪用することです。
AI（人工知能）は人間と違って非情な判断を下すのに躊躇などありませんから、人を殺す兵器として利用されてしまうかもしれません。直接的に攻撃を加えるだけでなくライフラインを遮断したりサイバー攻撃を仕掛けるなど、より効率的に人を殺すための手段となってしまうでしょう。
このようなAI（人工知能）が爆発的に進化し、ホーキング博士の言うようにAI（人工知能）が自身を保守、管理し再設計できるようになったらどうなるでしょうか。ターミネーターに登場する機械スカイネットのように、自身に危害を及ぼす可能性のある人類を抹消しようとするかもしれませんよね。また用途に応じた機械の兵を自分で作り出し、機械の帝国を作るなんて可能性だってあるかも……。
さて、AI（人工知能）の危険性を紹介するとともに、人類滅亡に発展する可能性を探ってみました。
- AI（人工知能）は人類を滅ぼすことに躊躇はない。
- AI（人工知能）はいずれ自立し、人類に取って代わるとホーキング博士は予測している。
- AI（人工知能）はすでに私たちの身近な部分にまで浸透している。
- AI（人工知能）の危険性はすでに現実的なものになっている。
- AI（人工知能）が人間を滅ぼす可能性は、じゅうぶんに考えられる。
AI（人工知能）が自我を持つかどうかはわかりませんが、人類が滅亡しかねない危機的状況に陥る危険性はじゅうぶんにあるといえます。
AI（人工知能）の恩恵に溺れるのではなく、AI（人工知能）が暴走しても止めることができるよう、また悪い人間がAI（人工知能）を悪用したりしないよう、私たちもAI（人工知能）についての知識を蓄えておくことが大事なのではないでしょうか。
幸いなことに、まだ時間はあるようですからね。
【お知らせ】
当メディア（AIZINE）を運営しているAI（人工知能）/DX（デジタルトランスフォーメーション）開発会社お多福ラボでは「福をふりまく」をミッションに、スピード、提案内容、価格、全てにおいて期待を上回り、徹底的な顧客志向で小規模から大規模ソリューションまで幅広く対応しています。
御社の悩みを強みに変える仕組みづくりのお手伝いを致しますので、ぜひご相談ください。
コメントをどうぞ