AI(人工知能)と聞くと、これからの時代には欠かせないであろうテクノロジーであり、なんでもできる万能選手、というイメージがわきますよね。
私にとってのAI(人工知能)ちゃんのイメージは、お掃除ロボットやハイエンド冷蔵庫に搭載されているわ、囲碁はめちゃくちゃ上手だわ、アレクサやSiriは賢いわ、身近な例をだけを見てもジャンルは多岐にわたっていて、なんでもできるすごい子!
しかし同時に、AI(人工知能)は今までにないテクノロジーであるだけに、さまざまな問題点を抱えています。とはいっても、
問題点っていっても、何となく「よくわからないから怖いかも」とか、「乗っ取られそう」とか…?
と考える人が多いでしょう。
そこでこの記事では、AI(人工知能)の問題点を整理し、7つのテーマに分けてご紹介します。こちらを読むことで、AI(人工知能)が抱えている問題点が分かり、「何となく怖いもの」から、「対策可能なもの」へとなるでしょう。まずは、私たちに身近な「お仕事」の問題です。
AI(人工知能)によって人間が職を奪われる
AI(人工知能)が抱える問題点の1つ目は、AI(人工知能)によって仕事が奪われてしまうということです。オックスフォード大学の論文で「人間がやっている仕事のうち、約半数がAI(人工知能)によって代替できる」と発表され、話題になりましたよね。
もちろん、AI(人工知能)が得意なことに関しては人間は勝負になりませんから、ある程度は代替されてしまいます。
このように、新しいテクノロジーは、新たな職業も創出するため、この問題点はそこまで大騒ぎするほどのものではないかもしれません。
AI(人工知能)によって仕事がなくなることに関しては、こちらの記事にまとめられています。
AI(人工知能)がやらかしたら、誰の責任?過失責任問題
AI(人工知能)が抱える問題点2つめは、AI(人工知能)を搭載した機器で何らかの不具合が起こり、それによって事故が引き起こされた場合、”誰が”責任を取るのかという問題です。
例えばAI(人工知能)を搭載した車を運転していて、ブレーキに不具合が起こり、人をケガさせてしまった場合、誰が責任を取るのでしょうか。AI(人工知能)を開発した企業?ブレーキ部品を作った工場?それらを搭載した自動車メーカー?それとも運転手?これは非常に難しい問題ですよね。
AI(人工知能)自身には人格はないために、責任を取れません。かといって、被害者がいるのですから、誰も責任を取らないわけにもいきません。
このように、AI(人工知能)の開発速度が速すぎて法整備が追いついていないため、特に車の運転や医療現場などの命に係わる場面で、「誰が責任を負うのか」という問題が浮上するでしょう。
人間の価値をAI(人工知能)が決める?トロッコ問題
AI(人工知能)が抱える問題点3つめは、トロッコ問題です。トロッコ問題とは、有名な倫理学の思考実験のことで、例えば次のような場面があったとしましょう。
線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。この時たまたまA氏は線路の分岐器のすぐ側にいた。A氏がトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか?
私たち人間なら、とても迷う場面ですよね。
普通に考えたら、分岐器を操作して、5人を助けるべきなのかな?そうすると、B氏は死んじゃう…。でもまず何と言っても、自分がこの6人の命の行方を操作するっていうのが怖いし嫌だー!!
倫理や道徳を取っ払って損得勘定だけで考えれば、分岐器を操作し、5人を助けてB氏には犠牲になってもらうのが合理的と言えます。実際にAI(人工知能)はそう判断するでしょう。
しかしここにも、大きな問題があります。そのB氏が「価値のある人」だったとしたらどうでしょうか。例えば、「私、失敗しないので」が口癖でいくつもの命を救ってきた高名な女医だったら?多くのアイデアでさまざまな発明をし社会に貢献した人だったら?無限の可能性のある若き東大生だったら?
5人それぞれの「価値」を足した合計値と、B氏の「価値」を比べた時にB氏のほうが勝っていたら、AI(人工知能)は5人を犠牲にしてB氏の命を優先するかもしれません。合理性を考えればその通りですが、その冷酷すぎる判断を受け入れられる心の準備が、私たちにはありません。
AI(人工知能)なら、それこそお得意の頭の良さで、この問題点を一瞬で解決し、6人全員を助けてくれないかな。
トロッコだと少し現実離れしていて想像しづらいですが、例えば私が車の自動運転中、何らかのトラブルで人を轢きそうになった場合、
- そのまま轢けば運転手は助かるが、そこで轢かれてしまう人物は、どんな手術も失敗しない女医さん…!
- ハンドルを切れば女医は助かるが、その先には電柱があり、運転手が犠牲に…。
という二択をAI(人工知能)が迫られた場合、静岡の片田舎に住む平凡な主婦である私の命は軽んじられ、失敗しない女医の命が優先されるかもしれません。
AI(人工知能)に感情がないからこそできる芸当だけれど、色々ともやもやするし、この問題点って解決のすべがあるのかな…?
どうしてその結論に?あなたの考えていることが分からないの
AI(人工知能)が抱える問題点4つめは、AI(人工知能)の思考回路がブラックボックス化しているということです。AI(人工知能)は難しい問題の解答を一瞬で出せますが、どういう過程でその結論に至ったのか、途中式を見せてはくれません。
実際に指してみればなるほど、終盤で良いにらみとして利いたぞ、となりますが、やはりそこへ至った経緯が知りたいですよね。
理由の説明もなく結論だけをAI(人工知能)に押し付けられても、AI(人工知能)を信じ切ることができないかも。将棋ならともかく、進路の決定や治療方法の方向性など、やり直しの利かない場面だったらなおさら…。
AI(人工知能)は私たちのすべてを知っている
AI(人工知能)が抱える問題点5つめは、私たちのプライバシーに関わる問題です。すでにAI(人工知能)によって、私たちのオンライン上の動きはほぼ監視されているといってもいいでしょう。
これは便利ですが、同時にAI(人工知能)は私たちが買ったものや、スマホを持って訪れた場所を知っているということになります。
私のおたく感満載の買い物履歴や、100円ショップばかり行っているのが、AI(人工知能)に筒抜け!
つまりプライバシーに関わる情報をどこまで集めて良いのか、AI(人工知能)がどこまで利用してよいのかは、これからの問題点となるでしょう。
来るの来ないのどっちなの?シンギュラリティ(技術的特異点)問題
AI(人工知能)が抱える問題点6つめは、シンギュラリティ問題。シンギュラリティとは、さっくり言うと、「AI(人工知能)が人間を超えちゃって、なんか色々ヤバいかもしれない瞬間」です。ある博士によって、2045年にその時が来ると予言されています。
そう言われて想像するのは、SF映画内で、暴走したAI(人工知能)が人間を支配する、というストーリーでしょう。
フィクションの中でいったい何回、人類はAI(人工知能)に支配されてんだよと思うくらい、AI(人工知能)をテーマにしたSFは、すーぐ人間を乗っ取りますよね(笑)
人間が支配されるだの滅亡してしまうだのはさすがに極端ですが、「なんか色々ヤバいかもしれない瞬間」の「ヤバさ」は、今のAI(人工知能)開発の状況でしたら、まだ私たちでコントロールできます。この問題点は、今から考えておく必要があるでしょう。
シンギュラリティについては、こちらの記事が参考になります。
やっぱそうなっちゃうよね…軍事利用の危険性
AI(人工知能)の問題点7つ、最後の問題点は軍事利用の危険性です。
人間同士が血を流しあうより、AI(人工知能)同士が機関銃を打ち合うなら、それはそれでいいような気もしてしまいますが、人間の戦闘員や民間人を間違って攻撃しないとも限りません。そんな小競り合いの中で、AI(人工知能)の不具合がキッカケとなり、本格的な戦争が始まる可能性もあります。
これは怖い。悪用しようと思えば、いくらでもできちゃいそう…。
さて、AI(人工知能)の問題点を7つご紹介しました。今回の内容をざっとおさらいしてみましょう。
- 人間が失職する可能性
- 過失責任は誰が取るのか
- トロッコ問題
- 思考回路がブラックボックス
- 筒抜けのプライバシー
- シンギュラリティ(技術的特異点)問題
- 軍事利用の危険性
AI(人工知能)はさまざまな問題点を抱えながらも急速に発展し、あっという間に私たちの身近な存在となりました。だからこそ、法律や社会の構造、そして私たちの感情が追いつかず、「便利だけれどなんとなく怖い存在」という位置づけになってしまっています。
なので、ここで改めてAI(人工知能)の問題点を整理し、「何が怖いのか」「どう対策をとるべきなのか」を考え、AI(人工知能)と上手に付き合っていきたいですよね。
【お知らせ】
当メディア(AIZINE)を運営しているAI(人工知能)/DX(デジタルトランスフォーメーション)開発会社お多福ラボでは「福をふりまく」をミッションに、スピード、提案内容、価格、全てにおいて期待を上回り、徹底的な顧客志向で小規模から大規模ソリューションまで幅広く対応しています。
御社の悩みを強みに変える仕組みづくりのお手伝いを致しますので、ぜひご相談ください。
コメントをどうぞ
AIはクルマのようなもので、クルマ社会に課題があるのと同じだと思っています。便利さはリクスとトレードオフなところもあるので教習所さながら教育は必要だと思います。
コメント、ありがとうございます。たしかに、便利さとリスクのバランスは難しい問題ですよね。AIそのものや、AIを扱う人のための「教習所」のようなものが、確かに必要かもしれません。
× にらみとして効いた
○ にらみとして利いた
// 「働く」「機能する」の意味では「利く」を使います。
△ やり直しの効かない
○ やり直しの利かない
// 「可能である」の意味では「利く」を使うのが普通です。
通りがかりさん、ご指摘ありがとうございます!確かにそうですね。修正いたしました。