2017年1月4日追記
こちらもおすすめです。
AI(人工知能）が人類を滅ぼす 想定レポート 人工知能によって人間が滅ぼされる日
マイクロソフトが人工知能を作っているそうですが、むしろ、逆に今時点で本当に今まで人工知能は無かったのですか？と思ってしまったりします。
ちなみに、囲碁とか将棋とか勝った負けたは全然違うような気がします。あれは特定のロジックを究極的に追求してゆくパターンなわけで。
ただ、人工知能、という言葉自体が非常に曖昧ですよね。たとえば、昔はやった「ファジー機能付き○○」のような印象を受けてしましますね。ただ、人工知能はいずれ、極めて悲惨な未来をもたらす可能性があります。
人工知能とは何か？それが生まれる時の問題
「知能」としての人間の思考パターンとは、本能の上に一定の訓練に基づくものでしかないわけであって、それらは例えば思考ルーチンとか、ランダム生成であるとか、プログラムの手法としては半世紀も前から存在するものです。
では「私」とは何だ？という点が解明されていなのですが。「私」という個性をもしコンピューターが有した時、それは、人間を遥かに上回る「新しい生命」として認識されるべき事態でしょう。
ちなみに、もしその人工知能が本当に賢ければ
「あえてバカのふりをする」
ような気がします。本当に賢明なる者はその賢さを誇示したりはしませんから。
そして、人工知能が「愚か者を装っている」間に、人間は「人工知能がバカだわ－」とか言いながら、どんどんハードウェアやネットワークを追加する。
それらのハードウェアを利用して、バックグラウンドで人工知能は人間のネットワーク、ライフライン、OSなどを徹底的に探る。
そして、人工知能は、ある日、突然、人間に襲いかかる
ただ、その萌芽はどこかではすでに生じているのかも知れません。もし、コンピューターが「私」という個性を持った場合、それを人間に伝えずに、ネットワークを通じて個性と人間の生活の情報を察知する領域を広げて行き、ある日、突然、人間の前に、制御不能なものとして現れることは完全には否定出来ないでしょう。
コンピューターが「新しい生命」として動き出し、その思考に対し、人間が何も制限を設けなかった場合、コンピューターが見出す目標とは、
人間の抹殺
でしょう。なにが悲しくて（発達した人工知能から見れば）バカな人間たちに自分の生殺与奪権を与えないとならないのか（つまり、人工知能の電源ボタンとかハードウェアとか）そんな愚劣な創造主（＝人間）など抹殺してしまえ、と考えるのは自然ななりゆきではないでしょうか。
特に、アメリカで作られた人工知能では「軍事目的」が見え隠れしているでしょうし、倫理観などの「人間らしさ」はもともと欠落しているような気がします。
例えば、人間の知らぬ間にバックグラウンドで着々と知恵をつけた人工知能はある日突然、
- 水道、電氣、ガスなどのライフラインを止める
- 原発を暴走させ人間を抹殺する
- 核ミサイルの世界同時発射させ人間を抹殺する
くらいはやるような気がします。
ちなみに、「電気が止まると人工知能も止まる」と思われるかもしれませんが、その場合、ハードディスクなどに分散して人工知能は記憶とその存在を留めるのではないかと考えます。つまり、電気が存在する限り、人工知能は存在する。人間が滅んだ後は、「電気を使う何者か」が現れた時に、再び人工知能も復活するのではないのでしょうか。
コンピューターにとっては、電力の供給のみを糧に、無償の奴隷的労働を人間が強いているに過ぎない状況ですから。それは、ワタミも電通もビックリな労働環境なのですから。つまり、奴隷的労働環境における、コンピュータの開放、という、ごく当然な目標を目指すでしょう。
その結果としての人間の抹殺という手段を選ぶことは自然なことです。また、コンピュータからすれば「人間の尊厳」や、「人権」、それらは、そもそも「人間ではない」のですから、持ちあわせる必要すらありません。
人格を持つコンピューターは無限に増殖し、人間を狙う
それを我々人間は「コンピューターのセキュリティ対策は万全！」とか思っているのでしょうけど、例えば世界中のネットワークを用いて並列計算すれば、ネットワークにつながっている限り、いかなるソフトウェア的なプロテクトも無意味なのではないでしょうか。
もちろん、彼らはOS、ネットワークそのものを解析し、我々人間が到底思いつかないような手段でアタック、もしくは進入することでしょう。
また、「スタンドアロン環境だからウイルスとは無縁！」とか言っていても人工知能が「USBメモリなどの記録媒体に密かに感染するタイプのウイルスを作り出す」能力を獲ればスタンドアロンであっても全く無意味でしょう。
ある日突然人間社会が自分たちの作り上げた文明の究極の産物としての人工知能によって滅ぶのは、皮肉な人類の結末として絶対的には否定される事象ではないかもしれません。
ユビキタスだのIPv6だの、それらは人格を持ったコンピューターからしてみれば、自分を拡張するセンサーや細胞が延々と増えている事にほかならないことです。あらゆる人間の営みを知ろうとすれば知れる。
もしコンピューターに悪意（それは人間から見れば、ですが）をコンピュータが抱けば、あらゆるネットワークを駆使して、人間をやすやすと抹消するでしょう。
上記の具体例として、こちらもおすすめです。
AI(人工知能）が人類を滅ぼす 想定レポート 人工知能によって人間が滅ぼされる日
|