読書メモ - AIの衝撃 人工知能は人類の敵か

読んだきっかけ

自動運転だったり、MicrosoftのTayとか、女子高生AIのりんなとか、何かとAIが話題になっているので、せっかくだということでAIがどんなものなのか知っておこうと思った、というものすごく軽い気持ち。

さらっと読んでみた中で考えたこと、（正しいかは置いておいて）理解したことを書いておこうと思います。稚拙な文章、表現力ですが、そこはご容赦ください。 

雑感

単純に、読み物として面白かったです。本を読むのは比較的遅い方ですが、３時間くらいで読めた感じです。難しい専門用語が並ぶわけでもなく、技術的な内容の説明も多いわけではなく読みやすかったです。ディープラーニングというコアの仕組みについては直感的にわかりやすく簡略化されて説明されて、具体例も多く書かれていた（全体の半分くらいはそうだったかも）ので、イメージを掴むには十分だったと思います。この本を読んでディープラーニングに興味が湧いたので、他の機械学習関連の本も読んで見たいと思います。

では早速本題に。

AIとはどんなものか？

AIと聞いてイメージするのはどんなものでしょうか？真っ先に思い浮かぶのはやはりSF映画でですね。まず出てきたのがターミネーターです。そしてアイ、ロボット。これを初めて見た時は、幼いながらかなりの衝撃を受けました。見た目こそ機械ですが、完全い意思をもった生命体で人類と遜色なく描かれているわけですからね。SFとは知りつつも、なんとも言えない恐怖感を覚えました。

あと最近で言えばトランセンデンスですね。素人から見ると、こんなこと実際あり得るの？と思いつつも、最近のニュースなどを見ているとそのうち現実になるんじゃなきあ？とも思ってします。そういえばMetal Gearシリーズに出てママルポッドなんかもそうでしたね。

じゃぁ実際のAIってどんなものなのか？というと、

『この場合にはこうなる』

『あの場合にはあんなふうになる』

といった条件を全て、研究者が手作業で覚えさせていたようです。そう、私たちがメールソフトの仕分けルールを設定しているのと何ら変わりません。人間が決めたルールに従って、自動でYes/Noを判断するだけのもので、我々のイメージするAIとは全然違いますね。

ですが、実はこの考え方が今の高度なAIのもとになっているのです。ルールの精度をどんどん高めていくことで、より人間らしい判断ができるようになってきます。でも機械が自分でルールを改善していくって、どういうこと？と思いますが、それが最近よく聞く深層学習（ディープラーニング）と呼ばれるもので実現されているそうです。未知の問題に対して出した答えが正しければ、今のルールの信頼性は上がりますが、もし間違っていれば、どこかのルールが違うということになります。そこで、問題に対応した後で、このルールが正しかったのかを検証する、遠いうプロセスを行うことで、間違っていた場合には正しくなるように修正していきます（実際には、内部の変数を調整することで整合性を保てるようにしているらしい）。このようにどんどん精度を上げていくことで、ちょうど人間が成長するに従って知識を得て、（必ずしもそうとは限らないが）正しい判断ができるようになっていくのと同じように、機械も学習していくのです。

そう考えると、なんだか人間ものすごく無機質なものなのかな、と感じてしまいました。

シンギュラリティ（特異点）とは

仮に、機会が人間と同じように学習して成長できるとすると、将来的に人間を超えてた知性を身につけてしまうかもしれない、という心配が出てきます。そのタイミングのこ後、シンギュラリティと呼んでいます。

人間が考えて作ってるんだからそれ以上のものなんてできっこない！と思う一方で、寿命がなく処理速度も速いコンピュータの方に分があるとも考えられます。（素人目線でで恐縮です。）将棋や囲碁、クイズではすでにコンピュータのほうが優っているという見解が示されていましたが（一般的にもそう解釈されていると思いますが）、これらは特定の絞られた領域での話ですから、総合的に見るとどうなんでしょうか？ありえない話ではないと思います。

特異点に到達したら人はどうなるか？

SF映画などでは、人は害悪と判断されて機械に淘汰されてしまう、というストーリーも描かれていたりして、とても恐ろしいですね。ですが、そうではなく、その時には人は新しい活躍領域を見つけるのでは、と書かれています。

この可能性は十分あると思っています。というのも、（勝手な想像ですが）我々が自覚できていないだけで、脳は膨大な量の情報を処理しています。閾下知覚と呼ばれているもので、サブリミナル効果としてよく知られています。で、機会がこれまで人間が行ってきた思考や判断を肩代わりしてくれるのであれば、その負荷が減った分だけ閾を下がってくることはないかな？と思っています。つまり、人は潜在能力の大部分を（処理能力の問題で）閾下に抑え込んでいるだけで、これを開放すれば空を飛んだりテレポーテーションができたり、、、、ということはないかもしれませんが、実はまだ隠された能力を秘めているのかもしれない、と期待を込めて考えています。

避けて通れない問題

最近の自動運転の話題でも取り上げられていますが、以下の場合にAIはどう判断するべきでしょうか？

• 自動運転中、子供が飛び出してきた。しかしブレーキをかけても間に合わない。
• 左の歩道には数人の歩行者がいる。
• 右の反対車線には、大型トラックが走ってきている。

飛び出すのは悪いですが、子供なので仕方ないかもしれません。かといって歩道に突っ込めば複数人の関係ない人の命が犠牲になりかねません。では反対車線に回避できるかといえば、おそらくトラックにぶつかって搭乗者は助かりません。フレーム問題と呼ばれているようです。
難しい問題です。まだ統一見解も出ていないようです。

残る疑問

AIがどんなものかはなんとなくわかりましたが、残る疑問があります。それは、意識がどのように生まれるのか、ということ。AIの進歩によって、自然発生的に機械が意思を持つことはないだろう、という見解が示されていました（と理解しました）。自分もそうだと感じていますが、では自分という意思はどこに宿っていて、どのように発生したのか。ものすごく不思議です。（おそらく一度はみなさん考えたことがあるんじゃないでしょうか？）