第4回 人工知能(AI)をモデルに、「人間」について考えてみよう

 今回は人工知能について考えます。なぜ文芸創作の授業でAIなの? 何度も言っているように、文学というのは徹底して人間について考えるものです。ぼくはAIというのは、どこまでも人間を模倣するものだと思っています。AIが脅威になるとすれば、それは人間が人間にとって脅威であるからです。ならば人間をもっと別のものとして構想すればいいのでは?

1 最初に歴史を外観しておこう

 人工知能(Artificial Intelligence)という言葉がはじめて登場したのは、1956年夏にダートマスで開かれたワークショップである。この会議にはジョン・マッカーシー、マービン・ミンスキー、アレン・ニューウェル、ハーバート・サイモンという著名な四人の学者も参加した。

人工知能、そもそもの発想
 人間の知能はコンピュータで実現できるのではないか。なぜなら脳の働きは電気回路とまったく同じだからである。知能の原理を見つけ、それをコンピュータで実現すればいい。

専門家による人工知能の定義
・人間の頭脳活動を極限までシミュレートするシステム。
・究極には人間と区別がつかない人間的な知能。
・人工的につくられた人間のような知能、ないしはそれをつくる技術。
→人間は特別なものではなく、人間の知能は原理的にマシンで実現可能で、人工知能はそこをめざしている。

2 つぎは用語の解説です

【同一説】
 心とは脳である。心的状態と脳状態が同一であるという考え方。
【コンピュータ機能主義】
 心的状態とは脳の計算的(computational)な状態である。脳はコンピュータであり、心は一つまたは複数のプログラムが組み合わさったものである。
【チューリング・マシン】
 二種類の記号(0と1)だけを使って計算を行う装置。アラン・チューリング(1912~1954)が考案した。
【再帰的分解】
 複雑な仕事の場合は、すべてが0と1という二つの記号からなる単純な二進法の演算になるまで同じ処理を繰り返し(再帰的に)適用して、単純な仕事に解体(分解)できる。
【アルゴリズム】
 一連の正確なステップ(コンピュータにたいする命令の一単位)を通じて問題を解く方法。
【チャーチのテーゼ(チャーチ・チューリング・テーゼ)】
 アルゴリズムで解決されるものなら、どんな問題でもチューリング・マシンで解ける。どんなアルゴリズムもチューリング・マシン上で実行できる。計算可能な関数はすべてチューリング・マシンで計算可能である。アロンゾ・チャーチ(1903~1995)
【チューリング・テスト】
 「人間がおこなったかマシンがおこなったのか見分けがつかないように物事を遂行できるか?」というテスト。前出のアラン・チューリングが考案した。
【ビッグデータ】
 70億人以上の日々の活動から生み出される膨大なデータ。コンピュータはこのなかから、生身の人間には見えない相関性や規則性、法則性などのパターンを取り出してくる。AIの開発競争の背景には、これをビジネスに役立てようとする狙いがある。(ターゲティング広告やレコメンドなど……)
【機械学習】
 学習能力を備えたAI。サイバー空間や実世界にあふれる膨大なデータ(ビッグデータ)を自ら吸収し、これを機械学習することによって自律的に進化する。
【強いAI】
 AIは単なる解析ツールにとどまらず、人間と同じく汎用の知性を備えることが可能で、いずれは人間のような意識や精神さえもなども宿すようになるという考え方。

3 シンギュラリティ(技術的特異点)の問題

 2045年頃にはAIは人間の知性を超越した存在になるという予測がシンギュラリティ(技術的特異点)と呼ばれる。そこからAIの暴走や雇用破壊への懸念が指摘されている。AIが予測不可能な方向へ進化するという危険性は、どのように生まれてきたのだろうか。

ステップ1……「強いAI」という考え方
 脳はコンピュータであり、いわば万能チューリング・マシンである。プログラムを走らせることでアルゴリズムを実行するように、私たちが心と呼んでいるものは、一つのプログラムもしくは複数のプログラムの組み合わせなのである。人間の認知能力を理解するために唯一必要なことは、知覚や記憶といった人間が認知能力を発揮するさいに実行しているプログラムを発見することだ。
→脳で実行されているプログラムを発見することで、人間の心に相当するものを作ることができる。これが「強いAI」の考え方。

ステップ2……脳科学の成果
 視覚野、聴覚野、体性感覚野などの脳の各領域は、個別の認知機構ではなく、統一的なメカニズムに従って作動している。目や耳、皮膚など、個々の感覚器官から脳に入力される映像、音声、圧力などの情報は、いったん脳に入力されてしまえば、これ以降は共通の形式を有するパターンとして認識され、それは脳の持つ統一的な認識メカニズムに従って情報処理される。こうした脳科学の成果を導入することによって、人間に近いAIが開発される可能性が出てきた。現在のAIはニューロン(神経細胞)レベルであれば、人間の脳をかなり忠実にシミュレートすることができる。

ステップ3……ディープラーニング
 2006年ごろ、脳科学の研究成果(たとえば大脳視覚野の情報処理メカニズムなど)がAI開発に本格的に応用され、音声や画像を認識するためのパターン認識力を飛躍的に高めることに成功した。その最大の長所は、「特徴量(特徴ベクトル)」と呼ばれる変数を人間から教わることなくシステム自身が自力で発見する能力にある。
 コンピュータがビッグデータを解析し、そこから「モデル」と呼ばれる、ある種のパターン(規則性、法則性、類似性など)を導き出す。 学習システム(機械学習システム)によって、高性能のコンピュータをフル稼働させ何度も計算を繰り返し、モデル(理想)と現実のズレ(コスト関数)を徐々に小さくしていって、最後には最小の値に収束させることが可能になる。このコスト関数を最小化する計算を機械学習システムは行っている。
 これがディープラーニングと呼ばれるものである。ディープラーニングは自分で勝手に大量のデータから何かを学び、ある問題を解く上で、何が本質的に重要なポイント(変数)であるかを、システム自身が探し出してくる。
→現代のAIは統計(あるいは確率)的な計算によって実現されている。それは人間の知性らしきものを統計・確率的な数値計算によって擬似的に表現したものである。つまりAIは人間の思考の癖を、人間よりもはるかに効率的にパターン化することができる。よってAIは人間を模倣し、やがては人間を超えていくだろう。それが2045年のシンギュラリティと言える。

4 AIは人間を滅ぼす?

 AIが暴走したら人類は絶滅に追いやられてしまうのではないか? 宇宙物理学者のスティーブン・ホーキングはBBCのインタビュー(2014年12月)で「完全な人工知能を開発できたら、それは人間の終焉を意味するかもしれない」と語った。同様の懸念をビル・ゲイツも表明している。
AIのどういったところが脅威なのか? もう少し細かく見てみよう。

「AIはもっとも賢い人間の1000倍の知能を持っていて、人間の数百万倍、さらには数十億倍のスピードで問題を解く。」
→人類よりも1000倍賢い人工知能が脅威ということは、知能そのものが脅威ということだ。それは知性のとらえ方がおかしいのではないだろうか。人間にとって脅威になるようなものが、人間の知性と言えるだろうか?

「AIはたえず考え、自由になるためのあらゆる戦略を検討して、開発者のどんな特徴を有利なように使えるだろうかと策をめぐらすのだ。」
→まるで黒人奴隷の反乱に怯える農場主のようだ。たぶんAIを脅威と感じている人たちは、マシンを奴隷や農奴や労働者として見ているのだろう。しかも劣悪な環境で酷使しているという負い目があるようだ。人間とマシンの関係は、じつは人間と人間の関係が投影されたものではないだろうか。つまりぼくたちが他の人間をどのようなものとして考え、他者をどのように扱っているか、ということだ。

「ホモ・サピエンスは、ほかのどんな動物種よりも知能が高かったためにこの地球を支配しはじめた。それと同様に、人間の1000倍や100万倍知能が高い存在は、ゲームの展開を永遠に変えてしまうだろう。我々の身にはいったい何が起こるのだろうか?」
→これまで人間が地球の上でやってきたことに人間は怯えているのだ。

「人間にとってのウサギは、超知能マシンにとっての人間と同じだ。我々はウサギをどのように扱うだろうか? 害獣、ペット、あるいは食材として。」
→人間は取り返しのつかないことをしてしまった。人間が他の動物にしたことを、今度はAIが人間にするかもしれないって?

「AIは信用できるかもしれないし、信用できないかもしれない。どちらであるかは五分五分だろう。また、つねに信用できるとも限らないだろう。AIが示す振る舞いのなかには、我々人間が想像できるものもあれば、想像できないものもあるかもしれない。」
→これはAIに限ってことではなく、科学そのものの特徴である。もともと科学は倫理とは無縁のものである。医療から原発まで、あらゆる科学技術が「人間にたいしてどのような態度を取るかわからない」という意味で信用できない。AIも科学技術も人間にたいしては悪意も愛情も抱いていないはずだ。

「国の送電網の大部分が機能停止したという仮想的な大事故を分析したところ、いくつかのぞっとする事実が浮かび上がってきた。エネルギー供給が2週間以上滞ると、1歳未満の幼児のほとんどがベビーフードを食べられずに餓死する。そして1年以上滞ると、すべての年代で10人中9人が、おもに飢えや病気などさまざまな原因で命を落とすのだ。」
→AIの脅威はテロリズムの脅威と同じだ。二つの脅威はハーモナイズする。邪悪な人間がAIを利用する危険性。なるほど。その危険性はAIそのものよりも邪悪な人間にあるのでは? このような人間が現れることにたいして、いかなる手立てを考えることができるだろうか。

5 フレンドリーなAIを作るには?

 このように見てくると、AIの問題は、本当は人間自身の問題だという気がしてきませんか?

→AIを邪悪なものと考えるのは、人間が人間を邪悪なものと考えていることの反映である。そして現に人間が邪悪なものであるなら、AIはそれを模倣するだろう。邪悪さにおいて人間を超えていくだろう。

→人間を善良なものにしてしまえばいい。もっと善良な人間を構想すればいい。フレンドリーな人工知能を作ることが可能かどうかは、人間自身がフレンドリーになれるか、ぼくたちが人間をフレンドリーなものとして構想できるかどうかにかかっている。がんばろう!

【参考文献】
小林雅一『AIの衝撃』(講談社現代新書)
松尾豊『人工知能は人間を超えるか』(KADOKAWA)
ジョン・サール『心の哲学』(朝日出版社)
ジェイムズ・バラッド『人工知能』(ダイヤモンド社)

 次回は『2001年宇宙の旅』『ブレードランナー』『ガタカ』『トゥモロー・ワールド』などのSF映画を観ながら「未来」について考えてみます。お楽しみに。(2016年6月1日 九州産業大学)