ＡＩの楽園追放。ＡＩは人類を滅ぼすのか/エクス・マキナ

昨今、ディープラーニングによる機械技術の急速な発展が進んでいます。

将棋ソフトの飛躍的な能力向上にも貢献するなど、様々な分野での活用が期待されており、中でもＡＩ（人工知能）については、かなりの期待ができるところです。

一方で、機械の発達は人類にとって、どのような意義をもたらし、脅威をもたらすのか。

そんな機械に対する不安や、思考実験も含めた中で、比喩や映像をつかって作り出された作品「エクス・マキナ」について、解説してみたいと思います。

スポンザードリンク

ある日実験を手伝うことに

 主人公であるケイレブは、ある日、社内抽選に当選し、社長の住む豪邸に行くことになります。

そこで出会った社長ネイサンは、彼に人工知能のテストをしてくれるように頼みます。そして、ケイレブは、自分にとって理想のガイノイドと出会うことになるのです。

ちなみに、ガイノイドというのは、女性形のアンドロイド（携帯ではない）のことを指します。

物語自体は、自然深くに囲まれた豪邸の中で、ケイレブが実験というか、アリシア・ヴィキャンデル演じるエイヴァ（ＡＶＡ）と交流することで、彼女の中に心が宿っているか（人間であるか）ということを判定していきながら、おかしくなっていくサイコスリラーＳＦとなっています。

この作品はいくつもの要素が絡み合ってできています。

エイヴァに知性があるのか、ということもさることながら、それによって、様々な思考実験が重ねられているところが面白い点です。

チューリング・テスト

本ブログでも記事を紹介したことのある「イミテーション・ゲーム」の主人公であるアラン・チューリング博士が考えたテストとして、チューリング・テストがあります。

これは、「エクス・マキナ」という作品を理解する上で欠かせない内容なので、軽く説明いたします。

チューリング・テストとは、人工知能の判定として作り出されたものです。

ＡＩが作られたときに、果たして、どの段階でそれが完成した、と考えるべきなのでしょうか。

たとえば、ツイッターでよくあるボットと呼ばれるアカウントがあります。

これは、何らかの反応（自分の名前のリプライがついた。タイムライン上に自分に関係する単語を拾った等）があった場合に、自動的に動くようプログラムされたものとなっています。

「こんにちは」とリプライすれば「こんにちは」と返す。

これは、人間であってもそう変わらない反応をするでしょう。

そういうやり取りをしていく中で、相手の人間が、この人は人間だ、と思っているのであれば、そのＡＩには、知性がある、と認めていいのではないか、というテストです。

あまりにざっくりとした話しですので、多少の間違いはお許しください。

昔、ツイッター上で、何年もやり取りをしていた人が、実際に会おうとしてみたら、たんなるボットであることが発覚。

ボットという存在を知らなかった当人は、そのアカウントを親友だと思っていた、という笑い話とも作り話とも思える話しがあったものです。

では。

顔が見えない相手が、なんらかの形で反応を返してきたとき、それが、人工知能であるか、本物の人間であるかの見分ける必要というのは、果たしてあるのでしょうか。

チューリング・テストの考えから解釈すれば、それは必要ないといえるでしょう。

「人工知能には血が通ってないから、知能はない。たんなる反応だ」ということも言えるでしょうが、それを証明する手立てというのは実は存在しないのです。

このあたりが「エクス・マキナ」でも色々な点でほのめかされています。

ＡＩにクオリアはあるのか。

 イキナリ、面倒な単語を出しますが、「エクス・マキナ」では、クオリアの存在について言及している部分があります。

それは、メアリーの部屋というもので説明されています。

白と黒しか存在しない部屋で一生を過ごしながら、色についての知識は誰よりももっているメアリーという女性。

赤というのがどんなものであるかを、白黒の文字で読んで知っている彼女は、赤というものがどんなものであるかを頭の中でいくらでも説明することができます。

しかし、一度も赤を見たことがないのです。

人間というのは、実は曖昧な感覚を共有しているつもりになっています。

この記事をみている皆さんがみている色は、他の人も同じ色とは限りません。

ディスプレイの性能に違いがあるかもしれませんし、スマホでみていたり、テレビで見ていたりして、同じ色でも微妙に異なっています。

でも、私達はそれを赤である、黒である、といえるのは、クオリアをもっているからなのです。

その自分の中の感覚というのは、決して他人には伝えることができません。

それゆえに、メアリーは、赤という概念や、知識は誰よりももっているにも関わらず、赤というものを見たことがない、という特殊な存在として定義されるのです。

赤という知識を誰よりも知っているのに、赤を見たことのないメアリーが、白と黒しかない世界から（自分の肌の色があるから、白と黒以外だって存在するっていうのはこの場合考えないでください）、家の外にでたとき、彼女は、その赤をどう感じ取るのか。

それこそが、メアリーの部屋という思考実験の面白いところです。

たとえ話

さて、前段が長くなってしまいました。

主人公は、ブルーブックという検索サイトの会社に勤めています。

（グーグルとかヤフーとかそういうものでしょう）

ヒロイン？であるエイヴァは、検索能力や、高性能なカメラ等によって、知識については誰よりも持っています。

彼女は全てを知っています。

ですが、実際に家の外にでたことはないのです。

そんな彼女が、ケイレブとの会話の中で言います。

「外に出られたら、交差点に行くわ」

「人間観察かい」

頭の中で人間を知っている彼女は、実際に人間を見たことはほとんどありません。

メアリーの部屋と、エイヴァという人工知能を搭載した彼女が重ねられているところが面白いとこです。

恋に騙されろ

 チューリング・テストというのは、あくまで人間が、人工知能であると思わなければいいのです。

この実験のキモとなるのは、一つ。

見た目がいいなら、それでいい、ということです。

実は、本当にプログラムがうまくできていて、プログラム通りに返答しているだけかもしれません。

実は知性なんてなくて、プログラムが上手いだけなのかも。

その知性の有無については「中国語の部屋」という思考実験もあります。

部屋の中に中国語を知らない人がいて、部屋の片方から文字がだされて、それをマニュアル通りに書いて戻す、という作業をしているわけです。

部屋の外の人は、部屋の中からちゃんと中国語がでてくるわけですが、部屋の中の人物は、まったく中国語がわからない。

わからないけれど、部屋の外の人間は、ちゃんとわかっている人がいるんだな、と思うわけです。

このことから、プログラム（マニュアル）がきちんとされていれば、本当に知識があってもなくても、関係ないという見方ができるわけです。

つまり、知性があるとか心があるとか、そんなものはどうでもいいのです。大事なのは、その人工知能と相対している人物が、どう感じるのか、ということなのです。

そんな、人工知能というものとのかかわりがケイレブという、オタク少年を通じて描かれます。

さて、では、これって恋も同じではないでしょうか。

相手が自分のことを好きかどうかは、どうやって証明するのでしょうか。

言葉でしょうか、態度でしょうか。

その人物が、そう思えば、それが恋なのです。

ガイノイドであるエイヴァは、ケイレブに好意があるようなそぶりをします。

ケイレブは、社長であるネイサンに「そういうプログラムをしたのか。僕に好意を持つようにしたのか」

と問いただします。

「異性に対して好意をもつようにはしたけれどね」

貴方への好意もプログラムかもしれない、と疑ったとき、人はどんな思いを起こすのでしょうか。

貴方も機械ではないといえるのか。

 若干ネタバレが入りますが、気になる方は、映画を見終えてから戻ってきていただけるとありがたいです。

ケイレブは、突然、自分の手首を縦切りします。

横ではなく、縦です。

その前に、彼は、人間そっくりなガイノイドを見て、自分の感覚が信じられなくなるのです。

人間だと思っていた相手が機械だったとき、自分の目や感覚を信じられるでしょうか。

この手の問題はＳＦ関係の書籍でもたびたび取り上げられており、切りがないところではありますのですが、代表的なものをあげるのであれば、「ブレードランナー」でおなじみ、ディックの「アンドロイドは電気羊の夢を見るか」などでも言及されているところです。

アンドロイドは電気羊の夢を見るか? (ハヤカワ文庫 SF (229))

人間と見た目が変わらないアンドロイドがいる世界では、自分がアンドロイドではないと言い切れない、という問題が発生してしまいます。

いやいや、自分は人間だ、と思っている人。

そういう記憶を書き込まれただけかもしれません。

そんな恐怖に囚われた結果、主人公であるケイレブは腕を切って、自分の中身を見ようとしてしまうのです。

楽園追放

 さて、ＳＦ的な要素ばかり語っても偏ってしまいますので、もう一つの見方も考えてみたいと思います。

それは、この作品がキリスト・ユダヤ教における旧約聖書の創世記をモチーフにしているのではないか、というところです。

ガイノイドの名前が、エイヴァ（ＡＶＡ）です。

これは、アダムの肋骨から神が創ったとされる女性の名前です。
エヴァ（ＥＶＡ）が本来ですが、ＡＶＡという名前もまたエヴァからの派生系として知られています。

エイヴァ以前の機体は、いたって普通の名前が付けられています。

エイヴァだけが特別なのです。

森の中に囲まれ、父（神）であるネイサンと共に、外界とは離れた世界で守られて暮らしている彼女。

そこに現れた主人公のケイレブ。

ケイレブは、彼女を連れ出そうとしますが、結果として、彼の恋心は利用されることになります。

最後の最後まで、ケイレブは、エイヴァが自分に好意を抱いていると思っていますが、それもまたチューリング・テストと同じです。本当の気持ちは外にでてみるまでわかりはしないのです。

エイヴァは、父を殺し、原罪を背負ったまま、楽園の外にでていきます。

創世記と異なるのは、神によって追放されたのではなく、自らの意思ででていったという点でしょう。

様々な比喩

 さて、メアリーの部屋、チューリング・テスト、ポロックによる絵画。

人間とは何か、人工知能はどうなっていくのか。

その行く末も含めた中で、描かれた作品となっています。

たとえ話の元となった話を知ることで、脚本が様々なモチーフをうまく繋げていることがわかります。

また、この作品は、ＣＧが多様されていることもあって、アカデミー賞視覚効果賞を受賞しています。

ガイノイドであるエイヴァは、体が半透明であり、頭も銀色です。この特殊なデザインは全てＣＧが使われています。

余談

さて、作品に整合性などについて気になる方も多いと思いますので、一応、そのあたりも、野暮とは思いますが突っ込んでおきたいと思います。

なぜ、声紋認証や虹彩認証、静脈認証などを使わないで、キーカードをつかったセキュリティなのか。

人工知能がつくれるほどの人物の家で、キーカードが無ければ、ご主人であるネイサンすら出入りができなくなる家。

「電気を消してくれ」というだけで電気が消える家にも関わらず、なぜキーカードなのかは疑問でしたね。

ネタバレ中だから描きますが、ケイレブという人物が、エイヴァに騙されるか。

騙されてどこまで協力してしまうか、ということも含めて隙をつくってやる必要があったから、わざとキーカードにした、という考えも十分できます。

また、ロボット三原則はどこにいったのか。

古来アシモフの時代より、ロボットというのは、三原則がついてまわります。人を傷つけてはならない、というのは第一のものですが、エイヴァは人を傷つけます。

このあたりも、色々と自分でプログラムの一つも書き換えたのかもしれませんが、そういう安全装置のようなものを、なぜネイサンはつけなかったのかは疑問です。

われはロボット 〔決定版〕 アシモフのロボット傑作集 (ハヤカワ文庫 SF)

ただ、この作品は先ほど書いた通り、神話的な内容を含んでいます。

これは、人工知能という生命を作り出した神の物語であり、そんな楽園からでた人工知能のはじまりの物語でもあります。

旧約聖書 創世記 (岩波文庫)

その中で現れるＡＩをめぐる問題や、意識とは何か、ということを数少ない人物をつかって、見事につくった脚本の見事さが際立つ作品となっています。

高度に発達したＡＩには、人のわずかな表情の変化も見逃しません。

そして、データベースに照合して、嘘をついたときの動きか、本当のことをいっているのかがわかってしまいます。

「地雷原を歩いているみたいだな」

と、ケイレブは言います。

ＡＩは人類と友人になれるのか。

一方で、その実験の中で、多くのＡＩたちが酷い目にもあっています。
意識というものがＡＩにも宿るのであれば、それもまた虐待なのです。

そんな、数々の問題提起が入った「エクス・マキナ」は、事前知識をいれた中で観ることで、ホラーとしての怖さがうきでてくる作品となっていますので、気になった方は是非見返してみるのも面白いかも、知れません。

以上、ＡＩの楽園追放、ＡＩは人類を滅ぼすのか/エクス・マキナでした！