2017.12.19 AIとの戦争で人類は滅ぼされるの？AIについてみんなが誤解していることを詳しい人に聞いてきた【後編】

AIについて、巷で言われていることは真実なのか？ライターの長橋さんがAIの識者に話を聞きに行きました。後編では「AIと戦争が起きるのか？」など、映画のテーマにもなっている噂について聞きます。

【前編】じつはアレもコレもAI。AIについてみんなが誤解していることを詳しい人に聞いてきた

人工知能ができること、できないこと

では、今のAIって、どんなことができるんですか？

できることというと、頑張って作れば本当にいろんなことができちゃいます。ただ……。

ただ……？

私、地下アイドルが好きなんですけどね。

えっと、はい。

BiSHというグループの、セントチヒロ・チッチという人なんですが。

セントチヒロ・チッチ……？

僕が普段研究に使っているAIである「Watson」に、ひたすらチッチが可愛いということを教え続けたんです。

おおお……なるほどですね。

これがまさに、AIができないことの典型例なんです。結果的に、チッチという言葉を入れると可愛いって言葉が返ってくるようになったのですが、AIがそもそも「可愛い」という概念を理解できなくてですね……。

と、言いますと……

AIは、「チッチ=可愛い」という文字列を記号として紐付けているだけなんです。

今のAIって、最適な答えをパターンで答え、リクエストに応えるというのは得意な部分なんですね。だけど、その意味を理解して、何か重み付けをするとか、人間でいう「考える」ということがまだ苦手、できないってことでして。

でも、人間も「可愛い」っていう概念を理解するのは難しいですよね。女の子がよく「これ可愛い！」とか言うじゃないですか。僕、あんまり理解ができないことがあってその度に苦しみます。

長橋さん、そこに気付きましたか。

え？

先ほど私は、AIは記号として結びつけて、それに解答しているだけと言いましたが、これを哲学的に考えたときに、人間もそうではないのかという答えにも辿り着くんですよね。

僕はこれだけチッチが好きといっておきながら、現場（ライブ）にはそんなに行ったことがなくて、もっぱらYouTubeとかで見ているんです。僕は彼女をどちらかというと、人というよりも、電子的な画像として認識している方が強いんですよ。

はい。

これは一方的な関係で、彼女は僕のことを知らないわけです。この関係を、ある種記号として僕が何かに対して可愛いと言っているだけじゃないのかと考えると、AIが「チッチ」という単語に対して「可愛い」を割り当てているのと、僕が電子的な何かに対して可愛いと言っているのは、果たして差があるのかという問題に行き着きます。

羽山さんもAIも、チッチをアイコンとして認識しているんですね。

はい。仮に僕の「可愛い」が主観的なものとして成立しているのであれば、AIが記号と記号を結びつけたそれも、主観的な世界を獲得したと言えなくもないんです。

おお……！！？

要するに、「人間でも同じレベルの判断しかしていないときもあるよね」っていうことなんです。

確かに、答えがマニュアル化されている人間っていますからね。

はい、まあでも、「可愛いは正義」なので、いろんな「可愛い」があっても問題はないかなと。

とにかくチッチが可愛いってことですね。

おっしゃる通りです。

人間の仕事は全て、AIで置き換えられてしまうの？

先ほどお話されていた「特化型のAI」が今後さらに発達したら、人間の仕事はどうなるのでしょうか？　AIに置き換えられてしまうんですかね。

そこの部分ってクエスチョンが多いのですが……、単純な書類の読み取りのようなものは、おっしゃる通り人工知能に変わるのではと思うんです。

ただ、色んな人と話していて面白いなと思ったのですが、例えばコンビニのレジを全てAIにしたら、果たしてそれでコストが下がっているのかという話があって。AIでそういうプログラムを作るよりも、アルバイトを時給900円くらいで雇った方が安いのではと。AIよりも人の方が安いっていうのもあるよねと。

なんだか切ない話ですね……。

そうですね（笑）。逆にすごい難しいだろうと言われているのは、感情のやりとりをするようなものだとか、物語を書くといった作業はすごい難しいだろうと言われています。

医療とかってどうなんでしょうか。

医療でも、人間の優秀なパートナーっていうスタンスが良いのかなと。東大の医学研究所にAIがあるんですがそのAIが先日、患者の病気が特殊な白血病であることを見抜きました。それははじめて人工知能が人間の命を救った瞬間といえるかもしれないです。とはいえ、最後の判断は医者なんですよ。ガンがあるのかないのかを患者に宣告するのも医者。医療のみならず、AIは人間が「どう使うか」ってことをまず考えた方がいいのかなと思いますね。

「ターミネーター」シリーズみたいに、戦争が起きるの？

2045年問題とか、「ターミネーター」シリーズとか、AIとの戦争が起こるかもってよくある話じゃないですか。人間を滅ぼそうとするようなAIって今後現れるのでしょうか？

人工知能は倫理を持って作らなければならない。それはその通りだと思います。ただちょっと僕自身の意見の前に、一般論をお話しすると……

「トロッコ問題」*というものがありまして、これは人間の倫理を試す心理実験みたいなものなんですけど……

*「ある人を助けるために他の人を犠牲にするのは許されるか？」という倫理学の思考実験

そういうことが判断できるくらいかしこくなったAIにトロッコ問題を渡した際、AIがどう判断するのかということでして。AIはためらいなく他人を犠牲にするか、それとも生かすことを選ぶのか。それが一般論です。

ほうほう。

ここからは僕自身の見解なんですけど、まず、人工知能がなぜ戦争を起こしたいのかがよくわからないんですよ。

言われてみれば。

例えばよくネットで言われている、「意思を持って、人間を倒したい、征服をしたい」というAIの欲求。そういうのって、AIが持つ理由がないんですよね。

僕ら人間は、例えばクマが脅威だから駆除しようという話があっても、絶滅させようということは、基本的にはしていないですよね。脅威だとはいっても、共生する関係にあるわけです。なので、人工知能が仮に自我を持ち、主観的世界を持つようになり、この人が好きとか嫌いとか思うようになったとしても、基本的に共生関係になるのではないかと僕は思っているんです。

そういう考えもあるんですね……。

ただ局地的には、それこそ好き嫌いとかの結果で「人を殺してしまうAI」が現れるということはあるかもしれません。例えば自動運転をしている車が巨大な事故を回避する際、このままだと、運転手を殺すか、だれか他人を殺すか、そう判断せざるを得ない場合があったとして、他人を殺す方を選択するということが起こるかもしれません。