FEATURE 2017.12.19 AIとの戦争で人類は滅ぼされるの?AIについてみんなが誤解していることを詳しい人に聞いてきた【後編】

AIについて、巷で言われていることは真実なのか? ライターの長橋さんがAIの識者に話を聞きに行きました。後編では「AIと戦争が起きるのか?」など、映画のテーマにもなっている噂について聞きます。

人工知能ができること、できないこと

では、今のAIって、どんなことができるんですか?
できることというと、頑張って作れば本当にいろんなことができちゃいます。ただ……。
ただ……?
人工知能ができること、できないこと
私、地下アイドルが好きなんですけどね。
えっと、はい。
BiSHというグループの、セントチヒロ・チッチという人なんですが。
article_img_17121901_09
セントチヒロ・チッチ……?
僕が普段研究に使っているAIである「Watson」に、ひたすらチッチが可愛いということを教え続けたんです。
おおお……なるほどですね。
これがまさに、AIができないことの典型例なんです。結果的に、チッチという言葉を入れると可愛いって言葉が返ってくるようになったのですが、AIがそもそも「可愛い」という概念を理解できなくてですね……。
と、言いますと……
AIは、「チッチ=可愛い」という文字列を記号として紐付けているだけなんです。

今のAIって、最適な答えをパターンで答え、リクエストに応えるというのは得意な部分なんですね。だけど、その意味を理解して、何か重み付けをするとか、人間でいう「考える」ということがまだ苦手、できないってことでして。
でも、人間も「可愛い」っていう概念を理解するのは難しいですよね。女の子がよく「これ可愛い!」とか言うじゃないですか。僕、あんまり理解ができないことがあってその度に苦しみます。
長橋さん、そこに気付きましたか。
え?
先ほど私は、AIは記号として結びつけて、それに解答しているだけと言いましたが、これを哲学的に考えたときに、人間もそうではないのかという答えにも辿り着くんですよね。

僕はこれだけチッチが好きといっておきながら、現場(ライブ)にはそんなに行ったことがなくて、もっぱらYouTubeとかで見ているんです。僕は彼女をどちらかというと、人というよりも、電子的な画像として認識している方が強いんですよ。
article_img_17121901_11
はい。
これは一方的な関係で、彼女は僕のことを知らないわけです。この関係を、ある種記号として僕が何かに対して可愛いと言っているだけじゃないのかと考えると、AIが「チッチ」という単語に対して「可愛い」を割り当てているのと、僕が電子的な何かに対して可愛いと言っているのは、果たして差があるのかという問題に行き着きます。
羽山さんもAIも、チッチをアイコンとして認識しているんですね。
はい。仮に僕の「可愛い」が主観的なものとして成立しているのであれば、AIが記号と記号を結びつけたそれも、主観的な世界を獲得したと言えなくもないんです。
おお……!!?
要するに、「人間でも同じレベルの判断しかしていないときもあるよね」っていうことなんです。
article_img_17121901_12
確かに、答えがマニュアル化されている人間っていますからね。
はい、まあでも、「可愛いは正義」なので、いろんな「可愛い」があっても問題はないかなと。
とにかくチッチが可愛いってことですね。
おっしゃる通りです。
article_img_17121901_13

人間の仕事は全て、AIで置き換えられてしまうの?

先ほどお話されていた「特化型のAI」が今後さらに発達したら、人間の仕事はどうなるのでしょうか? AIに置き換えられてしまうんですかね。
そこの部分ってクエスチョンが多いのですが……、単純な書類の読み取りのようなものは、おっしゃる通り人工知能に変わるのではと思うんです。

ただ、色んな人と話していて面白いなと思ったのですが、例えばコンビニのレジを全てAIにしたら、果たしてそれでコストが下がっているのかという話があって。AIでそういうプログラムを作るよりも、アルバイトを時給900円くらいで雇った方が安いのではと。AIよりも人の方が安いっていうのもあるよねと。
人間の仕事は全て、AIで置き換えられてしまうの?
なんだか切ない話ですね……。
そうですね(笑)。逆にすごい難しいだろうと言われているのは、感情のやりとりをするようなものだとか、物語を書くといった作業はすごい難しいだろうと言われています。
医療とかってどうなんでしょうか。
医療でも、人間の優秀なパートナーっていうスタンスが良いのかなと。東大の医学研究所にAIがあるんですがそのAIが先日、患者の病気が特殊な白血病であることを見抜きました。それははじめて人工知能が人間の命を救った瞬間といえるかもしれないです。とはいえ、最後の判断は医者なんですよ。ガンがあるのかないのかを患者に宣告するのも医者。医療のみならず、AIは人間が「どう使うか」ってことをまず考えた方がいいのかなと思いますね。
article_img_17121901_15

「ターミネーター」シリーズみたいに、戦争が起きるの?

2045年問題とか、「ターミネーター」シリーズとか、AIとの戦争が起こるかもってよくある話じゃないですか。人間を滅ぼそうとするようなAIって今後現れるのでしょうか?
人工知能は倫理を持って作らなければならない。それはその通りだと思います。ただちょっと僕自身の意見の前に、一般論をお話しすると……

「トロッコ問題」*というものがありまして、これは人間の倫理を試す心理実験みたいなものなんですけど……
  • *「ある人を助けるために他の人を犠牲にするのは許されるか?」という倫理学の思考実験
そういうことが判断できるくらいかしこくなったAIにトロッコ問題を渡した際、AIがどう判断するのかということでして。AIはためらいなく他人を犠牲にするか、それとも生かすことを選ぶのか。それが一般論です。
「ターミネーター」シリーズみたいに、戦争が起きるの?
ほうほう。
ここからは僕自身の見解なんですけど、まず、人工知能がなぜ戦争を起こしたいのかがよくわからないんですよ。
言われてみれば。
例えばよくネットで言われている、「意思を持って、人間を倒したい、征服をしたい」というAIの欲求。そういうのって、AIが持つ理由がないんですよね。

僕ら人間は、例えばクマが脅威だから駆除しようという話があっても、絶滅させようということは、基本的にはしていないですよね。脅威だとはいっても、共生する関係にあるわけです。なので、人工知能が仮に自我を持ち、主観的世界を持つようになり、この人が好きとか嫌いとか思うようになったとしても、基本的に共生関係になるのではないかと僕は思っているんです。
そういう考えもあるんですね……。
ただ局地的には、それこそ好き嫌いとかの結果で「人を殺してしまうAI」が現れるということはあるかもしれません。例えば自動運転をしている車が巨大な事故を回避する際、このままだと、運転手を殺すか、だれか他人を殺すか、そう判断せざるを得ない場合があったとして、他人を殺す方を選択するということが起こるかもしれません。
article_img_17121901_17
近い将来、ニュースで取り上げられそう。
また、人間を一番殺している生き物はなんだという問いがあって、よく人間ですという答えが出てくるんですけど、あれは違って、人間を一番殺している生き物は本当は、蚊なんですよ。
へぇーー!
マラリアを媒介とかするので。とするのであれば、人工知能は蚊を一生懸命駆除するかもしれません。これは極端な例ですけどね。
では、映画のような戦争は起こらないと……
あくまで僕自身の意見ですけどね。でもまあ、人が人を殺すために作った人工知能同士が戦争を起こす方が、人工知能が主観を持って戦争を起こすよりも早いと思います。人間を滅せっていうプログラムを兵器に搭載させれば、AIは人間を滅ぼそうとしますからね。
それは現実的にありえそうですね……。
article_img_17121901_18

羽山さんの話、めちゃくちゃわかりやすかった

羽山さんのお話を聞いて、皆さんが考えているAIについての考え方も変わったのではないでしょうか。膨大なデータを使って何をするのか、これが今の AI に問われていること。

AIは無限の可能性を持っていると言えますが、その前にまず私たち人間が、どんなところにAIを使うのかを考えてみるのもいいかもしれません。

レベル5のAI、僕が生きている間に生まれるかな……。

おしまい。

取材・文 長橋諒(@nagahshiryo

この記事を気にいったらいいね!しよう

PreBellの最新の話題をお届けします。

ページトップ