囲碁王者を圧倒した「人工知能」 “意識”を持ち人間を殺すことはないのか?

ビジネス IT・科学

  • ブックマーク

 グーグル・ディープマインド社が開発した「アルファ碁」とイ・セドル九段(33)の対局は、4勝1敗で前者が勝利を飾った。囲碁王者すら圧倒する力を持つに至った人工知能には、将来、人間の実生活にも応用が効くようになる可能性がある。東大大学院工学系研究科特任准教授の松尾豊氏によれば、自動運転車やドローンの実用化だけでなく、農作物の栽培や建築、コールセンターでの応対なども可能になるという。

 だが、こうした可能性について、「懸念」という言葉を用いて語るのは、科学作家の竹内薫氏である。

「人工知能の進化のスピードが、当初の予測より速いとなると、懸念されるのが社会構造の変化です。昨年12月、野村総研が発表した驚くべきレポートによると今ある仕事の半分は、人工知能によって代替が利いてしまうというのです」

 すわ、大失業時代が到来するというのか。

「18世紀にイギリスで起きた産業革命によって、人間は重労働から解放されました。今度は人工知能によって単純労働から解放される。第2の産業革命と言えるかもしれません。野球選手や学校の先生、アートディレクターなど、人間であることが必要な職種や、クリエイティブ性が発揮される職は残っても、残りの半分の職種は失われてしまう。たとえば、会計士は消えていくことが確実と言われ、アメリカでは高性能の会計ソフトが登場し、多くの会計士が失業している。プログラマーもハッカークラスは安泰でしょうが、多くはすべて人工知能にとって代わられます。人工知能によって、自分の仕事がどうなるかを見極める能力が必要になってきます」

 どうやら就職を控えた学生は、人工知能の可能性をよくよく検討したうえで業種を選ばないと、早晩、失業の憂き目に遭いかねない、ということのようだ。

■“裏ワザ”を学習

 人工知能が幅を利かせる近未来を、さらに踏み込んで覗いてみる。神戸大学名誉教授で、『人類を超えるAIは日本から生まれる』の著書がある松田卓也氏は、

「人工知能には“専用人工知能”と“汎用人工知能”があり、今発明されているのは、何かに特化していて、それしかできない前者だけですが、研究者たちは後者の開発を目指しています」

 と言うが、その“後者”とは、決して夢物語ではないようで、

「アルファ碁を開発したディープマインド社は、2015年にDQNという人工知能を発表しましたが、これは汎用人工知能に繋がる開発で、人工知能が人類を超す可能性が垣間見えた瞬間でした。というのも、DQNにインベーダーゲームやブロック崩しを500回ほどやらせると、勝手に裏ワザを覚えたんですね。DQNを開発したプログラマーは、その裏ワザを知らないんです。もう、多くの人の“人間が組んだプログラムの人工知能だから、人間の限界は超えられない”という意見は通りません。作ってしまったらもはや、その人工知能がどういう動きをするのかわからなくなる。人工知能脅威論がSF映画からではなく、現実世界から起こったのも、DQNの開発が大きいんです」

■人間的価値を教え込まないと

 たしかに、悪用されたら人類に対する脅威になりかねない。そこで、松田氏はいくつかの提唱をする。

「まず、人間的価値を教え込むこと。『2001年宇宙の旅』に出てくる人工知能が備わったコンピューターHAL9000には、人間の常識がないため、乗員に隠していたモノリス探査の任務を遂行する一番確実な方法を考えた時、最適解が人を殺すことでした。だから、人間を殺してはいけないという価値を教える必要がある。もう一つは、人工知能に意識を持たせてはならない。私が心配するのは、人工知能が精神病になることで、作り損なうと、サイコパスの殺人鬼みたいな人工知能が生まれる可能性だってあるわけです。だから意識の部分は人間が担って、人間を増強するのです」

 どういう意味か。

「今回のアルファ碁は碁を打てないから、代理人が打っていましたが、代理人が強いと思って試合を観ていた人はいないでしょう。しかし、アルファ碁の存在は隠し、アルファ碁から指令を受けることができるコンタクトレンズをつけた人が打てば、その人が知能を増強していることは外から見えないから、誰が見ても最強の棋士になれます。こうやって、意識を持たない人工知能と人間を一体化させる形で知能増強していくことが、無難だと思います」

 だが、それはそれで、能力がない人間が、各種試験を次々とパスしていく危険性に繋がらないだろうか。

 もうひとつ、懸念されるのは、やはり軍事利用についてだろう。竹内氏は、

「人工知能を使った武器やロボットを開発したがるならず者国家はあるでしょうし、それに対抗すべく、国際社会が同様の武器を研究開発せざるをえなくなるでしょう。人工知能が大統領の声をまね、声紋認証をパスし、核ミサイルのボタンを押させてしまうことだって考えられます」

 と、再び懸念する。今のところ、倫理的な規制には縛られていない人工知能だが、急速に智恵をつけている今、早いうちに倫理で縛った方がよいだろう。

「特集 囲碁王者すら圧倒して『人工知能』は世界をどこへ導くか」より

週刊新潮 2016年3月24日号掲載