ＡＩが、神となる日（人類への警告）

黄輝光一

コールサック９８号（６月号）に掲載のエッセイです。

私にとっての、待望の本、あの車いすの天才理論物理学者、スティーブン・ホーキング博士（１９４２~２０１８．７６歳没）の遺言『ビック・クエスチョン、人類の難問に答えよう』が発売された。平成３１年３月の発売と同時に、私はこころおどらせ、すぐ手に取りました。

ホーキング博士の不屈の生きざま

ここで、最初に、彼の簡単なプロフィール、人間としての「不屈の生きざま」を、ぜひ紹介したいと思います。

天才ホーキング博士は、イギリスのオックスホード大学を卒業し、ケンブリッジ大学院の時、同じ大学に通い文学を学んでいるジェーンと恋に落ちる。しかし、２１歳の時、検査で「筋萎縮性側索硬化症（ＡＬＳ）」と診断され余命２年と宣告される。二人の愛はさめることなく、反対を押し切ってついにジェーンと結婚。なんと、３人の子供にめぐまれ、常に死の恐怖におびえながらも、まさに、不屈の闘志、精神力で難病と戦い抜き、７６歳まで生き抜きました。しかし、なんと、愛するジェーンとは、結婚後２４年で離婚。その原因は、彼女の浮気？彼もまた、離婚して４年後、看護婦のエレインと再婚、この不思議なドラマチックな愛の形は、「博士と彼女のセオリー」という題名で、「不思議な三角関係」として映画化され、第８７回アカデミー賞５部門にノミネート。主演のエディ・レッドメインは主演男優賞を受賞しました。

まさに、人生も波乱万丈。難病に打ち勝つ生命力、運命に負けない精神力。何が、彼をここまで奮い立たせたのでしょうか。並みの人間ではありませんね。

１９６３年には「ブラックホールの特異点定理」を発表、量子宇宙論の分野を先駆けして、現代宇宙論に多大な影響を与えました。

１９８８年「ホーキング、宇宙を語る」は、全世界で１０００万部も売れ、その名を世界に届かせました。彼も言っておりますが、残念だったのは、ノーベル賞を取れなかったことです。

そして、彼が７６才の時、最後の書いた渾身の「人類へのメッセージ」が、この本「ビック・クエスチョン」です。

質問です、「あなたは、この世に神さまがいると思いますか？」

私にとって、この本の最大の関心ごとは、第１章の「神は存在しない。宇宙をつかさどる者はいない。天国も地獄もなく、人間は、死んだらゴミになる」と、いう見解（結論）です。

この話を聞いて（彼は、以前から、この自説を発表しておりました）、私は、「それはありえない」と思いました。世界中の大勢の人達が異議を唱えました。神がいないということは、すべての「宗教」を根底から否定するお話だからです。キリスト教会からは、無神論者として非難され続けました。

しかし、逆に、『これは、当たり前のことだ。よく言った！あの世などあるはずはない。この科学万能の世界で、いまだに神がいる、あの世があると言っている人がいること自体が不思議でならない。さすが、ホーキング博士はすばらしい』と、夕刊フジの『阿部亮のつぶやき世界一周』というコラムで、阿部氏は、彼を絶賛しておりました。

この問題は、原稿用紙が１万枚あっても結論が出ないお話。それ故、ここでは、その延長上のお話として載っている、「第９クエスチョン」、『人口知能は人間より賢くなるのか？』です。この章の最後に書かれている、ホーキング博士の警告は、衝撃的です。

「ＡＩ（人工知能ロボット）のことを、なぜそれほど心配しなければならないのでしょう？人間はいつでも好きな時に、ＡＩのプラグを引き抜くことができるのでは？」

人間が、コンピュータに尋ねた、『神は存在するか？』コンピュータはこう答えた。『いまや、神はここにいる』そして、プラグのヒューズを飛ばした。まるで、ＳＦ映画のようですが、この章では、人類がいまだかつてない程の危機に瀕している、すなわち、ＡＩの登場こそが、人類史上最大の問題として立ちはだかると。のんきに構えている場合ではない、ＡＩこそが、人類を幸せに導くか、滅亡に導くかの、かつてない正念場に立たされていると、警告している。「原子力の発見」をはるかにしのぐ、根源的、総合的、人類への最終関門でありますと。

皆様は、ＡＩ（人工知能）を、どのように認識しておられますか？

ソフトバンクグループの孫正義会長は、３０年後には人類のすべての分野で、ＡＩがまさると言っております。この本でも、１００年以内に、ＡＩが人類を凌駕すると。

では、ここで、ＡＩについて、私の「おとぎ話のような予測」を述べてみたいと思います。

ＡＩの絵が、二科展で入賞した。ＡＩが、芥川賞を取った。ＡＩの人生相談は、極めて的確で、よく当たる。ＡＩがついにノーベル賞を取った。医師は、ＡＩドクターとなり、病気（がん等）の診断能力は、９９％。今年の大発明は、９０％がＡＩだった。ＡＩロボットと人間との結婚が合法化された。・・・あああ、ＡＩが、人類のすべてのコンピュータを支配して制御してしまった。自分が、神だと言いだした。ああ、こんなはずではなかった・・・

ありえないはずのＳＦの世界が、今まさに、現実化しそうとしている、人類にとって最大の文明（科学）の変革期（人類進化の特異点）にさしかかっているということです。否、もうその時代に突入しているということです。

ここで、私とＡＩ（人工知能）との『壮絶な戦い』のお話をしたいと思います。私は、「自分の人生は、いったい何だったのか」「費やした膨大の時間はいったい何だったのか」と自問自答し、絶望の淵の立たされたお話です。

それは『囲碁』です。

私は、この囲碁に、人生の約５万時間をついやしました。１３歳で碁を覚え、２２歳の時には、５段となり、大学時代は囲碁部で勉学ではなく碁学に励みました。当時、両親からは、「やめなければ勘当だ」といわれました。その魅力に取りつかれ、夢中になったということです。それから、４５年が経ち、現在６８歳で７段です。アマチュアですが、いわゆる「碁キチ」といわれる人種です。囲碁は、それほどおもしろいゲームでありゲームの王様であり、国家公認のゲームともいえます。なぜなら、あの井山裕太七冠王（当時）が、国民栄誉賞を取るぐらいですから。はっきり言って、私と井山裕太棋聖とはレベルが全然違いますが、しかし、実力と才能が及ばなくても囲碁にかける情熱は同じだと思っています。

ある日、囲碁ソフトを買ってきました。値引きで９千円でした。直径１２センチのただの丸い銀色に輝く円盤（ＣＤ）です。ついに、念願の「最強のソフト」が手に入りました。そこには、このソフトの実力は「八段」と書いてありました。高まる鼓動を抑えることができません、そのソフトを、パソコンに入力しました。

そして、何十局、何百局と打ちました。しかし、その結果は、惨憺（さんたん）たるものです、全然勝てません。相手は、たかが小さい円盤です。一瞬、この１２センチの円盤の中に、頭脳明晰な極微の小人たちが、何千万と入っているのではないのかと思うほどです。

『もう人生をやめたくなりました。まったく、歯が立ちません』『私の、費やした膨大な時間を返してくれ！』『私の人生を返してくれ！』と思いました。それが、その瞬間の、正直な気持ちです。

5万時間あれば、小説が、５０冊ぐらい書けたはずだ（その才能があればですが）。美しい詩も、１０００編ぐらい書けたかもしれない。なんとしたことだ。とんでもないゲームに、人生の貴重な時間を費やしてしまった。

２０１５年、世界ＮＯ１の企業となったグーグルは、２０１６年には、なんと時価総額が６６兆円となり、世界戦略としての「人工頭脳」の開発に、莫大なる投資をしました。その一環として、４億米ドル（約４００億）で人工頭脳に突出した「ディープマインド社」を買収しました。

ＡＩ時代の切り札として、人類「最強の頭脳ゲーム」と言われる囲碁に注目して、莫大な投資をして、囲碁で人間に勝つために「ディープラーニング（深層学習）」というソフトウエアを開発、世界の囲碁界に「挑戦状」を叩きつけて来ました。

２０１６年３月。賞金は１００万ドル。ＡＩの名は「アルファ碁」。人類の代表は、当時世界最強といわれた韓国のイ・セドル（当時３３歳）でした。下馬評は、人類をなめるな！全勝でイ・セドルの勝ちと、ほとんどの人が思っていました。

結果は、４－１しかも１勝は、コンピュータの暴走です。

その後、アルファ碁は、更に進化し、中国の「柯潔（かけつ）」と対戦し３連勝して、彼をして「神が囲碁を打っているよう」と言わしめた。この機に、グーグル社は、人間との対戦から撤退しました。「これ以上打っても意味がない」ということでしょう。

この「アルファ碁」とは、いったい何者か。実は、『人間の何万という最高レベルのプロやアマの対局の棋譜データを入力して、ディープラーニング（深層学習・自動学習能力）により、驚異的スピードで強くなった』ということです。

しかし、この話は、ここで終わりません。

さらに、もっと強いやつが現れました。２０１７年１０月１９日、学術誌Ｎａｔｕｒｅ（ネイチャー）の論文で、『アルファ碁ゼロ』を発表した。「人間のデータに頼らずに、基本的なルールのみを教え、それを元に、自分自身と対局する、何百万という自己対局を繰り返し、たったの３日で人類を超えた」というのです。「人間の熟練者（プロ棋士）から得られるデータは、信頼性が薄く、人間の知識の限界によって制限されてしまいます。人間からの学習の必要性を取り除くことで、汎用ＡＩアルゴリズムを得ることが可能です」、つまり、「人間の未熟な頭脳は、かえってじゃまになる、参考にしない方がいい」ということでしょうか。

４０００年の囲碁の歴史を、このＡＩは、たった3日で超えたというのです。これは、まさに驚くべきことです。しかも、旧バージョンをも、すべて凌駕したと。

囲碁は、一局が約２４０手、私の場合、１局約１時間３０分かかります。ところが、ＡＩは、一局を、１秒以下で打ち、試行錯誤を繰り返しながら、自己対局をして学習して、３日目には、４９０万局を打ち、ついにその実力は人類を超えたというのです。たった３日間で・・・

ＡＩと打った人間の感想は、「驚くべき手、常識ではありえない手を打ってきた」と。相手は、まったく感情のないゾンビであり、疲れというものを知りません。「勝とう」という感情もありません。冷静さの極致です。しかも、驚くべき能力をもっている。もはや、何万局打っても、１局も人間は勝てません。しかも、ＡＩは、どんどん進化しつづけます。神の領域まで・・・

このグーグルの成果を、世界は、「人工知能の大躍進」「我々を未知の領域へと連れて行く大きな技術的進歩」と絶賛しました。

そして、人類に勝利したグーグル社は、この成果を、医療分野・エネルギー・自動運転等へとシフトしていきました。残念ですが、当然のことと思いました。

ここで、ひとこと申し上げます。私は、ＡⅠソフトに完敗しましたが、「囲碁の魅力には、何の影響もありませんし、費やした時間はまったく無駄になっていない、と思っております」なかなか理解してもらえないと思いますが、「囲碁は、私にとって人生の縮図であり、人生の学びの宝庫です」「冷静な判断力が身に付き、大局観が養われます」、が、しかし、冷徹なるＡＩから見ると、それは、人間の感情的な見解であり、囲碁は、ただの『頭脳ゲーム』ですと結論付けるでしょう・・・

現在、日本棋院（囲碁の殿堂）は、この結果に落ち込むことなく、ＡＩとの共存共栄をはかっています。逆に、この機に、囲碁を日本中に普及させようとしております。ＡＩの打つ数々の驚くべき着手に、驚嘆し、なんとか、ここから学ぼうとしております。ＡＩから「学ぶ、教えを乞う」とは、なんとも情けないお話ですが、これが現実です。

そもそも、ＡＩは、人間が創った最高レベルの「人工知能」です、人間は、その創造主です。首（こうべ）をたれる必要はありません。そこから、大いなるヒント、発見を得ることができるならば、ということでしょう。ここで、スティーブン・ホーキング博士の、「人類への警告」の部分を引用させていただきます。

気がかりなのは、ＡＩの性能が上がって、加速的に自らを再設計できるようになることだ。ゆっくりした生物学的進化の速度に制約された人類は、そんなＡＩに太刀打ちできず、ＡＩに取って代わられるだろう。そして将来的には、ＡＩは自分自身の「意識」を持つようになり、私たちの意思と対立するようになるだろう。超知能を持つＡＩの到来は、人類に起こる最善の出来事になるか、または最悪の出来事になるだろうということだ。ＡＩの本当の危険性は、それに悪意があるかどうかではなく、能力の高さにある。
蟻塚（アリ地獄）があったら、アリたち（人類）にとっては、気の毒なことになるだろう。人類を、このアリの立場に置かないようにしよう。
火を使い始めた人間は、何度も痛い目を見たのちに消火器を発明した。核兵器や合成生物学（バイオテクノロジー・遺伝子工学等）、強い人工知能といった、もっと、強力なテクノロジーについては、あらかじめ計画を立てて最初からうまくいくようにしなければならない。なぜなら、それは１度きりのチャンスになるかもしれないからだ。私たちの未来は、増大するテクノロジーの力と、それを利用する知恵との競争だ。知恵が確実に勝つようにしようではないか