ある天文学者が抱く２つの不安 〜遺伝子書き換えと人工知能〜
移転しました。
イーロン・マスクが世界にたいしてもっとも影響を与えると考えている分野が５つあります。インターネット、持続可能なエネルギー、宇宙探索、遺伝子書き換えそして人工知能。前半の３つはイーロン・マスクが直に関わっている分野です。そして、後半の２つはイーロン・マスクが動向を注視している分野です。そこで、今回はその後半の２つの分野についてやりたいと思います。
先日、イーロン・マスクがある記事をツイートしました。Martin Reesというイギリスの天文学者（王室天文官王室天文官）が書いた記事です。記事の内容は遺伝子書き換えと人工知能の将来にたいして彼がどのような不安を抱いているのか。この記事をツイートしたということは、イーロン・マスクも彼に近い考えを持っているのでしょう。Martin Reesの思考を通して、イーロン・マスクが何を考えているのか知ることができるかもしれませんね。
天文学者Martin Rees。ロボットが世界を支配するのはどのくらい早いのか。
Astronomer Royal Martin Rees: How soon will robots take over the world? - via @Telegraph http://t.co/DStxgM0S8F
— Elon Musk (@elonmusk) 2015, 5月 22
遺伝子書き換え
さっそく遺伝子書き換えからいきましょう。まず、遺伝子書き換えの分野が現状どのようなことになっているのか記事から引用してお伝えしてたいと思います。なお、便宜上ここでは遺伝子書き換えとバイオテクノロジーを同義のものとして扱いますね。
薬や農業への輝かしい貢献にもかかわらず、バイオテクノロジーの大いなる発展には危機が潜んでいる。先月、中国の研究者がクリスパーと呼ばれる新しい技術を使ってヒトの胚を遺伝子操作しているというレポートが提出され、デザイナー・ベイビーへの倫理的な議論を巻き起こすことになった。しかし、ウィスコンシン大学とオランダでの実験はもっと不安を掻き立てる。実験によって、インフルエンザウイルスの毒性と伝染力を強化するのが驚くほど簡単だということがわかったのだ。１０月、アメリカ連邦政府はこのようないわゆる「機能獲得」実験への資金提供をストップした。
クリスパーとは「クリスパー・キャス９（CRISPR/Cas9）」のことで、細菌の免疫機構を利用してゲノム編集をおこなう技術です。そして、「機能獲得」とは、通常では発生しない新しい機能を獲得する遺伝子変異のこと。つまり、新しい遺伝子書き換え技術で新しい機能を獲得することが可能になっているということですね。いぜんこのブログでも扱いましたが、「クリスパー・キャス９」を用いればアジアゾウのDNAを編集してマンモスのクローンを誕生させることも不可能ではありません。非常に注目を集めている技術で、バイオテクノロジーの未来を担う技術であることは間違いないでしょう。とても優れた技術ですが、Martin Reesによればこのような遺伝子書き換え技術の発展について現在様々な議論が起きていると言います。
最近、私たちはケンブリッジである議論をおこなった。「機能獲得」研究をサポートする人々は、自然の突然変異の一歩先を行くためにウイルス研究の必要性を訴えた。他のグループは、このような技術を不吉な前兆とみなした。例えば、エボラウイルスに空気感染の能力が与えられたらどうなるだろう。それに、彼らは新しい知識の獲得を正当化するには、研究室内から病原体が漏れるリスクが大きすぎると心配していた。
たしかにバイオテクノロジーの影響力はものすごく大きいので、急速な進歩によって議論が巻き起こるのは当然ですよね。さて、バイオテクノロジーの現状（とくにリスキーな面）を見ましたが、Martin Rees自身はどのように考えているのでしょうか。彼がテクノロジーの進歩に不安を覚えるとき、それは必ずしも事故を指すわけではありません。たしかに、例えば空飛ぶ車が実現したら様々なアクシデントが発生するでしょう。新しいテクノロジーに新しい事故はつきものです。ただ、彼が本当に心配するのは人間の悪意。その理由を彼は以下のように説明しています。
悪意が壊滅的な結果をもたらすときがある。スタックスネットや頻繁に発生する金融機関へのハッキングのようなサイバーサボタージュ（破壊工作） を見ていただきたい。小規模の集団や、そして個人でさえ、過去に類を見ないほどの力を持っているのだ。
スタックスネットとはWindowsで感染するコンピュータウイルスです。２０１０年にイランの核施設を標的として有名になりました。このようなサイバー攻撃はいまや日常茶飯事となっていますね。そして、彼は遺伝子書き換え（バイオテクノロジー）はサイバー攻撃に非常に脆い分野だと言います。
（本当に危険な）原子力技術と対照的である。原子力設備はIAEA（国際原子力機関）のような機関が効果的に規制するのに十分な大きさだ。密かに水素爆弾を作ることは難しい。ところが、バイオテクノロジーの悪用ができる能力を持つ大勢の人々はバイオテクノロジーの研究室へのアクセスできるのだ。昨今、大勢の人々がサイバーテクノロジーを悪用しているのと同じことである。
アクセスの容易さは、バイオテクノロジーのある特性に要因があります。その特性とは、原子力のような技術と比べるとバイオテクノロジーは小規模で容易に実験が可能だということです。
実際、バイオハッキングは趣味やゲームとして盛んになっている。（例えば、暗闇でも育つ植物や、最終的には街灯に取って代わるような木々を作るコンペがある）物理学者のフリーマン・ダイソンは自分たちが子ども時代に親しんだ科学セットのような気軽さで、子どもたちが新しい臓器をデザインしたり作り出したりする時代がくると予見している。これはSFの領域を良い意味で超えるものだと思うが、これから起こることの一部でしかない。私たちの生態系（そして私たちという種でさえ）は、もはや無傷ではいられないだろう。
このバイオテクノロジーの特性がMartin Reesを不安にさせているようで、サイバーテクノロジーとの相性が（悪い意味で）良いというわけですね。そして、Martin Reesがとくに危惧しているのが、一部の人間の悪意です。
すべての生物学の専門家がまともで理性的なわけではない。私がもっとも恐れるのは、２０５０年までには当たり前になっているであろうバイオハッキングの専門性によって力をつけた「エコの狂信者」だ。彼らは人間の数を減らすことがガイアを救う唯一の方法だと考える。どこにでも愚か者はいるが、それが世界規模になってしまうのだ。
Martin Reesと同じような不安を抱える科学者は他にもいます。なので、そのような問題に発展しないように有識者で共同して政府へ訴えかけ、規制を強化すれば良いのではないかという話になりますが、これに関しては非常に難しいようです。
分子生物学の初期、アカデミックな科学者たちのあるグループは「アシロマ宣言」を公布し、特定の実験にモラトリアムを設け、ガイドラインを設定した。１９７０年代にはこのような自己規制が働いていたのだ。しかし、今ではこの分野は世界規模にひろがり、競争が激しくなり、商業的な圧力が高まった。良識的で倫理的な規制が世界で実施されるかは疑わしい。ドラッグにおける法律を見ればわかるだろう。
規模が大きくなると歯止めがかからなくなりますよね。以上のように、遺伝子書き換えの分野では新しい技術の発展がめざましく、しかも影響力が限りなく大きい。そして、規制も難しいということです。Martin Reesが不安に思うのもわからなくはないような気がします。
人工知能
さて、次は人工知能についてです。Martin Reesは人工知能が人類を超える存在になると考えています。人工知能の発展により、ある段階で「知能の爆発」（an intelligence explosion）が発生し、人工知能は人類を置き去りにしてしまう。これも記事から引用しましょう。
いったんあるレベルを超えたら、「知能の爆発」が起きることは明らかだ。電子の移動は脳内の信号の移動よりも圧倒的に速い。それに、私たちが話すよりもはるかに速い速度でコンピューター同士がつながり、情報交換をおこなうからだ。
６０年代、アラン・チューリングと共にブレッチリー・パークで働いていたイギリスの数学者I J Goodは指摘した。（十分に万能な）超高知能ロボットは人類のおこなう最後の発明となるだろう。機械が人類の能力を超えたとき、機械はより能力の高い新しい世代の機械をデザインし、本物の「知能の爆発」を引き起こす。
アラン・チューリングとは人工知能の父と呼ばれ、あの有名なチューリング・テストを考案した人物です。ある機械が人工知能であるかどうかを判断するためのテストですね。そして、彼の同僚であった数学者に言わせれば、超高知能な人工知能が開発されたら、その後の発明はすべてその人工知能がおこなうことになり、人類は太刀打ちできなくなるとのことです。人類を超えた超高知能な人工知能は、その能力をフル稼働して、さらに優秀な人工知能を生み出す。そして、そのサイクルは恐ろしい速度で回り続けます。まさに「知能の爆発」ですね。
「知能の爆発」についてもこのブログで扱いましたが、これはカーツワイルが予言するシンギュラリティーのことです。カーツワイルはアメリカの「発明家の殿堂」入りしている現存する最高の知能の１人です。現在はGoogleで働いているそうで、やはりGoogleはすごいですね。シンギュラリティーとは人工知能（に限らずナノテクノロジーやバイオテクノロジーなど複合的なテクノロジーの進歩でもたらされますが）が急激に知能指数を上げ、圧倒的な知能を持ってしまうこと。そして、それによって引き起こされる文明の爆発的な発展のことです。人間よりもはるかに高度な知能を持った人工知能が様々なテクノロジーを駆使し、かつてない程の速度で文明が進歩することをイメージしてもらえればわかりやすいと思います。まさにSFの世界です。
シンギュラリティーがいつ到来するかについては様々な意見があります。専門家の中間的な意見では2060年、カーツワイルは2045年、ニック・ボストロムという哲学者は10年以内に超高知能な人工知能が実現する、つまりシンギュラリティーを迎えると予想しています。信じられないですよね。そのぐらい現在の人工知能の分野の発展は凄まじいということです。
Martin Reesは人工知能が人類に代わる文明の担い手となると考えています。そこで、まず取って代わられる側の人類についての彼の意見をご紹介しましょう。
化学的にも代謝的にも、オーガニックな脳にはサイズや処理能力に限界がある。おそらくすでに人類はこの限界に近づいているのだろう。
人間には限界があるということですね。いや、人間だけではありません。地球上の生物すべてが、人工知能と比べるとあまりにも制約が多すぎるのです。彼は語ります。
有機生物が共生して進化を遂げてきた地球の生物圏は、発展したAIにとって束縛とはならない。実際、まったく最適とはいえないのだ。ロボット制作者はもっとも重要な制作空間として星々の間に横たわる空間を好むだろう。私たちの想像をはるかに越えて無機質な脳が思索を深めていく空間だ。まるでネズミにとっての超ひも理論のような圧倒的な知能格差が誕生する。
天文学者として、Martin Reesは地球という環境に縛られざるを得なかった生物と、宇宙空間を拠点として進化していくであろう人工知能との比較をおこなっています。そして、結論は当然人工知能に軍配が上がる。
遠い未来、人類の思考はもはや存在しない。そこにあるのは機械の思考だ。宇宙をほとんど知り尽くしている思考。世界を徹底的に変えるのは自立した機械の行動である。これが待ち受ける未来なのだ。
これがMartin Reesが予想する人工知能の未来です。「知能の爆発」が起きれば必ず訪れる未来でしょう。そして、専門家の予測では、それほど遠くない将来に「知能の爆発」（シンギュラリティー）はやってくるのです。
いかがでしょうか。遺伝子書き換えと人工知能という２つのテクノロジーについて天文学者Martin Reesがどう考えているかご紹介してきました。
冒頭でもお伝えしたとおり、イーロン・マスクもこの２つの領域に並々ならぬ関心をよせています。そして、Martin Reesの記事をツイートした。イーロン・マスクが考えるもっとも人類に影響を与える５つの分野のうち、直接手を出していないのが遺伝子書き換えと人工知能の２つの領域です。そう考えると、手を出さない理由はやはりイーロン・マスクがこの２つのテクノロジーにたいしてかなり不安を感じているからなのでしょうか。イーロン・マスクが人工知能に警鐘を鳴らし続けているのは有名な話ですね。そう言えば最近、親友であるGoogleのラリー・ペイジCEOが、意図的ではないにせよ、人類を絶滅に追い込む人工知能を開発してしまう可能性もあるとイーロン・マスクが語っていたことがニュースに取り上げられていました。そのぐらい本気で心配しているということでしょう。
遺伝子書き換えも人工知能も本当に急速な発展をみせている分野ですし、必要な対応が蔑ろにされることは十分考えられます。これからどうなっていくのか楽しく見守りたい分野ですが、危うい面もあることを認識しておいた方が良さそうですね。
参考
