シンギュラリティについての考え

私がブログ書きたくなった理由は、このシンギュラリティが2045年（30年後）にやってくる、という騒ぎに対して、私の中での現状での理解をどこかにまとめておこうと、思ったからです。

シンギュラリティについては、Web上に情報があふれていますので、改めて説明するほどではありませんが、2045年に、人類すべてを合わせたよりも強力な知的活動を行えるAIが安価なPC上に実現されるという、レイ・カーツワイル氏の著作における主張です。
さらに、近年ディープラーニング技術の発展で、画像認識性能などが急激に発展したために、シンギュラリティの主張が俄かに信頼性を増してきた、といった状況です。

このテーマに対するいろいろな議論が起こっていますが、論点を整理すると、

1）人間の知的活動とは何か？

2）仮に、人間よりも知的なコンピュータが実現した場合、人間社会がどうなるのか？
の2点だと思います。

まずは、１）の議論から。
通常の技術開発は、課題を設定して、その課題を実現するための手法を探索する方法で進んでいきます。速い自動車を開発する、という課題に対して、車体、エンジンそれぞれの課題に分解し、最終的に、燃焼制御といった具体的技術に落とし込み、それを開発していく、という感じです。「人間の知的活動より賢い」という言葉は、人間の知的活動が定義できなければ、具体的意味は持っていないのです。
　確かに、人間よりチェスが強いコンピュータは実現しましたが、それは、チェスという課題が明確なゲームであるからできることです。画像識別問題や自動翻訳も、課題が明確であれば今後どんどん性能向上が進んでいくでしょうし、この次に出てくるであろう、文章のアブストラクト自動生成技術とかはうまくいくかもしれません。
　そんな風に、人間の知的活動を実課題として切り出し、一つ一つ実現していくのが技術開発です。問題は、人間の知的活動の課題の中には、評価が極めて難しいものがあるということです。人への思いやりとか、怒りなどの感情や思考は、評価は困難です。
　大体、そういった不適切な課題は、こっそりと注付けされて「知的活動」という枠から外されているはずです。
　ただ、脳科学の進歩により、人間の感情や思考パターンなどが解明されてしまう可能性もあります。その場合は、それを再現したAIができるとは思いますが、AI以上に解明されてしまった自体のことの方が衝撃を与えることでしょう。この話は別の機会に議論してみたいと思います。

次に２）の議論。
　１）の議論の通り、シンギュラリティの問題は、課題設定があいまいな問題なので、本質的にはそもそも議論が成立しないのですが、仮に、今会社で行われている業務がすべてAI化できたとします。

　これに対して、うれしいという意見と、困るという意見、自分の中ですら両方あります。前者は、いま実際に悩んでいる課題をやらなくてよくなる、という視点です。後者は、それをやらなくてよいのであれば、まったく新しい業務を開拓しなければ生活ができなくなってしまう、という問題です。
　本来望ましいのは、悩んでいる課題から解決されて、かつ生活の不安もない、という方向の発展ですが、ここまで行くと技術課題ではなくて、社会の問題です。
　この点を解決しなければ、技術を開発する側も永遠に椅子取りゲームを続けることになってしまうという危惧があります。

　ただ、今はAIがもてはやされていますが、技術の方向性は様々なものがあり得ます。特に、ブレインマシンインターフェースのような脳拡張技術はまた違う方向性を見せてくれる気がします。幸せかはわかりませんが、どこかのSFみたいに脳の一部をネットワークのリソースとして提供する代わりに生活費が得られる、なんて世界がくるかもしれません。