人類の「滅亡」を防ぐための戦い

いつものAIの話になりますが、再び学習データを持つ者と持たざる者の格差が話題になってきているみたいなので、少し考えてみたいと思います。

あと２０年くらいししたら、人の行動がほとんど予測可能になってしまうはずです。予測されてしまったら、確実にサービスを利用させることができますし、人間の側が完全に受け身になってしまうことも多いでしょう。
今日何を食べるか、今日何を着るか、誰に会うか、子供にどのような教育をさせるか、最適な答えを教えてくれるのですから、もはや考えることに価値なんてありません。自分で考えて行動しようとする人が残るかもしれませんが、AIより高い正答率は出せませんし、そういう自力行動派は受け身になってしまった人たちから馬鹿にされるでしょう。
ただ、完全に受け身になってしまったら、もはや人として意味があるとは言えません。
　食料とエネルギーの問題は、実際には解決可能なので、人類の絶滅にはつながりませんが、人としての意味を失ってしまうという「滅亡」は結構ありえるはずです。

　今の議論では、データによって人を支配する者と、支配される者との間の格差が問題とされていますが、支配層の側も世代交代によって、知識が失われていくもので、結局人類全体がデータに支配されていくという形になります。
　すこし話がそれますが、過去のデータによって作られているAIは、未知の状況に対して原理的に最適な判断をすることはできません。AIの中身を理解できる人がいなくなってしまった状況で、この「未知の状況」が発生すれば、社会の完全な混乱になるので、物理的な滅亡も起こりえるでしょう。

　こんな未来は考えすぎと言われるでしょうし、起こってほしくないのですが、起こる可能性があるものを防ぐ仕組みを組み込んでおくことこそがシステム設計の意味です。
　そのシステムについての議論が、今日の話のメインです。
　人類「滅亡」の可能性があることだけを理由に、人の行動を予測してサービスを提供することを禁止したり、AIの進化を止める、というのは、さすがにナンセンスです。そのため、人類を受け身にしない方法は、階級の固定化を防ぐこと、だと考えています。
　歴史の勉強はあまりしてないのですが、「革命権」に近い何かです。（革命権を暴力なしで実現しようとしたのが現在の民主主義だというのが私の理解）
どんな人でも勉強して、より強力なAIを作り出せば、被支配層が支配層になれる可能性を担保する、ということです。

実現方法ですが、データの独占に時限を設定することで、実現できます。
AIの力の源泉であるデータが、支配層に独占されてしまえば、逆転はほぼ不可能です。かといって、最初から公共財としてしまうと、データを集めるインセンティブが生じませんので、そこに折り合いをつけるということです。
　気づいた人もいると思いますが、特許制度と同じです。特許制度は１００年以上の歴史があるので、データについても同じように運用することは十分できるはずです。
　あとは運用設計をどうするか、というだけの問題です。データは特許よりも、公開されたデータの独占的利用を保証するのが難しいということや、他社が全く同じデータを入手できる可能性が低いので、秘匿した方が有利といのが課題です。
　ただ、特許でも似たような問題はありますし、侵害摘発のために他社製品を解析するようなこともされていますので、他社サービスの出力を分析して、使用しているデータを推定するような技術があれば、運用できてしまうかもしれません。
　
　階級の固定化を防ぐだけで、人類の「滅亡」を防げるのかどうかはまだわかりません。AIによる支援で生活に余裕ができた人類が、暇を持て余すと、やっぱりだめかもしれません。その議論はまた別の機会に。