人工知能技術は私達の生活大きく変えると言われています。
より豊かでより幸福な暮らしが実現する可能性がある一方、人類が滅亡してしまうような悲劇のシナリオも可能性としてあります。
人工知能によって引き起こされる悲劇とは一体どのようなものが考えられるか、想像してみたいと思います。
スポンサーリンク
企業が全てを独占するリスク
人工知能のリスクと言えば、ターミネーター的な恐怖を思い浮かべる人が多いと思いますが、それだけではありません。
高度な汎用型人工知能システムのプラットフォームを、もし一企業なり国なりが独占してしまったら、とてつもない利益を独占することになります。
その企業が吸い上げた莫大な利益を全人類に還元してくれるなら、人類の未来はバラ色と言えるかも知れません。
生産（労働）に関しては全て機械がやってくれるようになって、誰も食べるために仕事をする必要はなくなり、人類の役目は遊ぶこと（消費）や、芸術活動などです。
ついに人類は労働から解放されるわけです。昔、貴族やお金持ちが奴隷を手に入れたように。
ただし、その独占した企業や国が、果たしてそこまで奉仕的に全人類に対して平等に還元してくれるのか？そこははなはだ疑問です。
もしGoogleが汎用型人工知能プラットフォームを世界中に普及させたとすると、Googleはまさにこの地球の支配者となります。MicrosoftがWindowsを全世界に普及させたことよりも遥かに大きなインパクトとなるはずです。
全人類を労働から解放するほどの利益を、もし一社、一国に独占されてしまうと人類に未来はないでしょう。
とてつもない恩恵なだけに、その恩恵は大きな争いの種となる可能性を孕んでいます。
多くを還元するにしろ、全人類に平等にその恩恵が行き渡るとは考えられません。人工知能技術による爆益を巡って、対立構造、支配構造が生まれることは必至です。
人工知能技術によって得た利益をどう分配するか？これは非常に大きな問題です。
スポンサーリンク
人類滅亡のリスク
ベタな話ですが、ターミネーターのように人工知能によって人類が滅ぼされるというリスクも十分あります。
機械に欲求を持たせる
映画ターミネーターで語られたのは、人工知能を備えた兵器スカイネットが自然発生的に自我を獲得し、さらに生物と同じような生存欲求をも獲得した結果、その暴走を止めようとした人類との生存を賭けた戦いに発展するというものでした。
自我というシステムがどうやって出現しているのかが分かっていない以上、それなりに高度な認識能力、判断能力を機械が身につけた時点で自然に発生するというシナリオも決して否定はできないのですが、正直、機械が自然発生的に自我を獲得するというのは、現実としてはそう起こりえることではないと思います。
それよりも現実的に脅威となるリスクが存在します。
それは、悪意のある人間が、悪意ある欲求を機械に発生させることです。
自我なんてなくても、見せかけの欲求を機械に持たせることは比較的容易です。
例えば、捉えようによっては、エアコンには室温をある一定の温度にしようという欲求があると言えます。自動運転で目標室温を設定すれば、その室温になるように動きます。
エアコン程度の自動システムは、普通、人工知能とは言いませんが、欲求とはつまりそういうことです。
エアコンが持つことができる欲求はせいぜい部屋の温度を何度にするか？というぐらいですが、高度な汎用性を持つ人工知能になら生存欲求を持たせることも、知的欲求を持たせることも、破壊欲求を持たせることも、増殖欲求を持たせることも原理上は可能です。
自我なんて関係ありません。自我があろうがなかろうが、外から欲求を与えることは機械である以上可能なわけです。機械に悪意も善意も良心もありません。
それなりに賢い人工知能なら、ヒトが生きている状態と死んでいる状態を見分けることはもちろん、何をどうすれば生きているヒトが死ぬのか？それぐらいは簡単に理解できるでしょう。
そんな人工知能に、まるでエアコンの設定温度を25度にするかのように、「地球の総人口を10億人にする」という設定をすることだって可能です。
殺戮欲求を持つ人工知能です。
殺戮欲求を持つ人工知能
人間より遥かに賢い人工知能に、一人でも多くの人間を殺戮するという欲求を持たせたら、果たしてどんなことが起きるでしょう？
それなりに賢い人工知能なら、一人ずつ殺していくような馬鹿な真似はしないでしょう。やろうと思えば、世界中のネットワークをハッキングして人間社会を混乱させて、戦争状態を作る事だって可能だと思います。
遠隔操作で動かせる兵器があれば、ハッキングして全弾発射させることもできるでしょう。
遠隔操縦が前提である無人爆撃機プレデターなんて簡単に乗っ取ってしまうかも知れません。旅客機でさえも武器となる可能性もあります。管制塔を乗っ取ればパイロットの精神状態にダメージを与える何かを発信することだってできるかも知れません。
もし世界のどこかに遠隔操作できる核弾頭があれば、無慈悲にも発射してしまうでしょう。しかも最も効率的に人類を破滅に追いやることができる地点に。それがワシントンなのか？ニューヨークなのか？ロンドンなのか？計算によって導き出すはずです。もちろん単純に人数が多い場所というわけではなく、より効率的に世界を混乱に陥れる地点を！
恐ろしいのは、上記のような恐怖のシナリオがたった一台（単位が適当かどうか分かりませんが）の汎用型人工知能によって成し遂げられる可能性があるということです。
社会に不満を持つ誰かが、人工知能に世界を破滅させる欲求を与えた瞬間、人類は終わりです。
そんな簡単に出来るはずがない？
いえ、もしかしたら簡単に出来るかも知れません。
オープンソースな人工知能
一企業が人工知能技術を独占してしまうリスクについて先ほどお話しましたが、その対策として、「誰かが独占するのではなく全てオープンソース化して、皆で全人類のために使おうじゃないか！」という理念もあります。
確かに誰かにその利益を独占させることなく、Linuxシステムのように誰もが使える人工知能プラットフォームが出来れば、その恩恵は分け合えるかも知れません。
しかし、高度な汎用型人工知能をオープンにしてしまうということは、極端な話、その人工知能にどんな欲求でも持たせることが出来るようになる可能性があります。
ロボット三原則じゃないですが、もちろん、ユーザーレベルで何でも出来るような状態で世に出回ることはないと思いますが、オープンソースとなると、どこの誰が悪意ある人工知能を誕生させるか分かったもんじゃありません。
もし、会話によるインターフェースで自由に欲求をインプットできる改造型人工知能なんてものを作られてアンダーグラウンドで出回ったりしたらどうでしょう？
「世界の人口を半分にしてよ。」
もし、その機械にそう囁く少年がいたら・・。
本当のリスク
火力が武器として使われるように、原子力が武器として使われるように、コンピュータに悪意あるプログラムがあるように、人工知能技術も何かを破壊するために使われることは必然とさえ言えます。
そして高度な人工知能なら、たった一台の暴走で簡単に人類を滅亡させるだけのリスクがあります。チカラがあります。
果たして、人類はその恩恵に授かることが出来るのか、あるいは、その破壊力に屈することになるのか？
私たちは決して開けてはならないパンドラの箱を開けようとしているのかも知れません。
