AI革命前夜

キルスイッチと平和維持システムのジレンマ

calendar

reload

キルスイッチと平和維持システムのジレンマ

キルスイッチとは

 一部の自動車やバイクには、キルスイッチと呼ばれる装置がついている。

 キルスイッチは、もしなんらかの異常により車両が制御不能に陥った際などに、強制的に燃料の供給を遮断し緊急停止させる為の装置だ。

参考キルスイッチ – Wikipedia

 人工知能搭載ロボットにも、そういったキルスイッチを装備するべきだという議論がある。

 マンガや映画の話ではない。

 先日、EU(欧州連合)での会議において、「人工知能を搭載したロボットには必ずキルスイッチを実装する」という決議案が採択されたそうだ。

参考EUが人工知能の「キルスイッチ」導入へガイドライン…WEFもAI暴走へ対策を本格化

 今後、勝手に判断し勝手に動き続ける機械がどんどん実用化されるであろうが、そういった製品には必ずキルスイッチ的なシステムを付けなさいと。

 スイッチと言っても、本体のどこかに赤い非常用ボタンを設置するだけでは済まない。

 据え置き型の機械なら手でスイッチを押すことも可能だが、勝手に飛び回るドローン型の機械が暴走した際には遠隔操作で緊急停止させる必要がある。

 人工知能機器に何かトラブルがあった際にはその暴走を絶対に止められるようにするのがキルスイッチの重要な役割だ。

緊急用スイッチのデザイン

 緊急停止スイッチというのは、何も人工知能に限った話ではない。現在でも至る所にある。

 例えば、エレベーターや踏切などに付いているのを見たことがあるだろう。

 そういった緊急停止スイッチというのは普通、以下のような原則に則ってデザインされている。

  1. 緊急用のボタンだと誰もが認識できる
  2. 誤作動防止のため簡単には押せなくなっている(プラスチックのカバーなど)
  3. 必要とあれば誰もが押せる

 何かあった場合はこのボタンを押せばいいというのがひと目見て分かり、ちょっと当たったぐらいでは作動しないように保護されてはいるが、必要とあれば誰でも押せるというのが、緊急用ボタンの理想的なデザインと言える。

人工知能による国境警備システム

 話は変わるが、今後、軍事面でも人工知能機器が実用化されると言われている。

 国境警備などをそういった機器に任せてしまうことができれば、非常に効率的だ。

 国境警備業務は、現在ではもちろん人間が担っている。各種レーダー(場合によっては目視)によって国境線を監視し、不法な国境侵犯を防いでいる。

 そういった監視業務というのは、おそらくほぼ何もないにも関わらず24時間体制で行っており、ある意味で非常に退屈で非効率な業務と言えるだろう。

 しかし仕方ない。異常を見つけることが目的なのではなく、異常があればすぐに発見できる体制を整えていること事態に意義があるのだから。

 こういった案件は人工知能には持って来いだ。

 おそらく近い将来、国境巡回の為のドローン型人工知能装置が導入されるだろう。国境侵犯者をいち早く発見し、警告を発し、待機部隊へと通報する。

 これが実現すれば、監視業務は大幅に効率化されるはずだ。

 そしていずれは、警告・通報するだけでなく迎撃システムをも備えたAI国境警備部隊が配備されるだろう。

 しかもそれは、どちらかがどちらかを監視する為のものではなく、お互いが不法な国境侵犯はしないという約束を守るための中立的な国境警備システムだ。

 国境線を挟む両国家間での合意の元、双方の出資により、あくまで中立的な攻撃部隊をお互いの国境線上に配備することができればより平和的だと言える。

 そのAI攻撃部隊の攻撃対象はお互いの不法侵犯者である。もし攻撃され何らかの被害が発生したとしても、相手国がやったことではないので、それ以上の喧嘩に発展することもおそらくないであろう。

 これはある意味、理想的な国境警備システムと言える。

 中立であることに加えてもう一つ重要なのは、可能な限り強力な兵器であること。

 もし簡単に破壊されるようでは門番として役に立たない。

 少々攻撃を加えても損傷しないだけの機動力と耐久性、確実に迎撃できる攻撃能力、あるいはミサイルのような高速飛行物体であっても対応できる臨機応変かつ即断的な対応能力。

 これらは技術的には十分に可能であると思う。

 ドローン型のもの、据え置き型の機関銃タイプのもの、海上であれば戦闘機タイプのもの、迎撃ミサイルなど、ありとあらゆる事態に無人で対応できる体制を持つ、言わば、完全自律型平和維持システムだ。

 全世界規模でこういった平和維持システムが張り巡らされる日がいずれ来るかも知れない。

キルスイッチのジレンマ

 そこでキルスイッチ問題である。

 我々はとてつもなく大きなジレンマに直面する。

 果たして、平和維持システムにキルスイッチは必要だろうか?

 強力な戦闘能力を持つだけに、非常事にはぜひとも停止させる術を用意したい。

 しかし、(まるでエレベーターの緊急停止のように)誰でも簡単に停止できるようでは、そもそも警備システムとして成り立たない。キルスイッチを用意するとしてもその存在、あるいはその停止方法は秘密裏にしたい。

 しかし、簡単に停止できるようになっていなければ、もしシステム異常により攻撃システムが暴走した場合すぐに止めることができず相当な被害が予想される。

 非常に難しい問題だと思う。

 現実的な対応策としては、異常時の多少の被害には目をつむってでも、その国の最高権力者にのみキルスイッチのボタンを押す権力が与えられることになるのかも知れない。

 核ミサイルの発射ボタンと同じように。

 人間は未知なる機械の暴走を恐れるが、キルスイッチを押すことで平和維持システムを停止させ、核ミサイルの発射ボタンを押してしまうのはあくまで人間の暴走であることを思うと、ここにもまた大きなジレンマを感じざるをえない。

 人工知能技術が十分に発達した時、人間と機械、どちらを上位におくべきだろうか。

この記事をシェアする

コメント

コメントはありません。

down コメントを残す




関連記事

汎用人工知能(AGI)を作りたかったら赤ちゃんを作ればいい

No Image

生命の進化と人工知能
【必見】人工知能を題材にしているオススメ映画を4つ紹介
人工知能・ディープラーニングについて知りたい人にお薦めの本
「WIRED AI 2015」で日本のAIの最先端に触れてきた話

folder おすすめ作品

【閲覧注意】 どこでもドアの秘密
茂木健一郎著「記憶の森を育てる」を読んで
時間の謎に関する持論を語ったら物理学者と微妙に被ってた話
more...

folder 人工知能

キルスイッチと平和維持システムのジレンマ
【必見】人工知能を題材にしているオススメ映画を4つ紹介
生命の進化と人工知能
more...

folder 博士と助手

自由意思は在るのか?自由意志とは何なのか?
[言葉と概念] Pepper君は言葉を理解しているか?
意識の証明
more...

folder 脳科学

主観とは何か?

No Image

ホーキンスが唱える知能のアルゴリズム「自己連想記憶理論」
more...