キルスイッチのジレンマ

キルスイッチとは

　一部の自動車やバイクには、キルスイッチと呼ばれる装置がついている。

　キルスイッチは、もしなんらかの異常により車両が制御不能に陥った際などに、強制的に燃料の供給を遮断し緊急停止させる為の装置だ。

参考キルスイッチ – Wikipedia

　人工知能搭載ロボットにも、そういったキルスイッチを装備するべきだという議論がある。

　マンガや映画の話ではない。

　先日、EU（欧州連合）での会議において、「人工知能を搭載したロボットには必ずキルスイッチを実装する」という決議案が採択されたそうだ。

参考EUが人工知能の「キルスイッチ」導入へガイドライン…WEFもAI暴走へ対策を本格化

　今後、勝手に判断し勝手に動き続ける機械がどんどん実用化されるであろうが、そういった製品には必ずキルスイッチ的なシステムを付けなさいと。

　スイッチと言っても、本体のどこかに赤い非常用ボタンを設置するだけでは済まない。

　据え置き型の機械なら手でスイッチを押すことも可能だが、勝手に飛び回るドローン型の機械が暴走した際には遠隔操作で緊急停止させる必要がある。

　人工知能機器に何かトラブルがあった際にはその暴走を絶対に止められるようにするのがキルスイッチの重要な役割だ。

緊急用スイッチのデザイン

　緊急停止スイッチというのは、何も人工知能に限った話ではない。現在でも至る所にある。

　例えば、エレベーターや踏切などに付いているのを見たことがあるだろう。

　そういった緊急停止スイッチというのは普通、以下のような原則に則ってデザインされている。

1. 緊急用のボタンだと誰もが認識できる
2. 誤作動防止のため簡単には押せなくなっている（プラスチックのカバーなど）
3. 必要とあれば誰もが押せる

　何かあった場合はこのボタンを押せばいいというのがひと目見て分かり、ちょっと当たったぐらいでは作動しないように保護されてはいるが、必要とあれば誰でも押せるというのが、緊急用ボタンの理想的なデザインと言える。

人工知能による国境警備システム

　話は変わるが、今後、軍事面でも人工知能機器が実用化されると言われている。

　国境警備などをそういった機器に任せてしまうことができれば、非常に効率的だ。

　国境警備業務は、現在ではもちろん人間が担っている。各種レーダー（場合によっては目視）によって国境線を監視し、不法な国境侵犯を防いでいる。

　そういった監視業務というのは、おそらくほぼ何もないにも関わらず24時間体制で行っており、ある意味で非常に退屈で非効率な業務と言えるだろう。

　しかし仕方ない。異常を見つけることが目的なのではなく、異常があればすぐに発見できる体制を整えていること事態に意義があるのだから。

　こういった案件は人工知能には持って来いだ。

　おそらく近い将来、国境巡回の為のドローン型人工知能装置が導入されるだろう。国境侵犯者をいち早く発見し、警告を発し、待機部隊へと通報する。

　これが実現すれば、監視業務は大幅に効率化されるはずだ。

　そしていずれは、警告・通報するだけでなく迎撃システムをも備えたAI国境警備部隊が配備されるだろう。

　しかもそれは、どちらかがどちらかを監視する為のものではなく、お互いが不法な国境侵犯はしないという約束を守るための中立的な国境警備システムだ。

　国境線を挟む両国家間での合意の元、双方の出資により、あくまで中立的な攻撃部隊をお互いの国境線上に配備することができればより平和的だと言える。

　そのAI兵器の攻撃対象はお互いの不法侵犯者である。もし攻撃され何らかの被害が発生したとしても、相手国がやったことではないので、それ以上の喧嘩に発展することもおそらくないであろう。

　これはある意味、理想的な国境警備システムと言える。

　中立であることに加えてもう一つ重要なのは、可能な限り強力な兵器であること。

　もし簡単に破壊されるようでは門番として役に立たない。

　少々攻撃を加えても損傷しないだけの機動力と耐久性、確実に迎撃できる攻撃能力、あるいはミサイルのような高速飛行物体であっても対応できる臨機応変かつ即断的な対応能力。

　これらは技術的には十分に可能であると思う。

　ドローン型のもの、据え置き型の機関銃タイプのもの、海上であれば戦闘機タイプのもの、迎撃ミサイルなど、ありとあらゆる事態に無人で対応できる体制を持つ、言わば、完全自律型平和維持システムだ。

　全世界規模でこういった平和維持システムが張り巡らされる日がいずれ来るかも知れない。

キルスイッチのジレンマ

　そこでキルスイッチ問題である。

　我々はとてつもなく大きなジレンマに直面する。

　果たして、平和維持システムにキルスイッチは必要だろうか？

　強力な戦闘能力を持つだけに、非常事にはぜひとも停止させる術を用意したい。

　しかし、（まるでエレベーターの緊急停止のように）誰でも簡単に停止できるようでは、そもそも警備システムとして成り立たない。キルスイッチを用意するとしてもその存在、あるいはその停止方法は秘密裏にしたい。

　しかし、簡単に停止できるようになっていなければ、もしシステム異常により攻撃システムが暴走した場合すぐに止めることができず相当な被害が予想される。

　非常に難しい問題だと思う。

　現実的な対応策としては、異常時の多少の被害には目をつむってでも、その国の最高権力者にのみキルスイッチのボタンを押す権力が与えられることになるのかも知れない。核ミサイルの発射ボタンと同じように。

　我々人間は未知なる機械の暴走を恐れる。

　しかし、キルスイッチを押すことにより平和維持システムを停止させた上、核ミサイルの発射ボタンを押してしまうのはあくまで人間の暴走であることを思うと、ここにもまた大きなジレンマを感じざるをえない。

　人工知能技術が十分に発達した時、人間と機械、どちらの判断をより上位におくべきだろうか。