人類が発展させてきた科学技術は、時として恐ろしい武器となって人類に牙を剥いてきました。そして現在、核兵器を凌ぐ兵器が開発され、実用化されようとしています。

キラーロボット・自律型致死兵器システム（LAWS）は、人間の判断を介さず、攻撃対象の選択から攻撃の最終判断まで、全てをロボット自身の判断で行うという兵器であり、幸いまだ実用化には至っていないものの、禁止の必要性が叫ばれています。

4月17日衆議院第一議員会館にて、ヒューマンライツ・ナウを含む5つのNGOと党派を超えた国会議員が主催となり、

「キラーロボットのない世界に向けた日本の役割を考える勉強会」を開催いたしました。議員、NGO、専門家が意見を交わし、キラーロボットについて考える時間となりました。

以下、主催者の一覧です。

○遠山清彦議員（公明党）、平井卓也議員（自民党）、小林史明議員（自民党）、山内康一議員（立憲民主党）、小熊慎司議員（希望の党）、遠藤敬議員（日本維新の会）

○認定NPO法人 難民を助ける会（AAR Japan） 、国際人権NGO　ヒューマン・ライツ・ウォッチ、認定NPO法人日本国際ボランティアセンター（JVC）、認定NPO法人ヒューマンライツ・ナウ（HRN）、特定非営利活動法人地雷廃絶日本キャンペーン（JCBL）

人間のコントロールを超える兵器

キラーロボット・LAWSは、人間の判断を全く介さずに、敵を殺傷する能力を持ち、従来のドローンなどの無人兵器とは全く異なる次元の兵器です。これに対しては、「同情心を持たないロボットによって、これまでにも増して悲惨な事態が起こる」、「ロボットの判断が暴走する可能性がある」、「独裁者による弾圧に利用されかねない」、「味方の兵士が死なないので、戦争が引き起こされやすくなる」など、参加者からも多くの声が挙がりました。

国際人道法を脅かす危機

ヒューマン・ライツ・ウォッチの土井香苗氏は、「戦争の悲惨さを食い止めるために人類が積み重ねて来た国際人道法が無意味になる」と発言します。ロボットによる人道法違反の刑事責任を誰に負わせるべきかという難しい問題があるからです。

さらに土井氏は、「一般市民と兵士の区別、武力行使の際の均衡性の判断、市民攻撃の禁止といった人道法の基本原則が、ロボットには判断できないのではないか」と述べ、人間の意思によるコントロールの必要性を法的観点から強調しました。

キラーロボットの規制に向けた国際社会の議論

国際社会においても、人間の意思によるコントロールの必要性に関しては、合意はあるものの、まだ禁止条約の締結には至っていません。キラーロボットの定義について合意が得られていないことも、議論が前に進まない要因となっています。難民を助ける会(AAR Japan)の長有紀枝氏は、「核兵器を実用化前に禁止していれば、広島、長崎の惨禍は起こらなかった」と発言し、早期の規制の必要性を訴えました。

一方で、軍事の専門家である拓殖大学の佐藤丙午氏は、特定通常兵器使用禁止制限条約（CCW）の政府・専門家会合に参加した経験から、「キラーロボットは現時点で存在するものではないので、規制に関する議論は、自律性、人間の意思、人間の管理とは何か、といった哲学的議論になってしまう」と述べ、規制の議論の難しい側面について指摘しました。

規制の焦点は？

―　どこまで規制するか

佐藤氏は、「AIやロボットの技術を考えると、攻撃の瞬間だけでなく、識別、探索、捕捉、追跡、などの一連のサイクルを考える必要がある。現在ではこの一部分はすでに完全自律化されているものもあり、どこまで規制を広げるのかは検討が必要だ」と指摘します。

―　軍事と民間技術の境界

現在、AIの開発は民間でも盛んに行われており、軍事のみの規制で十分なのか？逆に過度に民間の技術を規制することにつながるのではないか、といった論点についても、多くの議論が交わされました。

佐藤氏は、規制のあり方について、「それぞれの局面に応じて規制の内容は異なる。研究、開発段階における産業界の管理、実用化段階における条約での国際的な規制といった、段階に応じて全てのサイクルで適切な規制が必要だ。そして、規制が遵守されているかを監視する仕組みづくりも重要になる」と述べました。

―　専守防衛のための使用は規制すべきか？

キラーロボットを攻撃のためでなく、専ら反撃、防衛のために使用することについては、各国でも意見が分かれています。公明党の遠山清彦議員は、「日本政府も防御のためのAIの導入は否定していない可能性もある」と懸念を示し、「たとえ防御的だとしても、人間の判断が全く介在しないのは反対だ」と述べました。その他の参加者からも、「防御に使うつもりで開発しても、AI自体が暴走する可能性もあるのではないか」といった懸念が多く寄せられました。

規制に向けた平和国家、日本の役割

キラーロボットの規制については、細かい部分については議論もあるものの、日本政府としては基本的に規制には賛成する方向です。しかし、CCWの政府・専門家会合においてはまだ正式に賛成を表明するには至っていません。会場からは、日本が平和国家として、もっと主導的な役割を果たしていくことに期待する声が挙がりました。

勉強会の終盤には、脳科学者の茂木健一郎氏からのビデオメッセージが放映されました。茂木氏は、「人工知能に評価関数が与えられると、彼らはそれを自ら改良する機能を持つ。これは人間がコントロールできないブラックボックスだ」、「人間が生物として当然に備えている直感、倫理観、生存本能がAIにはない。これを兵器にするのは最悪だ」と語り、キラーロボットが人類にもたらしかねない悲劇を印象付けるものとなりました。