殺人ロボットというと、映画『ターミネーター』のように遠い未来の話に聞こえるかもしれない。だが、自律的に動く兵器システムが、誰の指示もなく人を殺戮できる時代はすぐそこまで来ている。
実際、米兵が何千キロも離れた標的をドローンで攻撃している間にも、米軍はコンピューター制御のドローンをテストしている。ものの数年で実用化されるだろう。人間がそれを止められなければ、だ。
自律的殺人システムを国際条約で禁止するためのロビー活動をしている複数のNGOで構成する「殺人ロボットを止める運動」は先週、ニューヨークの国連ビルに集まり、報道陣に嘆いた。自律的に動く機器の開発は、それを止めようとする外交努力のスピードをはるかに上回っていると。
殺人ロボットをめぐる最大の懸念事項は、敵を殺すという決定権が将来、機械に与えられることだ。オンライン雑誌の「ザ・インターセプト」が最近暴露したドローンについてのリーク情報によれば、人間が遠隔操作のドローンで標的を殺そうとしたアフガニスタンでの作戦では、殺された10人のうちの9人が人違いだった。現在入手可能な人工知能（AI）で自律的兵器システムを使ったとすれば、犠牲者の数はさらに増えるだろうと、豪ニューサウスウェールズ大学のトビー・ウォルシュ教授（ＡＩ）は言う。
機械は兵士と民間人を識別できないし、敵の攻撃の殺傷力によって反撃手段を変えることもできないだろう、とウォルシュは言う。コンピューター制御の兵器はすぐにでもできるが、これらの脳になるべきＡＩがターミネーターレベルの完成度に達するには、「あと50年前後」はかかるという。
「コンピューターはいくつかの機能で人間よりはるかに速い。戦争ではその数秒が有利に働く、という国は少なくない」と、国連の超法規的・即決・恣意的処刑問題の特別報告者、クリストフ・ハインズは言う。「また命中率が高くなるという国もある」
殺人ロボットには戦争犯罪を問えない
この分野で最も進んでいるのはおそらく、軍事的なスーパーパワーであるアメリカだろう。「国防総省は自律性の実現に集中している」と、国防総省の報道官エイドリアン・ランキン・ギャロウェイは言う。
しかし効率的に殺すことは、必ずしも戦争をより「人間的」にすることにはつながらないと、国際ロボット武器管理委員会のイアン・カー博士は言う。人命と軍事費のコストが下がることで、戦争はより頻繁に起こるようになるだろう、とウォルシュは言う。
またヒューマン・ライツ・ウォッチのボニー・ドチャーティは、機械には戦争犯罪の責任能力がないばかりでなく、現行法ではこうした機械を製造し、プログラムし、命令した人間はいずれも責任を免れることになる。責任を問えなければ、犠牲者への償いも、社会的制裁も、さらなる暴力に対する抑止も、何もない。
「戦争当事者の一方から人間を取り去ったら、どうやって人道的な終わらせ方ができるのか」と、カーは言う。「人間の脆さがなくなれば、戦争を止められるものはなくなってしまう」
殺人ロボットの反対派は、規制ではなく全面禁止を求めている。一度技術が確立されてしまえば、為政者はそれを使ってみる誘惑に耐えられないからだ。そして間もなく、永遠に終わらない軍拡競争が始まるだろう。７月には物理学者のスティーブン・ホーキングらAIの専門家1000人が支持を表明した。その声明にはこうある。「殺人ロボットを止めなければ、それはブラック・マーケットに流れ、そこからテロリストや独裁者、民族浄化を目論む連中の手に渡るのは時間の問題だ」
ローレン・ウォーカー
実際、米兵が何千キロも離れた標的をドローンで攻撃している間にも、米軍はコンピューター制御のドローンをテストしている。ものの数年で実用化されるだろう。人間がそれを止められなければ、だ。
自律的殺人システムを国際条約で禁止するためのロビー活動をしている複数のNGOで構成する「殺人ロボットを止める運動」は先週、ニューヨークの国連ビルに集まり、報道陣に嘆いた。自律的に動く機器の開発は、それを止めようとする外交努力のスピードをはるかに上回っていると。
殺人ロボットをめぐる最大の懸念事項は、敵を殺すという決定権が将来、機械に与えられることだ。オンライン雑誌の「ザ・インターセプト」が最近暴露したドローンについてのリーク情報によれば、人間が遠隔操作のドローンで標的を殺そうとしたアフガニスタンでの作戦では、殺された10人のうちの9人が人違いだった。現在入手可能な人工知能（AI）で自律的兵器システムを使ったとすれば、犠牲者の数はさらに増えるだろうと、豪ニューサウスウェールズ大学のトビー・ウォルシュ教授（ＡＩ）は言う。
機械は兵士と民間人を識別できないし、敵の攻撃の殺傷力によって反撃手段を変えることもできないだろう、とウォルシュは言う。コンピューター制御の兵器はすぐにでもできるが、これらの脳になるべきＡＩがターミネーターレベルの完成度に達するには、「あと50年前後」はかかるという。
「コンピューターはいくつかの機能で人間よりはるかに速い。戦争ではその数秒が有利に働く、という国は少なくない」と、国連の超法規的・即決・恣意的処刑問題の特別報告者、クリストフ・ハインズは言う。「また命中率が高くなるという国もある」
殺人ロボットには戦争犯罪を問えない
この分野で最も進んでいるのはおそらく、軍事的なスーパーパワーであるアメリカだろう。「国防総省は自律性の実現に集中している」と、国防総省の報道官エイドリアン・ランキン・ギャロウェイは言う。
しかし効率的に殺すことは、必ずしも戦争をより「人間的」にすることにはつながらないと、国際ロボット武器管理委員会のイアン・カー博士は言う。人命と軍事費のコストが下がることで、戦争はより頻繁に起こるようになるだろう、とウォルシュは言う。
またヒューマン・ライツ・ウォッチのボニー・ドチャーティは、機械には戦争犯罪の責任能力がないばかりでなく、現行法ではこうした機械を製造し、プログラムし、命令した人間はいずれも責任を免れることになる。責任を問えなければ、犠牲者への償いも、社会的制裁も、さらなる暴力に対する抑止も、何もない。
「戦争当事者の一方から人間を取り去ったら、どうやって人道的な終わらせ方ができるのか」と、カーは言う。「人間の脆さがなくなれば、戦争を止められるものはなくなってしまう」
殺人ロボットの反対派は、規制ではなく全面禁止を求めている。一度技術が確立されてしまえば、為政者はそれを使ってみる誘惑に耐えられないからだ。そして間もなく、永遠に終わらない軍拡競争が始まるだろう。７月には物理学者のスティーブン・ホーキングらAIの専門家1000人が支持を表明した。その声明にはこうある。「殺人ロボットを止めなければ、それはブラック・マーケットに流れ、そこからテロリストや独裁者、民族浄化を目論む連中の手に渡るのは時間の問題だ」
ローレン・ウォーカー