「中国の殺人ロボットがやってくる」というのが最近のニューズウィークの見出しだった。
迫り来る AI を活用した戦争の新時代は、一部の専門家が人類の生存にとって最大の危険と呼ぶものになる可能性がある。
基本的なインターネット接続があれば、誰にでも化学兵器や生物兵器の作り方を教えてくれる AI システムを想像してみてください。この情報をテロ組織が利用すれば、結果は悲惨なものになるでしょう。
兵器以外にも、いくつかの主要国は戦場で兵士の代わりとなる完全自律型AI搭載「殺人ロボット」の開発に着手しており、これがどのような展開になるかは想像するしかない。人間の兵士は即座に判断を下し、民間人の犠牲を避けることができる。AI殺人ロボットにそのような能力があるとは考えにくい。
中国は、新しい AI 搭載の船舶、潜水艦、航空機など、軍事用の AI 開発に注力している数か国のうちの 1 か国にすぎません。
実際、専門家によれば、中国は驚くべき速度で進歩を遂げており、その速さは米国の5倍だという。
米軍はすでに、特殊作戦部隊の任務で監視ドローンを操縦するためにAIを利用しており、ロシアとの戦争ではウクライナを支援してきた。AIはまた、兵士の健康状態を追跡し、空軍機のメンテナンス時期を予測し、宇宙での敵の監視にも役立っている。
明らかに、それは多くの用途があり、実際の戦闘のためだけのものではありません。
現在、国防総省は中国に遅れを取らないよう、2026年までに比較的安価で使い捨て可能なAI搭載の自律走行車を数千台配備したいと考えている。
キャスリーン・ヒックス国防副長官は8月、「レプリケーター」と呼ばれるこの野心的な取り組みは、「小型でスマート、安価で多数のプラットフォームを活用するという、あまりにも遅い米軍の技術革新の移行を活性化させる」ことを目指していると述べた。
米国はすでに完全自律型致死兵器を使用しており、科学者、業界の専門家、国防総省当局者など多くの専門家が、それらの兵器が現在どのように使用されているか、また、さらに能力が強化された将来どのように使用されるかについて懸念している。
当局は人間が常に管理すると主張するが、専門家はAIの進歩により「必然的に人間は監督者の役割に追いやられるだろう」と述べている。
最近では、AI技術がどのように発展し、最終的に制御不能になる可能性があるのかという懸念から、専門家によるAI開発の一時停止に向けた大きな取り組みさえありました。
これは、よくあるシナリオで予想されるように、ドローンの群れの中に殺傷兵器が大量に配備される場合に特に当てはまります。多くの国がこれに取り組んでいますが、中国、ロシア、イラン、インド、パキスタンのいずれも、米国が主導する軍事用 AI を責任を持って使用するという誓約には署名していません。
昨年11月、ロンドンの米国大使館で、カマラ・ハリス米国副大統領は一連のAIイニシアチブを発表し、AIがもたらす脅威について警告した。
ハリス氏は、AIの軍事利用に関するガードレールを設定するために31カ国が署名した宣言に言及した。この宣言では、署名国が法的審査と訓練を利用して軍事用AIが国際法を遵守すること、技術を慎重かつ透明性を持って開発すること、AIを使用するシステムにおける意図しない偏見を回避すること、そして制御不能に陥ることなく責任を持って技術を開発・展開する方法について議論し続けることを約束している。
「AIの軍事利用に対する原則的なアプローチには、リスクとメリットを慎重に考慮する必要があり、また、意図しない偏見や事故を最小限に抑える必要がある」と宣言は述べている。また、システムが「意図しない動作」を示した場合に解除または無効化する機能など、各国は軍事AIシステムに安全策を組み込む必要があるとも述べている。
この宣言は法的拘束力はないが、軍事用AIに自主的なガードレールを課す国家間の初の主要な合意となる。
同時に、国連総会は、自律型致死兵器の徹底的な研究を求め、そのような兵器の規制条件を定める可能性のある新たな決議を発表した。
AI を軍事に応用する場合、安全に使用するためには多くの作業が必要であることは明らかです。残念ながら、ロシア、イラン、中国、北朝鮮などのならず者国家を制御する方法はなく、西側諸国が技術の最先端を維持し、軍事用の AI を開発しない限り、遅れをとることになります。
AI を軍事利用することは危険です。それは確かです。しかし、それは戦争の未来であり、文明国は悪者より一歩先を行く必要があります。