パランティアUKの責任者、戦争でのAIによる標的設定の使われ方は軍が決めるべきだと発言

8分前

シェアセーブ

Googleでお気に入りに追加

Marc Cieslak、AI特派員

Matt Murphy、BBC Verify

パランティアのルイ・モズリー氏は、軍がAIシステムの使われ方に責任を負うべきだと述べた

テック大手パランティアは、軍が同社のAIプラットフォームを使用することで、予期しないリスクにつながる可能性があるとの懸念に反論し、BBCとの独占インタビューで、技術の使い方は軍の顧客の責任だと主張した。

これは、パランティアのAI搭載防衛プラットフォーム――Maven Smart System――が戦時に使用されていることや、米国によるイラン攻撃での使用が報じられていることについて、専門家が懸念を表明していることを受けたものだ。

アナリストらは、攻撃の計画に役立つこのプラットフォームを軍が使うことで、その出力を「意味のある形で検証」するための時間がほとんどなくなり、誤った標的が攻撃される可能性があると警告している。

しかし、同社の英国・欧州担当責任者ルイ・モズリー氏は、BBCの幅広いインタビューで、MavenのようなAIプラットフォームはイラン戦争における米国の運用にとって「重要だった」一方で、それらの出力がどのように使われるかに関する責任は常に「軍事組織側にあるべきだ」と述べた。

「常に人が関与するので、最終決定を下す人も常にいます。これが現状の仕組みです。」

Maven Smart Systemは2017年に国防総省（ペンタゴン）によって立ち上げられ、諜報の幅広い情報を含む大規模なデータ（衛星画像やドローン画像など）を一つにまとめることで、軍の標的設定の意思決定を迅速化するよう設計されている。

このシステムはそのデータを分析し、その後、標的設定のための提案を提示できる。また、航空機のような人員や軍事装備の利用可能状況に基づいて、使用する武力のレベルを提案することも可能だ。

しかし、こうしたツールが戦争で使われることへの監視は高まっている。2月、ペンタゴンは、同社が自社AIの自律型兵器や監視での使用を認めることを拒否したため、Mavenの稼働を支えるアンソロピックのClaude AIシステムを段階的に廃止すると発表した。パランティアは、代替案がそれを置き換えられると述べている。

2月にイランとの戦争が始まって以来、米国は同国各地での攻撃を計画するために、報道によればMavenを使用してきた。

パランティアのMaven Smart Systemのデモ映像

Mavenが誤った標的――民間人を含む可能性もある――を示唆するリスクについてBBCが指摘したことを受け、モズリー氏は、このプラットフォームは軍の人員の意思決定プロセスを迅速化するためのガイドとしてのみ意図されており、自動化された標的設定システムとして見なされるべきではないと主張した。

「それを支援ツールだと考えることもできます」とモズリー氏は言った。「以前は彼らが一つずつ手作業でやらなければならなかった、膨大な量の情報を統合できるようにしているのです。」

しかし、BBCが、時間に追われる指揮官がモズリー氏の出力を“お墨付き”のように扱うリスクについて突き付けた際、モズリー氏は個々の軍に先送りした。

「それは私たちの軍の顧客にとっての問題です。誰がどの決定を下せるかを決める政策の枠組みを決めるのは彼らです」と同氏は述べた。「それは私たちの役割ではありません。」

2月28日以降、米国はイランに対して11,000回以上の攻撃を行っており、その多くは報道によればMavenによって特定されたという。

中東における米軍のトップ、ブレッド・クーパー海軍大将（Adm Brad Cooper）は、将校が「何千ものデータを数秒でふるいにかけられるようになり、指導者が、敵が反応する前に、ノイズを切り抜けてより賢い判断をより早く下せるようになる」とAIシステムを称賛した。

AI企業アンソロピック、利用者の「誤用」を止めるための兵器専門家を求める

OpenAI、反発を受けて米軍との取引を変更

トランプ氏、AIの使用をめぐる戦いで政府に対し、バトルでアンソロピックを使うのをやめるよう命令

だが、ミッション計画へのAIの関与は重大なリスクを生むのではないかと心配する声もある。

「スピードと規模を優先し、さらに武力の使用をその後に置くことで、標的が偶発的に民間人を含まないかを確認するための“意味のある検証”の時間がほとんどなくなります」と、ロンドン大学クイーン・メアリー校のエルケ・シュワルツ教授は語った。

「もし“殺害のリスク”があり、そうしたことをあなたの代わりにソフトウェアが処理してくれると考えて重要な思考の多くをソフトウェアに肩代わりさせることになるなら、あなたはソフトウェアに依存するだけになります」と同氏は付け加えた。「底辺へ向かう競争です。」

ここ数週間、ペンタゴン当局者らは、イランのミナブの町にある学校が攻撃された致命的な襲撃で、MavenのようなAIツールが標的の特定に使われたのかどうかについて問われている。

イラン当局は、この攻撃で戦争の開戦初日、168人が死亡し、そのうち約110人が子どもだったと述べた。

連邦議会では、多数の上級民主党議員が、MavenのようなAIプラットフォームへの監視を強めるよう求めている。下院軍事委員会のメンバーであるサラ・ジェイコブズ下院議員は、AIシステムがどのように、そしていつ使われるのかについて、明確に徹底されたルールと規制を求めた。

「AIツールは100%信頼できません。微妙な形で失敗することがあり得るのに、運用者はそれらを過度に信頼し続けます」と、同氏は先月NBCニュースに語った。

「私たちは、軍によるAIの使用に関して厳格なガードレールを運用し、致死的な武力を使うためのあらゆる決定で人間がループ内にいることを保証する責任があります。判断を誤った場合のコストは、民間人と、これらの任務を遂行する要員にとって壊滅的になり得るからです。」

しかしモズリー氏は、自社プラットフォームのスピードがペンタゴンでの意思決定を急がせ、危険な状況を生み出し得るという提案には反論した。代わりに同氏は、指揮官が今取りつつある行動の速さは、Mavenが可能にした「効率の向上の結果」だと主張した。

「作戦上の機密性」を理由に、ペンタゴンは、BBCから将来MavenのようなAIシステムがどのように使われるのか、また何か問題が起きた場合に誰が責任を負うのかについて問われた際、コメントを差し控えた。

しかし、米国では当局者がMavenを同国のシステムにさらに統合する計画を進めているようだ。

先週、ロイター通信は、ペンタゴンがMavenを「公式の記録プログラム（an official program of record）」として指定したと報じた。つまり、米軍全体において長期的に統合される技術として位置付けたのだ。

ロイターが入手した書簡の中で、防衛次官のスティーブ・フェインバーグ氏は、このプラットフォームが指揮官に対し、「あらゆる領域において、敵対者を察知し、思いとどまらせ、制圧するために必要な最新のツール」を提供すると述べた。

追加取材：Jemimah Herd

人工知能

イラン戦争