人工知能（AI）が生成・補助した誤った情報によって、米軍が中東の海上で中国船舶に対する強制強制臨検・軍事作戦を実施する寸前まで事態が進んでいた。CNNが2026年9月18日、複数の米当局関係者の証言として報じた衝撃的なニュースは、軍事AIの急速な導入が抱える致命的なリスクを白日の下に晒した。
参考・引用：Exclusive: US military had close call after using AI for false intelligence report, sources say
武装部隊の乗船準備と軍用機の発進
報道によると、事案が発生したのは2026年春、イランとの戦争・緊張が続いていた中東情勢の最中だった。当時、米軍内部で「中国船が核兵器計画に関連する部品を輸送している」とするインテリジェンス報告が回覧された。核関連物資を中国船が輸送しているとの情報は米軍に即座に警戒警報を鳴らさせ、軍関係者は対象船舶の接近・強制臨検（乗船調査）の準備を開始。関係者によれば、武装した米軍要員が乗船に向けて機動準備を整え、上空にはすでに軍用機が展開していたという。もし中国の対外船舶に対して米軍が武力を行使していれば、米中間の直接的な軍事衝突に発展する可能性は極めて高かった。
誤認識のメカニズム：機密情報とAIの「幻覚」
作戦開始が間近に迫った段階で関係者が報告書の内容を精査したところ、背後に潜む恐るべき事実が判明する。問題の報告書は、ハワイに拠点を置く米太平洋特殊作戦司令部（SOCPAC）のアナリストが、AIチャットボットを用いて作成したものだった。アナリストが船舶の積載目録（マニフェスト）についてAIに照会した際、チャットボットは政府の機密信号情報（SIGINT）とオープンソース情報（OSINT）を独自に統合・分析する過程で、積載物を「核兵器部品」と誤って判別（幻覚/ハルシネーション）していた。アナリストはその誤った出力を批判的に検証することなく、再びAIを用いて標準的なインテリジェンス報告書の形式に整え、軍内部へ拡散させていたのである。
CNNの取材に応じた元高官は、軍内部で使われているAIツールについて「実態は既存の商用モデルの表面を取り繕った程度のものが多い」と指摘。別の関係者は、このインテリジェンスを「完全に虚偽だった」とした上で、「もう少しで戦争を始めるところだった」と語っている。
「速く間違った結論にたどり着く」構造的危機
今回の問題の本質は、「AIが自律的に攻撃を決断した」ことではなく、「AIが生成した誤情報を人間が過信し、意思決定の最上層まで高速で伝達されてしまった」点にある。米国防総省では2026年1月、ピート・ヘグセス国防長官が「AI加速戦略」を打ち出し、全軍でAI活用を推進していた。しかし、AI導入が各部隊で分権的に進められた結果、生成された情報の精度を検証するための統一的な基準やプロトコルが存在しなかった。特にデジタルツールに親しんだ若いアナリストほど、AIの回答を批判的検証なしに鵜呑みにしやすい傾向が懸念されている。軍関係者の一人はこのリスクを短く切って捨てた。
「AIとは、より速く間違った結論にたどり着くためのツールだ」
さらに、標的選定（ターゲティング）へのAI適用が広がる一方で、「人間が介入する（Human-in-the-loop）」ことでいかに誤爆や誤認衝突を防ぐかという実質的なガイドラインの不備も浮き彫りになっている。
迫る米中首脳会談と「核並み」のAI管理規約
今回のスクープは、2026年9月24日にワシントンで予定されているトランプ大統領と中国の習近平国家主席による米中首脳会談を約1週間後に控えたタイミングで報じられた。両国首脳の会談では、軍事AIのリスク管理が主要議題の一つになると見られている。これに先立ち、9月17日には米ブルッキングス研究所と中国・清華大学などの専門家チーム（トラック2対話）が、軍事AIに関する管理策を両国政府へ提言した。提言では、以下の規制が盛り込まれている。
- 核指令システムへのAI干渉の全面禁止（レッドラインの設定）
- 重大な攻撃決定における「実質的な人間の制御（Meaningful Human Control）」の定義共通化
- AIの誤作動や過剰反応による偶発的衝突を防ぐ「米中軍事AIホットライン」の設置
戦場において、数分・数秒の判断の遅れは致命傷となり得る。しかし、超大国同士が対峙する極限の状況においては、「判断を速めすぎること」こそが地球規模の惨事を引き起こす最大のトリガーとなる。AIによって情報処理速度が加速度的に増す時代だからこそ、意図的に「人間が立ち止まって検証する時間」をシステムの中にどう組み込むか。一隻の中国船をめぐる今回の危機は、人類が直面する新たな安全保障の課題を極めてリアルに示している。