RHEMS Japan

AIは武器にも道具にもなる — 任せる範囲を決めるのは人間

防衛省が11月末に公表する「Defense AI Vision」。AIは兵器にも道具にもなります。争点は性能ではなく、任せる範囲と責任の置き場所。遅れているのは国か、企業か。

防衛省が、AI活用の新しい方針「Defense AI Vision」を11月末に公表します。2024年7月に作った「防衛省AI活用推進基本方針」を2年余りで見直すもので、小泉防衛大臣は3文書改定の議論を踏まえ「AIとデータを実際の防衛力の強化に繋げ、現場で使えるものにしていく」と説明しています。

2年で見直す、という事実のほうが中身より雄弁です。方針が古くなる速さは、技術の進歩そのものではなく、任せ方が変わった速さです。「どこまで任せ、誰が責任を負うか」という問いは防衛省に固有のものではなく、AIを使う会社なら規模に関係なく同じ問いに立っています。

2年前の基本方針にすでに書かれている原則を、自社の運用に翻訳するとどうなるかを整理します。結論は2つです。AIが兵器にも道具にもなるかを決めるのは、性能ではなく任せる範囲と責任の置き場所であること。そして、いま遅れを取っているのは国ではなく企業の側ではないか、ということです。

防衛省の方針が示すもの

基本方針は、重点的にAIを使う7つの分野を挙げています。目標の探知・識別、情報の収集・分析、指揮統制、後方支援業務、無人アセット、サイバーセキュリティ、事務処理作業の効率化です。

7つを並べると、性格の違うものが混ざっています。探知・識別や無人アセットは装備に近い領域、指揮統制は判断の支援、後方支援と事務処理は日々の業務です。この3種類をひとまとめに「AIの活用」と呼ぶと、議論が噛み合いません。

見直しで問われるのは、7分野が変わるかどうかより、3種類のどれに力を置くかです。「現場で使えるものにする」は、装備より後ろの2つを指す可能性が高い。だとすれば企業の実務に重なる話です。

ブームかは予算と制度で分かる

AIが一時の流行かどうかは、言葉の量では判定できません。方針が作られ、上位の文書に反映され、予算と組織が付くかで判定します。防衛省は2024年7月に初めての基本方針を作り、年内の3文書改定を踏まえて2年で見直します。防衛費は5年間で60兆円規模という調整が報じられています。

流行なら、方針は作られても見直されません。見直しの手続きが回るのは、使う側に改善の要求があるからです。この順番(文書、予算、現場)が回っている技術は、流行ではなく基盤になっていく途中だと見てよいと思います。

核兵器と並べると見失うもの

AIの重要性を「核兵器と同じ」と表現したくなります。国家の力を左右する技術という意味では外れていませんが、性質は正反対です。核兵器は使わないことに価値があり、AIは使われるほど価値が出ます。同じ土俵に置くと、議論が「使うか使わないか」に縮み、日々の業務でどこまで任せるかという論点が抜け落ちます。

正確に言うなら、AIは製鉄や内燃機関、暗号と同じ汎用技術です。民生にも安全保障にも同じものが使え、切り分けがつかない。だからこそ国家にとっての重要度は最高級で、「持っているか」より「どう使うかを決められるか」が問われます。

切り分けられないなら、判断の場所を変えるしかありません。何を使うかではなく、何を確認してから使うかを決める。思想ではなく調達の設計の話です。

任せる範囲を決めるのは誰か

基本方針には、はっきり書かれています。「AIが行うのは人間の判断のサポートであって、その活用に当たっては、人間による関与を確保する必要がある」。利用の判断と決定は人が行う、と。

日本は、人間の関与が及ばない完全自律型の致死性兵器を開発する意図がないことを表明し、2023年11月には米国主導の「AIと自律性の責任ある軍事利用に関する政治宣言」への支持と参加を表明しています。任せる範囲を先に決め、責任の所在を人間に残す。この順序が、国家安全保障の水準でも採用されているということです。

企業の側で置き換えると、シンプルな問いになります。AIの結論で誰かの評価や処遇が動くとき、その決定を押したのは誰か。押した人が説明できないなら、まだ任せすぎです。

説明できないAIは使えない

説明のためには記録が要ります。どの入力から、どの根拠データを引き、どの処理を通ってその出力になったのか。辿れないと誤りを見つける場所がなく、誤りを見つけられないものは業務に入れられません。

実装の話をすると、AIに文章を作らせて人に渡すより、出力を検索条件や実行する操作に変換し、正しい値はデータベースやAPIから取る形のほうが検証しやすくなります。誤りが「間違った答え」ではなく「間違った解釈」になり、実行の前に止められるからです。設計の詳細はソブリンAIの実体は、モデルではなく「電力網」にあるに書きました。

調達の物差しが変わっている

基本方針は、総務省と経済産業省の「AI事業者ガイドライン」の7原則(人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ)を参考にすると書いています。軍事利用でも物差しは民生と同じです。

ベンダーを選ぶときに聞くことは、性能の数字より先に3つあります。学習データの出所と扱いを説明できるか。出力の根拠を、自社のデータまで遡れるか。モデルを替えたときに、何が残り何が作り直しになるか。この3つに答えられない製品は、性能が高くても運用に載りません。

遅いのは国ではなく企業か

国の対応は遅い、という評価は根強い。ですが、この2年の動きを見るかぎり、少なくとも「決め直す速度」は上がっています。方針を作り、上位の文書に反映し、見直しの時期を決めて、また作り直す。防衛省はこの周期を2年で回しました。

企業の側はどうか。帝国データバンクが2026年3月に実施した調査では、生成AIを業務で活用している企業は34.5%。従業員1,000人超では63.6%ですが、5人以下では29.6%です。IPAの「DX動向2025」も、日本企業のDXは業務効率化という内向き・部分最適にとどまっていると指摘しています。

数字は乱暴に読まないほうがいい。使っていない65%が遅れていると決めつけるのは違います。ただ、方針を作り、期限を決めて見直すという手続きを持っている企業は、多くはないと見ています。国が2年で見直したものを、自社は何年で見直しているか。この問いには、数字より正直な答えが出ます。

見習うべきは更新の頻度

国から見習うべきは、予算の大きさでも装備でもありません。方針に見直しの時期と責任者を書き、期限が来たら中身を入れ替えるという手続きです。Defense AI Visionは、基本方針から2年で作られました。

AIの利用方針を一度作って、そのまま更新していない会社は少なくないはずです。見直しの頻度は、そのまま学習の速度になります。使ってみて分かった誤りを、どの業務を任せ、どこを人が承認するかの線引きに戻す。この往復がある会社だけが、モデルが替わっても運用を保てます。

自社の線引きを文書にする

最後に実務です。任せる範囲は、感想ではなく文書で決めます。①業務を単位に分け、AIに任せる範囲と人が持つ範囲を書く。②承認を押す人を決める。③止め方を決める(想定を外れたら止める、影響の大きい操作は承認を挟む)。④判断と出力の記録を残す。

包丁と同じで、道具か武器かは使い方で決まります。家庭の包丁が凶器にならないのは、刃物の性能が低いからではなく、誰がどこで使うかの取り決めがあるからです。AIにも同じ取り決めが要ります。決めていない組織は、性能の高い道具を、決めていないまま持っている状態です。

相談できること

当社は、この往復を企業の側で作る支援をしています。AIOpsを軸に、任せる範囲の線引き、承認と記録の手順、見直しの時期と担当までを、運用に載る形で一緒に決めます。国の方針をそのまま持ち込むのではなく、自社の業務に合わせて作り直すのが仕事です。

変化に乗り遅れるかどうかは、モデルの性能では決まりません。決め直せる形になっているかで決まります。その最初の一歩を、企業の側で一緒に作りたいと考えています。お問い合わせください。

参考

※2026年11月17日時点の公開情報に基づきます。Defense AI Visionの公表後に、事実関係を更新する場合があります。

  • 防衛AI
  • AIガバナンス
  • 説明責任
  • 調達
  • 人間の関与

この記事は役に立ちましたか?

この分類のサービス

この内容について、運用の相談を承ります。

お問い合わせ