旧ソ連とか、旧東独とか、もう存在しない組織に対して使ってる気がします。
北方不敗

自衛隊内部でも、「旧軍」とか、「旧海軍・旧陸軍」と言う言い方をしますね。
今の日本は「軍」を持ってはいけないことになっていますので、一種の言葉遊びですよね。
元むらくも乗員

通例，マスコミなどが「旧日本軍」と使う場合は帝国陸海軍をさしているものと考えて間違いないと思います．論理的にはご指摘の通り，「旧日本軍の」という用法は奇妙なものなんですが，たとえば「旧日本軍の施設から不発弾が発見された」なんて表現で，「軍の施設」といえば，現在，軍隊を持たない日本でのことですと，米軍の事をさしているようでもあり「日本軍の施設」とすれば，自国のことにことさら「日本」をつけることで，座りのわるい表現になります．ニュースのヘッドラインで「旧日本軍」と使うのは慣用としては許される範囲でしょう．
この類の慣用（あるいは誤用）は，「旧軍」に限らず，また日本語に限らず多く見られます．私は個人的には「旧日本軍」の類の語は使いません．が他人が使っている場合は「昔あった日本の軍隊」ぐらいのニュアンスで理解しています．
ウマシカオ