1933年5月，蒋介石因为“剿共”惨败，认定国民党军是一支“丧失革命精神”的“野蛮军队”。在成立“军事委员会委员长南昌行营”督师“剿共”之际，蒋介石将进攻中央苏区的数十万国民党军重新编配，组成“赣粤闽湘鄂北路剿匪军”。此北路军，全数为蒋介石嫡系，亦即所谓“中央军”。为“培养学员的新精神”，“剿灭”红军和共产党，又“特设北路剿匪军官训练团”，这就是闻名的庐山军官训练团。当年7月18日至9月18日，该训练团连续举办三期，训练北路军军官及陆大学员共7598人。

　　当时，军官训练团团址在海会寺，寺前约两百米处，还专门建造了一座木牌坊，成为军官训练团的辕门，高悬蒋介石手书“军人魂”三字。可见，庐山军官训练团的办团宗旨，就是所谓的“军人魂”。而“军人魂”短剑，即为这一主旨的衍生物。每当学员结业时，每人就会获赠一把这样的剑。

　　由此，“军人魂”短剑开始成为国民党军正式列装的物件。1935年到1945年间，是“军人魂”短剑的“黄金时代”，各类短剑呈泛滥之态大行于市，佩剑之风漫卷“国军”。至抗战胜利，伴随着美式服装的出现，“军人魂”短剑运数告尽，基本上寿终正寝。

　　1945年8月，在“军人魂”短剑行将消亡之际，大大风光了一把。抗战胜利之际，在各战略区主要地，于日使洽降、对日受降之刻，国民党军的高级将领，个个佩“军人魂”短剑，接受日军降将的战刀和投降书。