出身“宝剑之乡”浙江省龙泉市，自幼受父辈熏陶，年少离家，由南至北，拜访名师习得铸剑手艺，回乡开宗立派，终成一代名师。胡小军的经历，与众多武侠小说中的人物生涯及其相似。
拥有2500年铸剑史的龙泉，自古便有“百兵之君”的美称。从小生活在“刀光剑影”之中，刀枪剑戟成为了胡小军幼年最大的兴趣所在。
1996年，大学毕业的胡小军入职大连一家外资企业，闲暇之余，胡小军选择在大连各大公园门口摆摊，向前来锻炼的中老年人兜售龙泉宝剑。1998年间，胡小军索性辞掉工作，建起了一家专门售剑的店铺。
而一次偶然的机会，胡小军结识到一名来自台湾的铸剑师。1999年到2006年，胡小军用8年时间沉淀技艺，在练就一身好“功夫”后，胡小军决定，重返龙泉。但这一次，他不仅是一名商人，更是一位匠人。
在家乡龙泉市河村，胡小军拉起了自己的铸剑坊，并起名“剑村”，邀约同村几位年轻的铸剑师加入后，“剑村”实力大增。“龙泉村的铸剑氛围好，但只生产低端龙泉剑，效益不好，当时我就下定决心，要走手工孤品的路子，一心追求2500年前的技艺。”胡小军说。
2006年，电影《赤壁》开拍，在龙泉的众多剑坊中，剧组最终选择了当时还籍籍无名的胡小军。5把佩剑需用汉代工艺打造，难度异常，每一次捶打、温度、力度都不一样，原本需费时8月的5把剑，胡小军和剑村师傅们仅用了3个月便将其完成。而这5把剑，也让胡小军一时间名声大噪，《小夜刀》、《孔子》、《太极》等剧组也纷至沓来，寻求剑村作品。
2009年，胡小军成立国内首个刀剑研究院—龙泉刀剑研究院，并与华南师范大学、台北故宫博物院等展开广泛交流。研究院里，胡小军挂出“小”“和”“不”“止”的大字横幅，“善小而为，和合终缘，和而不同，止于至善。”在胡小军看来，这是一个铸剑师的追求。
