从建研二年（1128年）秋天到三年春天，晋军再次进攻宋朝，先头部队直接指向扬州。 还在扬州“巡查”的赵勾匆匆弃城逃往杭州。 这时，苗甫和刘正彦发动政变，迫使赵苟退位。
当时，张俊屯在吴江县（今江苏武县以南）。 在将领中，张军已经相当有威望了。 为了稳定政变局势，苗福等人下诏封张军为日天四军司令官，但张军拒绝接受。 这时，三军怒火中烧，张军向众人宣布：“此事，应该由张世朗（也就是以前是礼部侍从的张军）来决定。 “军事精神已经决定。 张军随后率领8000人前往平江（今江苏苏州）会见张军。 张军向张军详细叙述了政变的经过，泪流满面。 张钧在湘州秦皇后之后颇受赵苟的重视，此时看到张钧对朝廷如此忠心耿耿，为之动容，流着眼泪向张钧表示忠贞，并举兵向苗、刘等人索要罪行。 这时，韩世忠、陆逸杰、刘广石三人前来开会，约定一起商量苗、刘。 于是张骏把消息传遍国内外，揭发苗、刘的罪行，并命令张、韩、刘、吕三人造反。 张汉两军与苗府军激战，苗府军败逃。 张军、韩世忠、刘广石、陆义豪三人进城，在内殿与高宗赵沟会合。 高宗将领们一一称赞，然后再次登上皇位。 冯张军是镇西军的使者，皇帝面前的右军在掌控之中。 后来，他被任命为浙东使节。
不久，晋武71率晋军南下，河道防御彻底崩溃，晋军渡过长江围攻建康。 10月，高宗赵九听说江方陷害，急忙率领民军大臣放弃临安（今杭州）和本明州（今浙江宁波）。 张骏率军从岳州（今浙江绍兴）到明州护送他。 晋军攻占临安，赵苟想继续南逃，离开明州时，亲自将御书交给张军，命令他率兵抗敌明州。 不久，晋军抵达明州城，张军率军迎战。 张军的部队将击溃晋军，斩杀数千名敌人。 晋军见强攻失败，想要投降张军，但张军断然拒绝。 然后张军认为敌军会再来，于是下令清理旷野，用轻舟伏击弓弩，撤退自卫。 建严四年（1130年）的第一天，西风骤然起，晋兵趁风再次攻打明州。 张钧和他的家臣刘宏道坐在城塔上，派兵杀敌。 无数晋军士兵死在江里，只好趁夜逃亡。 又过了七天，晋军再次进攻明州。 由于敌人太强大，张军为了保兵，撤退到台州（今浙江临海）。
之后，张军平定了江淮盗贼，被封为队长; 消灭傀儡齐政权，获得少宝之位。