建炎四年（1130年），张浚认为中兴应当自关陕开始，考虑金人也许会先入陕取蜀，则东南不可保，所以请行为川、陕宣抚处置使。既抵兴元，金兵已取鄜延，金将娄宿孛堇引大兵渡渭水，攻永兴，宋将都按兵不动，不肯相援。张浚到任，即访问风俗，罢斥奸赃，以搜揽豪杰为先务，诸将惕息听命。
　　此时谍报金人将攻东南，张浚命诸将整军向敌。不久金人大攻江、淮，张浚即治军入卫支援。到达房州，知金人北归，又回师关陕。这时金兀术犹在淮西，张浚惧其继续骚扰东南，想牵制之，遂决策合五路之师攻打永兴，以调动金兵。果然金急调兀术、完颜娄室、完颜宗辅等等入援，大战于富平。泾原帅刘锜身率将士冲击敌阵，杀获颇众。但环庆经略使赵哲畏敌先逃，宋军挫败，张浚退驻兴州，斩赵哲。命吴玠聚残兵扼险于凤翔之和尚原、大散关，以断敌来路，张浚上书待罪，宋高宗手诏慰勉，没有追究。
　　张浚在关陕三年，训练新兵，以刘子羽为上宾，任赵开为都转运使，擢吴玠为大将守凤翔。刘子羽开善理财，而吴玠每战必胜。西北遗民，归附日众。所以虽然关陕丢失，但全蜀安全，且以形势牵制东南，江、淮亦赖以安。
　　绍兴元年（1131年），金将乌鲁攻和尚原，吴玠乘险击之，金人大败走。完颜兀术亲自出马，吴玠及其弟吴璘又大破之。这就是吴玠的大散关和尚原之战。张浚论功升检校少保、定国军节度使。