金朝为了抵御蒙古，竭力笼络河北地方武装。金中都经略使苗道润先授张柔为定兴令，后升他为清州防御使，后又遥领永定军节度使，又兼雄州管内观察使，权元帅左都监，行元帅府事。1218 年六月，苗道润为贾瑀所杀，张柔檄召苗氏部曲于易州军市川集会，决意复仇，得到拥戴。金廷闻知，即任张柔为中都留守，兼大兴府尹、本路经略使，行元帅事。

　　正当张柔集绪军队讨伐贾瑀时，蒙古大军已进入紫荆关。八月，张柔率军迎战于狼牙岭，马蹶被执，遂以众降，仍受任旧职。接着，张柔作为蒙古的部将，攻下易州（今河北易县）、安州（今河北安新西南）、保州（今河北保定）、雄州（今河北雄县）。贾瑀盘踞孔山抵抗，因往山下汲水之道被切断，终于投降，张柔遂剖贾瑀之心以祭苗道润。

　　这年冬天，张柔徙治满城。金真定帅武仙会兵数万来攻，张柔大军不在，帐下仅数百人，竟以老弱妇女登城虚张声势，亲率壮士出敌后大破攻城金军，并乘胜攻克完州（今河北完县）。第二年（1219）春天，张柔进而攻拔祁州（今河北安国）、曲阳和定州（今河北定县）。攻打定州时，张柔与武仙之将葛铁枪战于新乐（今河北新乐东北）。他临阵颔中流矢，击落二齿，仍拔矢而奋战获胜。武仙遣藁城令刘成进攻，张柔生擒刘成而后释放。武仙又会兵攻满城，张柔亲自登城拒战，再中流矢，但仍带伤击败攻城敌军。到这年八月，张柔再次大举进攻，控制了深冀以北、真定以东三十余城以及许多山寨，于是“威名震河朔”①。在满城，张柔“定列数条，劝民修治耒耜，树艺桑麻”②，恢复了这里的农业生产，将这里建成自己的可靠地盘。在他的治下，数千驱口被释为良民。

　　正是凭借了史天倪和张柔在河北的军力和地盘，木华黎才在1220 年经略河北西路时，迫使金真定守将武仙宣布投降。武仙投降以后，木华黎以史天倪为河北西路兵马都元帅行府事，武仙为副。此后张柔当仍返驻满城，在1221年曾出兵攻克中都南面的固安和信安（今河北霸县东）。在以后木华黎继续经略山东与陕西的军事行动中，张柔似未在军前效力。《元史》本传称他“加荣禄大夫、河北东西等路都元帅”，似未必有据，不见于其他载录。但传文称燕帅孱赤台与张柔不和，陷害张柔，使中都行台“幽之土室”，险遭杀害，可知他一度颇不得志，甚至处境危险。

　　1225 年二月，真定武仙杀史天倪反叛，史天泽求援，张柔才出兵战败武仙。以后他又分遣部将攻略彰德（即相州，治今河南安阳）以及大名府路、山东西路一些地方，这些军事行动都是在带孙和孛鲁的统率下进行的。蒙古在这年十二月授他为行军千户、保州等处都元帅。1226 年，他出兵从孛鲁攻① 王鹗：《张柔墓志》，《元朝名臣事略》卷六《万户张忠武王》引。

　　② 王磐：《张柔神道碑》，《畿辅通志》卷一六八。

　　益都，迫使李全投降。

　　1227 年春，张柔以满城地窄，不能容众，移镇保州。保州在战乱中已荒废十几年，“柔为之画市井，定民居，置官廨，引泉入城，疏通沟渠以泻卑湿，通商惠工，遂致殷富；迁庙学于城东南，增其旧制”（《元史·张柔传》）。使保州重建成燕南一大都会。他自己也成为燕南的著名汉人世侯，领治城镇三十有余、军队数万、民户十万。在治理地方时，他信用儒士毛居节、贾辅等人，颇获实绩。

　　1232 年张柔参加伐金，升任汉军万户。张柔对部众说：“吾用兵，杀人多矣，宁无冤者。自今以往，非与敌战，誓不杀也。”围攻汴京，张柔军在城西北，金兵屡出接战，他横戈单骑陷阵，所向披靡。当金帝渡河企图进围卫州时，张柔等在沤麻冈（长垣西北）击败金兵，迫使金帝返回黄河以南。1233 年正月，金帝奔归德（今河南商丘），崔立以汴京降，张柔入城，于金帛一无所取，唯独进入史馆，取走《金实录》并秘府图书，并访求耆德及燕赵故族十余人卫送北归。接着，他参与进攻归德，金帝又奔蔡州（今河南汝南）。攻破蔡州城时他的军队率先攻入。在蔡州，他俘获状元王鹗，即解其缚，待以宾礼。亡金士大夫投奔到他门下的也有一批。后来，王鹗以及郝经、乐夔、敬铉等士子成为张柔幕府中的著名人物。王鹗教授张柔儿子读书达九年之久。一代名士元好问也与张柔有密切交往。

　　金亡后，张柔入朝，窝阔台大汗表彰了他的战功①，授以金虎符。1235年春，蒙古大举伐宋，兵分中、东、西三路南下。这年十月，窝阔台第三子阔出（又作曲出）所领中路军攻下枣阳时，张柔夺外城并绕出敌后立功。接着，他从太赤攻徐州与邳州（治今江苏邳县南）立功。1237 至1238 年间，他参加了曹武（在今湖北京山东）之役、光州（今河南潢川）之役、黄州、（今湖北黄冈）之役与滁州（今安徽滁县）之役，均有战绩。攻拔滁州时，飞石中其鼻，张柔裹疮复战，率精锐先登。这时张柔主力军实际上是按照蒙古大军东略淮南的行动而转移到了东路。与此同时，他的部将何伯祥率军在德安（今湖北安陆）、郢州（今湖北钟祥）、复州（今湖北天门）以及沿江上下作战。但是这时蒙古代宋之举目标有限，只是摧毁宋的地方行政机构，掠夺居民和财物，主要是一种惩罚性的军事行动，有的地方攻占以后又被宋军夺了回去。

　　1239 年，张柔奉命以本官节制河南诸翼兵马征行事，河南三十余城均属他管辖。在此后近二十年间，他为蒙古守卫河南南部与安徽西北部的防线，并不时出击威胁宋军。1240 年，诏令张柔等八万户伐宋，攻占寿州（今安徽凤台）。1241 年，保州升为顺天府，但张柔率军驻于杞县（今河南杞县之南）。1240 至1242 年间，张柔不止一次从淮河中游渡河进略安丰（今安徽寿春）、和州（今安徽和县）、滁州、扬州等地，迫使南宋竭力加强战略要地安丰的守备。1244 年，宋军收复寿州，但第二年，又被察罕与张柔的军队夺回。攻下寿州后，张柔欲留兵守城，察罕不从。在泗州（在今江苏盱眙隔淮河之北）战胜宋军后，其部下夹谷显祖得罪反诬，张柔一度被执留北方，但得到大臣们的辩白保护而度过危难。此后，张柔仍驻杞县，不断进扰淮西与淮东一些州县，对南宋的东线构成威胁。