建文元年（公元1399年）七月，黄子澄、齐泰杀燕王之事泄露后，朱棣起兵“靖难”召集张玉、朱能守卫王府。后下令夺取北平城，大将张玉率兵乘夜攻进北平九门，占领北平城。同年八月，建文派老将军耿炳文至真定会战朱棣。朱棣谴张玉侦察敌情，张玉口出狂言。言敌军纪律涣散，打败他们易如反掌，朱棣许之。战役中，朱棣领数千人从城西南侧击，张玉、朱能、潭渊从正面猛攻。两面夹击大败耿炳文。史称真定之战。张玉后历经数十战役，成为朱棣麾下第一战将！东昌之战中，朱棣攻盛庸东侧，不料进入伏击圈，突围中被盛庸包围。张玉、朱能率亲兵向南军包围猛冲救主。朱能负责救朱棣；张玉负责引开敌军，这一引就没再回来。朱能成功救出朱棣。但杀红眼的南军怎甘心煮熟的鸭子飞了？于是向张玉猛攻，张玉力竭而死。此战北军（朱棣方）元气大伤、士气不振。为了鼓舞士气，朱棣拿张玉做文章：亲自为其主持追悼会，为其亲写悼文。朱棣即位后称其为靖难第一功臣。长子张辅册封为英国公，世袭罔替，曾率数万军队平定安南叛乱，功勋彪炳，土木堡事变中死于乱军。