张俭字元节，山阳高平人，是赵主张耳的后代。

父亲张成，任江夏太守。

张俭最初被荐举为茂才，因为荐举他的刺史不太好，便托病不去就职。

延熹八年，太守翟超请他出任东部督邮。

当时中常侍候览家在防东，残害百姓，行为不轨。

张俭检举弹劾侯览及其母亲的罪恶，请朝廷诛杀侯览。

侯览扣压了奏章，不能上达皇帝，因此两人结仇。

张俭的同乡朱并，向来品性诌佞邪恶，为张俭所不齿，朱并因此怀恨在心，于是上书告发张俭与同郡二十四人结为私党，朝廷删削掉奏章上朱并的名字发下，下令逮捕张俭等人。

张俭被迫逃命，困顿窘迫，四处奔逃，看到人家就投宿，人们无不敬重他的姓名行止（《辞源》“名行”条。

在语境中似“名声品行”更好）都冒着家破人亡的危险收留他，后来流转到东莱郡，藏在李笃家。

外黄令毛钦率兵到李笃家搜捕，李笃把毛钦叫到一旁对他说：“张俭知名天下，虽然逃亡，并非有罪。

即使张俭可以抓到，难道你就忍心拘捕他吗？”毛钦起来拍一拍李笃说：“蘧伯玉以独自当君子为可耻，足下怎能以仁义自专？”李笃说：“我虽然向往道义，今天尊驾也得到一半了。

”毛钦叹息而去。

李笃趁此机会将张俭送出塞外，因此能够幸免于难。

他所经过的地方，有几十人遭受极刑，宗族亲戚都被灭绝，郡县因此遭到严重破坏。

中平元年，党事解除，张俭回到家乡。

大将军、王公都征召他，又荐举他为敦朴，公车特征，从家中请出，任少府之职，他都没有应召。

献帝初年，百姓遭饥荒，而张俭家资产略能维持温饱，于是拿出所有的财产，与邑人共同享用，靠张俭活下来的有几百人。

建安初年，朝廷征召他做卫尉，不得已而就职。

张俭看到曹氏的德运已经显现，就辞官不做，闭门谢客，不问政事。

一年多后，张俭在许县去世，时年八十四。