曹操麾下“謀臣如雨，猛將如雲”，謀臣之首當推荀彧，猛將之雄則為張遼。
張遼字文遠，並州雁門郡馬邑（今山西朔州）人。張遼生在邊郡，長於騎射，武力過人，年輕時為郡中小吏。東漢末年，並州刺史丁原受詔將兵入京，任張遼為從事。丁原被部下大將呂布殺害後，部眾均歸呂布。呂布殺董卓，張遼升任騎都尉。後呂布戰敗，東奔出關，張遼追隨之。
在呂布與曹操爭奪兗州、徐州的長期戰爭中，作為重要將領的張遼屢立戰功，使曹操吃了不少苦頭。呂布據徐州時，張遼被任為魯相，時年方二十六歲。
曹操擊滅呂布後，張遼降操，被任為中郎將，封關內侯。後遷為裨將軍。
張遼與關羽是知心密友，在關羽被迫降曹操後，曹操懷疑關羽無久留之意，讓張遼探問之。關羽對張遼談了自己的心事，說：“吾極知曹公待我厚，然吾受劉將軍（劉備）厚恩，誓共生死，不可背之，吾終不留。”張遼欲將此事告訴曹操，又怕曹操因此即殺關羽，則負朋友，不告，則負曹操，三思後乃歎曰“公君父也，羽兄弟耳”，於是告之。
官渡之戰後，曹操派張遼平定魯國諸縣，並與夏侯淵等率兵圍叛將昌豨於東海郡。昌豨據險固守，曹軍攻數月不克，糧盡。諸將商議，欲引軍還。張遼對夏侯淵說：“數日以來，每行諸圍，豨則屬目視遼，又其射矢更稀，此必豨計猶豫，故不力戰。遼欲挑與語，倘可誘也。”於是，張遼單身上昌豨所據之三公山，入其家，拜其妻子，動員昌豨降曹，並保證曹會赦其罪。昌豨為呂布舊部，知張遼為人忠誠，於是歡喜放心投降。之後，張遼又陪昌豨見曹操，曹操赦之遣還。
後來，張遼又參加了討伐袁尚、袁譚的戰爭，屢立戰功，行中堅將軍。建安九年（204），從曹操攻破袁氏都城、河北重鎮—— 鄴城。此期間，張遼又率別軍先後討平陰安、趙國、常山、海濱等地，戰功卓著。故其平海濱，還鄴時，曹操親自出城迎接張遼，並且與張遼同坐一車，以示嘉獎。
這時，張遼和於禁、樂進並為曹操之三大名將。建安十一年（206），曹操上表漢帝，讚三人功勳說：“武力既弘，計略周備，質忠性一，守執節義，每臨戰功，常為督率，奮強突圍，無堅不陷，自援枹鼓，手不知倦，又遣別征，統帥師旅，撫眾則和，奉令無犯，當敵製決，靡有遺失。論功紀用，宜各顯寵。”（《三國誌·樂進傳》）於是封張遼為**寇將軍，於禁、樂進分別為虎威、折衝將軍。建安十二年（207），曹操大封功臣，張遼被封為都亭侯。
同年，張遼又隨曹操進軍柳城（今遼寧朝陽），討伐三郡烏桓及遁逃於烏桓的袁尚、袁熙兄弟。在白狼山（今遼寧喀喇沁左蒙古自治縣東境）與敵軍主力遭遇。事出倉促，敵人甚眾，曹軍輜重在後，披甲者少，左右皆懼，而張遼力勸曹操交戰，氣甚奮。於是，曹操以張遼為先鋒，以所持麾授之。張遼縱兵奮擊，大破敵軍，陣斬烏桓單於蹋頓等，在戰爭中立下首功。
建安十三年（208），曹操遣張遼率軍移屯長社（今河南長葛東北）。臨出發，軍中有謀反者，四處放火，一軍盡亂。張遼冷靜分析後，認為這不是部隊皆反，必是少數謀叛者擾亂軍心。於是命令不反者安坐帳中，而親自率兵十人巡營中以鎮之。一會兒，軍中就安定下來。之後，張遼查出叛謀首領，悉誅之，平息了兵變。
建安十四年（209），曹操進軍淮南，東征孫權，而陳蘭、梅成反於廬江。曹操派張遼督張郃、朱蓋討陳蘭，於禁、臧霸討梅成。梅成偽降而後複叛，率眾與陳蘭會合後，轉入廬江境內之天柱山（今安徽霍山）。其山險峻，道路窄狹，寬僅容一人，蘭、成據險固守。諸將多認為兵少道險，難以深入。張遼說：“此所謂一與一，勇者得前耳！”於是，進至山下，率軍強攻，“斬蘭、成，盡虜其眾”。曹操撰文讚之曰：“登天山、履峻險，以取蘭、成，**寇功也。”並增其封邑，予以假節，以示重用。
平蘭、成之後，曹操派張遼與樂進、李典等率兵七千人屯合肥，以備孫權。
建安二十年（215），曹操討漢中張魯。臨行，與合肥護軍薛悌一函，封麵上署曰：“待賊至乃發。”果然不久，孫權率大軍十萬圍攻合肥。諸將共開函，見其內書曰：“若孫權至者，張、李將軍出戰，樂將軍守，護軍勿得與戰。”諸將議之，多認為寡不敵眾，不欲出兵。獨張遼堅決主戰，曰：“公（曹操）遠征在外，比救至，彼破我必也。是以教指及其未合逆擊之，折其盛勢，以安眾心，然後可守也。成敗之機，在此一戰！諸君若疑，遼將獨決之。”樂進、李典平時與張遼矛盾甚大，此時也深為之感動，李典當即表示要不計前嫌，與遼一起出戰（《資治通鑒》卷六十七）。
於是，張遼連夜招募組織敢死之士八百人，“椎牛饗將士”。次日晨，張遼披甲持戟，率戰士先登陷陳，殺數十人，斬二將軍。大呼自名，衝入敵營，直到孫權麾下。權大驚，其部眾皆惶然不知所為。權與左右逃至一高坡上，以長戟自守。張遼追至，叱其下戰，權不敢動。後見張遼兵少，方令吳軍攻之。張遼被圍數重，急擊之，率數十人突出包圍，但部下在圍中者大呼：“將軍棄我乎？”張遼又複返，救出餘眾。敵軍皆為之震懾，無敢當者。兩軍從早上戰至中午，吳軍奪氣，遼還修城防，眾心乃安。諸將於是皆佩服張遼之膽識。
孫權攻圍合肥十餘日，而不能克城，隻好撤軍還。時吳軍主力已開拔，孫權與諸將尚在逍遙津（今安徽合肥東北）。張遼偵知後，急率步騎襲之。孫權大驚，其部將淩統、甘寧、呂蒙等以死相捍，權左右盡死。在亂中，孫權乘駿馬跳過津橋，方僥幸逃脫。合肥之戰中，張遼立下首功，被封為“征東將軍”。
建安二十一年（216），曹操再征孫權，至合肥，特地巡視了張遼與孫權作戰之地，對遼之勇敢十分佩服，歎息久之。不久，曹操北還，留夏侯惇督曹仁、張遼等三十六軍屯居巢，鎮淮南。
建安二十四年（219），關羽進圍襄、樊，形勢險危。曹操急召張遼及淮南諸軍馳援，未至而圍解。張遼率援軍至摩陂，曹操親出迎之。
荊襄戰後，因東吳與曹魏關係緩和，張遼移屯陳郡（今河南周口淮陽區）。曹丕即位後，十分器重張遼，升張遼為前將軍，賜帛千匹，穀萬斛，封其兄及一子為列侯。
黃初三年（222），魏文帝曹丕親征孫權，三路伐吳，令張遼與曹休、臧霸出洞口，進至海陵（今江蘇泰州）江邊。孫權甚懼，敕諸將曰：“張遼雖病，不可當也，慎之。”果然，張遼諸將破東吳大將呂範軍。此役不久，張遼病重，逝於江都，諡為剛侯。
黃初六年（225），文帝追念張遼、李典等在合肥破敵之功，詔曰：“合肥之役，遼、典以步卒八百破賊十萬。自古用兵，未之有也，使賊至今奪氣，可謂國之爪牙矣。”又賜張遼一子為關內侯。（許少斌）