10月1日黃昏，日軍開始全線撤退。為了掩護主力部隊北撤，日軍第11軍做了如下部署：
平野支隊在湘陰北方白泥湖岸登陸，占領湘陰，爾後掩護傷員由水路北撤；
第4師團森田支隊進占神鼎山北麓，當主力部隊全部撤過後歸建；
荒木支隊在新開港占領陣地，當第4師團經過時隨之北撤；
獨立混成第14通旅團江藤支隊，在長樂至新牆之間掩護兵站，當第6師團撤過後歸建。
10月1日夜，荒木支隊由獅形山開始向新開港進發。2日晨，在行至麻峰嘴東北地區時與第20軍遭遇。荒木支隊無心戀戰，很快就脫離戰場，並於當日到達新開港。4日，又配合平野支隊，攻占了湘陰城。由於新20軍的報複性攻擊，平野支隊和荒木支隊被新20軍以優勢兵力徹底全殲。第40師團繼荒木支隊後也由獅形山開始北撤。在撤退過程中，曾遭到第20軍等部隊的阻擊。
由第4師團指揮的早淵支隊於30日夜間開始北撤。10月1日，該支隊在撈刀河北岸遭到巧妙偽裝的第98師的阻擊，傷亡甚眾，2個聯隊長被擊斃，餘部潰逃。
第3師團10月1日傍晚由金潭附近北撤。2日在楓林港以北地區遇到第99軍第99師阻擊，3日進到影珠山，又遭第92師攔擊，拚命突圍始得通過。
第6師團殿後。10月1日傍晚，該師團從鎮頭市撤退，編成三路縱隊北返。在福臨鋪及檢市場等地遭到中國軍隊的阻擊，5日晚進到長樂附近。
10月7日，日軍渡過汨羅江後，經新牆河開始向臨湘、嶽陽撤退。為進一步追殲北退之敵，薛長官又重新調整部署：
湘鄂贛挺進軍王總司令率3個挺進縱隊及2個補充團，切斷鹹寧、蒲圻間之鐵路、交通、通信，斷敵歸路，阻敵向堙水東北岸逃竄；第78軍之新編第16師進攻崇陽之敵及擊敵援兵，斷敵歸路。
第20軍暫編第54師以主力攻擊大沙坪，以1個團攻擊羊樓洞而占領之，由羊樓洞附近切斷鐵路、公路之交通、通信及擊敵援兵。
第6挺進縱隊向羊樓司、第7縱隊向五裏牌截擊日軍，並確實截斷鐵路、公路之交通、通信，斷敵歸路及擊敵援兵。
第72、第4、第58、第20軍在汨羅江、新牆河間截擊、尾擊敵人後，第72軍向忠坊、臨湘；第58軍向桃林；第4軍向西塘，自東向西截擊日軍；第20軍向筻口、新牆，自東南向西北尾擊日軍，並力爭將其壓迫於嶽陽附近地區加以殲滅，從而一舉而攻占臨湘、嶽陽。
第26軍集結於浯口、長樂街，推進至登龍橋、關王橋，第79軍第98、暫編第6師集結於伍公市，推進至三江口、大荊街，策應新牆河北岸各軍作戰。
第99軍第92師、第99師與新20軍協力肅清歸義、河夾塘、營田一帶殘敵後，前者在新市南神鼎山東側地區集結，策應各方作戰；後者仍任歸義、河夾塘、營田、湘陰一帶原防。
10月9日，薛長官向最高統帥報告：敗退之敵已潰渡新牆河；從8日上午開始，第72軍向忠坊；第58軍向桃林；第4軍向西塘；第20軍向筻口、新牆河北繼續猛追，各軍除以一部圍攻據點之敵外，主力正向嶽陽、臨湘東南地區挺進攻擊中。
雖然第9戰區對北撤日軍的追擊聲勢浩大，但由於各軍在此前都曾遭到日軍不同程度的打擊，戰鬥力並不強，再加上在追擊的過程中各軍之間缺乏相互協調和配合等原因，並未能取得戰區所期望的將日軍壓迫至嶽陽附近加以殲滅，進而克複臨湘、嶽陽的目的。
10日前後，日軍全部退回新牆河北岸，雙方軍隊又恢複了戰前的對峙態勢。
在整個會戰期間，為策應湘北主戰場作戰，日軍獨立混成第14旅團於9月22日從九江出發，25日向武寧方向攻擊；第34師團於9月27日擊退錦江北岸之中國軍隊，爾後向奉新方向反轉進擊，牽製贛北方麵的中國軍隊。10月上旬，這兩支部隊也陸續返回原防地。
會戰期間，遵照軍事委員會9月20日及以後的一再電令，第三、第五、第六戰區各向當麵日軍發動了範圍廣泛的襲擾活動，對日軍若幹據點和交通線形成一定威脅。特別是第六戰區從宜昌出發的反攻作戰發展到較大規模，使日軍受到震撼。其中，第六戰區集中優勢兵力向日軍留守鄂西一帶的第13師團主力發動猛烈進攻。戰鬥進行到10月10日晨，被中國軍隊包圍的日軍第13師團燒毀了軍旗和秘密文件，師團長以下軍官們準備好了自盡的場地和用具，並寫好了絕命書，等待最後時刻的到來。但這時日軍從長沙前線返轉的部隊為解第13師團之危，緊急車運，其先頭已抵荊門附近，第11軍決定將早淵支隊及第13師團第103旅團在武漢以西的部隊都歸第39師團指揮，全力向第13師團突進。軍事委員會鑒於日軍返轉部隊已接近，為避免陷於被動，於10月11日晨電令第六戰區停止攻擊，將部隊有計劃撤至城外，控製要點，進行休整。第六戰區的反攻作戰至此結束。
第二次長沙會戰，曆經月餘，終於落下了帷幕。
日軍“華北方麵軍”（司令官岡村寧次）為策應第11軍的長沙作戰，10月2日以第35師團自新鄉以南強渡黃河，10月4日卻輕易擊退第一戰區第3集團軍部隊，占領中原重鎮鄭州。10月31日，第35師團雖然撤出鄭州，返回原防，卻在黃河南岸京漢鐵路黃河大橋西側的霸王城要點建立了橋頭堡陣地，以2個步兵大隊、1個炮兵大隊駐守，這為後來日軍在河南的進一步作戰創造了有利條件。
根據日軍發布的所謂戰報，整個會戰中中國軍隊遺棄屍體5．4萬具，被俘4300人；日軍傷11184人，亡5670人。這個統計顯然誇大了日軍的戰果，壓低了日軍自身的損失。僅僅是新20軍在湘陰縣城一戰所殲滅的日軍，也不在少數。不過，從國民政府軍事委員會的內部資料看，第74軍的第58師傷亡55％，第57師傷亡40％；第37軍的第60師傷亡50％，第140師傷亡30％；第4軍的第102師傷亡45％；第10軍的第3師傷亡35％，傷亡確實十分慘重。
會戰結束以後，為了避免會戰前期的那種兵敗如山倒的全麵潰敗場麵在以後的戰事裏再度出現，軍事委員會在長沙召開了由最高統帥親自出席，軍政部何部長和軍令部徐部長共同主持，第三、第五、第六、第九等四個相關戰區的高級軍官參加的總結檢討會議。
第27集團軍楊總司令、第九戰區薛司令長官在會上列舉出了種種問題，如：對敵情判斷不當，友軍彼此不信任，致乏協力，部隊運動遲緩，師以下軍官戰術修養不夠，指揮能力薄弱，部隊紀律太壞，執行命令不徹底，訓練不足，仍有呆守陣地的習慣，不知活用兵力、控製預備隊等等。其實這些都是部隊建設、部隊教育方麵由來已久且普遍存在的問題，不僅第九戰區部隊有，其他戰區部隊也有；不僅此次會戰有，其他會戰也有。而且這些問題多是針對下級而言，還未涉及高層。
對此有所不滿的最高統帥見到劉建業也坐在下麵，於是親自點名要劉建業對整個會戰的高層指揮發表看法。
劉建業根本沒有想到，自己原本隻是老老實實的坐在下麵，居然也會被最高統帥親自點名，還要做那種發言。在這個時候，這種場合做這種發言，實際上純粹就是得罪人的差事。要是說不出什麽有價值的東西，會惹得最高統帥龍顏不悅；可是要是說出來什麽，那自己又會得罪一大批人。要知道整個會戰裏，國軍方麵所犯的錯誤可以說是一串接一串，從一開始就是在錯誤的指導思想下作戰的；戰事的進程裏更是錯誤連篇。這讓自己怎麽說？
猶豫了一陣，劉建業還是開始了發言。沒辦法，現在還要在最高統帥的手下混飯吃。什麽人都可以得罪，隻有最高統帥是千萬不能得罪的，當然還有陳長官。至於其他人，多得罪一個也無所謂了。反正自己連何部長那樣的軍內巨頭都得罪深了，還怕再多得罪一個嗎？正所謂債多了不愁，虱子多了不癢。
“法國皇帝拿破侖陛下，曾經有一句話說得很好，戰爭的勝利屬於犯錯誤較少的一方。在瞬息萬變，錯綜複雜的戰場形勢下，雙方都做不到絕對不犯錯誤。在這個時候，那一方的錯誤犯的少，錯誤的影響程度輕，當然最好再能抓住對方犯的錯誤，那麽戰爭的勝利就會屬於這一方。”劉建業一開始並沒有直接開始點評，而是先闡述了一下拿破侖那個歐洲的絕世梟雄的名言。先說這句話，也是為在場的上上下下找一個下台的台階。果然，當劉建業說完這句話以後，台下不少的國軍將領們都麵有戚戚。
“若就此次會戰的高層組織指揮而言，至少還可看出以下幾個主要問題：
１．部署指揮不當而陷於被動
軍事委員會和第九戰區都曾明白指出武漢日軍處於第三、第五、第六、第九戰區的戰略包圍中，中國軍隊處於外線（對日軍第11軍來說），是有利態勢。但戰略上的外線並不等於戰役上的外線，戰略上的有利態勢並不自然化為戰役上的有利態勢。對戰役的組織指揮來說，最重要的是在戰役上爭取使自己處於外線的有利的態勢，這是保持戰役主動權的關鍵。
但第九戰區的戰役指導方針和實際部署並非如此，從而一次又一次陷於被動。
該方針中隻提到在汨羅江以南撈刀河兩岸地區對日軍實施反擊並殲滅之。這是出於以下估計：日軍在突過新牆河、汨羅江後必受到很大殺傷和消耗，戰力大減，因而選定在汨羅江以南與其決戰是有利的。這隻從決戰的地域上考慮，而且是一廂情願，實際上本次會戰中日軍的兵力相當集中，強渡新牆河、汨羅江時並未受到重大損失，依然保持著強大的突擊力。第九戰區的設想與戰役的實際發展不符，又沒有應付意外情況的預案，這是陷於被動的原因之一。”
“再從兵力部署和使用來看，第九戰區未將主力控製於外側機動位置，無論在新牆河南岸還是在汨羅江南岸，守備部隊都處於日軍大兵團進攻的正麵，側麵力量極弱，不可能對日軍翼側構成威脅；日軍突破汨羅江後，第九戰區仍按原計劃將增援的生力軍第26軍、第10軍、第74軍全部擺在日軍進攻的正麵，企圖阻止日軍並和日軍決戰，而且是逐次投入，結果反被日軍各個擊破，徒增傷亡。待到日軍突過撈刀河，第九戰區已無預備隊可用。這是陷於被動的又一原因。
第九戰區在作戰計劃中強調“應運用誘敵殲滅戰法”，結果成為一句空話。實際上不是第九戰區誘使日軍就範，而是日軍的快速攻勢迫使第九戰區手忙腳亂、處處就範。第九戰區組織指揮如此，則全戰役陷於被動和不利就是必然的了。”
“2．情報不靈而喪失戰機
第11軍是侵華日軍中惟一以機動作戰任務為主的野戰軍。武漢失守以來，日軍向正麵戰場發動的多次進攻，除桂南會戰、中條山會戰外，都是由它發動的。中國軍事情報工作部門對它的動向理應給予更敏銳、更密切的監視。第11軍為準備此次會戰，從8月中旬起即從鄂西、鄂南、贛北抽調部隊，向湘北集中。如此大規模的部隊調動，無論是軍事委員會的戰略情報部門，還是第三、第五、第六、第九戰區的戰役情報部門，抑或是與日軍當麵接觸的各部隊戰術情報部門，在長達1個月的時間裏都毫無察覺，直到日軍要發動全麵攻勢前一兩天，才發現日軍已在湘北集結重兵，足見政府各級軍事情報部門的麻痹和疏懈。而第九戰區因情況不明，對會戰無從進行、也來不及進行有針對性的準備，其第一線守備部隊第4軍、第58軍甚至被日軍吸引，膠著於大雲山，後乘夜匆匆轉回新牆河以南，喘息未定，日軍已開始總攻。日軍成功地隱蔽了戰役企圖，發揮了戰役突然性，而第九戰區在會戰第一步就喪失了時機，倉促應付，在日軍閃電式的攻擊麵前步步失策。
反之，日軍特種情報部門卻多次破譯第九戰區電報，對第九戰區部署行動了如指掌，所以能及時調整部署著著勝算。”
“3．各戰區策應乏力未能發揮戰略外線優勢
如前所述，第三、第五、第六、第九戰區對日軍第11軍構成包圍，處於戰略外線，態勢有利。軍事委員會有鑒於此，於9月20日及以後多次電令第三、第五、第六戰區乘日軍兵力集中於湘北、其他方麵兵力減少之機發起反攻，特別要求攻其較敏感的要點，以策應第九戰區作戰；同時也令第九戰區盡可能拖住日軍，以利其他戰區反攻。這一想法和要求都是積極的，也是可以辦得到的，但實施情況和效果都不理想。第三、第五戰區雖對日軍進行了較廣泛的襲擾活動，但除第三戰區第100軍對贛北外圍據點的攻擊兵力稍大外，其餘兵力小而分散，沒有一處打痛日軍，根本不能發揮戰略外線優勢，起不到策應作用。
第六戰區發動的反攻作戰具有相當規模和威力，不僅是對第九戰區最有力的策應，也是在抗戰以來的正麵戰場上少有的積極行動，是值得稱許的，但也因攻擊日軍第13師團的兵力不夠集中、開始攻擊的時間稍晚而功虧一簣。如第五戰區能同時積極行動，主動配合，以較大兵力切實遮斷公路和京漢鐵路南段、遲滯日軍由湘北返轉鄂西，或許能給第六戰區再爭取到幾天時間，則全殲敵第13師團部是很有可能的。
總之，各戰區間的互相策應缺乏積極性、主動性，行動乏力，是一個老問題。此次會戰中依然如故，因而失去一些難得的機會，反讓日軍在鄭州附近黃河南岸建立橋頭堡，實在遺憾。”
痛快地說完以後，劉建業在眾人的注視下，向一邊閉著眼睛聽，一邊微微點頭的最高統帥行了一個軍禮，走下了講台，回到了自己的座位。
“說得很好，作為革命軍人，就是要敢於直言。哪怕是我所犯的錯誤，我也是願意接受批評的。我們之所以要召開這樣一個總結檢討會議，就是要總結經驗，檢討錯誤，這樣才能在以後的戰事裏做得更好。如果，我們犯了錯誤，沒有人敢於指出來，那以後我們還會繼續犯同樣的錯誤。”最高統帥在劉建業走下去以後，睜開了眼睛，用浙江官話說道。
“委座所言極是，我等就是需要通過不斷地總結和檢討，以利於再戰。”何部長第一個站了起來，附和道。
“下麵，就由軍政部的何部長講話。”最高統帥講完以後，把何部長推到了前台。
“新20軍的劉軍長，奉委座之命所作的戰術點評，非常的精彩。這裏我就不再重複了。”何部長帶著一絲微笑說著。
何部長在台上繼續他的講話。雖然，何部長近幾年以來，把主要的精力用在了和以陳長官為首的中央軍不同派係互相爭鬥上，政治上的品德也為人詬病，被公認為是國軍裏的頭號親日派。但是他在軍事上的基本功，還是相當厚實的，再加上他在處事上的一些技巧，才始終在軍內高層的位置上穩坐不倒。何部長的講話深入淺出，讓台下不少的軍官們不禁點頭。
“當然，以上所說的，都是在軍事上我們應該避免犯的錯誤和以後應該改正的地方。現在，我要向大家說一件有損我國民革命軍聲譽的事情。”何部長話鋒一轉。
說完，何部長從隨身攜帶的公文包裏，拿出了厚厚的一摞照片，交給工作人員一一的分發下去，給與會人員一一傳閱。當照片發下去的時候，接到的人無不發出驚歎的聲音，麵色變得發白。
當部分照片傳閱到劉建業的手裏的時候，他一眼就看出來，照片上的場景，就是他下令在湘陰縣城上釘死的那些日軍俘虜，還有被洞庭湖水衝上岸邊的日軍屍體。特別是一張照片上還有一麵劉建業命人在湘陰城頭樹立起的大旗，上書幾個大字“血債血償”。
“你何部長這是想抓住一切機會向我開炮啊？要不是我早就做好了準備，我還真地會著了你的道。”劉建業冷冷得笑著。
“也許你們要問，這是什麽地方發生的事情？我想在你們中間，有一個人是最清楚的。是不是啊，劉軍長？”何部長得意地說道。
“我承認，這是我下令幹的。而且，地點就是在湘陰縣城。”劉建業從座位上站了起來，麵無愧色的說道。
“你難道不知道《海牙公約》和《日內瓦公約》嗎？你對此難道沒有一個解釋嗎？”何部長對台下的劉建業質問。
“我當然有解釋。”說著，劉建業從座位裏走了出來，走上台來。
“何部長，能不能借你這個講台用一下？”劉建業走到台上，對何部長問道。
“盡管用，我看你到底有什麽解釋？”何部長小聲地說道。
“諸位，前麵何部長問我知不知道《海牙公約》和《日內瓦公約》這兩個重要的國際法文件。我可以明確地告訴大家，我知道還很清楚這兩個條約的條文。1907年海牙第4公約及其附件，載明一項重要條款:在本公約中所沒有包括的情況下,平民和戰鬥員仍受那些“來源於文明國家間製定的慣例、人道主義法規和公眾良知的要求”的國際法原則的保護和管轄。這就是著名的‘馬爾頓條款’。1929年修訂的《日內瓦公約》，確認敵對雙方傷病員在任何情況下應該無區別地予以人道待遇的原則；禁止對傷病員的生命和人身施加任何危害或暴行，特別是禁止謀殺、酷刑、供生物學實驗或故意不給予醫療救助及照顧；醫療單位及其建築物、器材和人員不受侵犯；戰俘係處在敵國國家權力管轄之下，而非處在俘獲他的個人或軍事單位的權力之下，故拘留國應對戰俘負責，並給予人道待遇和保護；戰俘的自用物品，除武器、馬匹、軍事裝備和軍事文件外，應仍歸戰俘保有；戰俘的住宿、飲食及衛生醫療照顧等應得到保障；對戰俘可以拘禁,但除適用刑事和紀律製裁外不得監禁;不得命令戰俘從事危險性和屈辱性的勞動。我想這些條文應該是沒有記錯的吧。是不是，何部長？”劉建業帶著微笑問道。
“對，你說的一點都沒錯。兩個公約上的確是這樣規定的。”何部長點頭說到。
“從表麵上看，我的行為的確是嚴重違反了國際法的相關條文。這一點，我也沒有異議。但是，世間的事，向來是有因才有果。我自認為並不是一個天生殺人狂，更不是一個冷血的動物。我之所以這麽做，完全是出於義憤。這裏是我帶來的一些照片，可以給大家看一下。”劉建業從自己攜帶的文件袋裏，掏出了一疊照片，交給了工作人員。
當劉建業帶來的這些照片被台上台下的人傳閱以後，台下同樣爆發出了驚訝的聲音。
“各位，這些照片決不是我偽造的。事情的緣由是這樣的。”接著，劉建業把曹克人營長和他的17名部下在力戰被俘以後，被日軍殘忍的折磨並活活釘死在牆壁上的事情娓娓道來。說到動情之處，劉建業潸然淚下。
“是那些日寇他們首先嚴重的違反了國際法的規定，對我軍的將士們實施了那麽殘忍的行為。我們身為同袍，見此場景，怎能不義憤填膺？在我看來，那些日寇，他們根本就不是人，純粹就是一群野獸。他們違反了人類一切的法規和良知。對他們這樣的行為，我的做法就是以牙還牙，以眼還眼。隻要他們一天不停止這樣的暴行，我就會繼續不停的報複，直到他們自覺主動地遵守國際公約。”劉建業傲然地說道。
“你這是純粹的狡辯。無論日本人做了什麽，我們都還是需要遵守法規的。”何部長質問。
“那是不是說，我們對於他們的這種行為就可以熟視無睹？一點反應都沒有？”劉建業反問道。
“我們完全可以以德報怨，不必如此極端。”何部長辯解道。
“對人，我們可以說人話。可是麵對野獸，你說人話，他們聽得懂嗎？”劉建業大笑著說道。
“好了，不要繼續說了。這件事情，就不再深究了。仲良，你畢竟還是年輕氣盛，控製不住火氣。這次就給你記一個大過，作為警戒，下不為例。”最高統帥及時製止了兩人的爭論，做了最後的判決。
“是，校長。學生以後一定注意。”劉建業連忙向最高統帥表態。
既然最高統帥已經出麵和稀泥，何部長也隻能不甘心的放棄了發難。
雖然，這一次劉建業受到了記大過的處分，可是劉建業根本就不以為然，相反的，在受到軍委會正式下發的處分令以後，劉建業還把這份處分命令裝裱了起來，掛在自己的辦公室裏，向所有的來人炫耀著自己的英雄事跡。