由于湘江以东各军散处日军侧后，距衡阳尚远，而第62军已迫近衡阳，因而军事委员会于7月22日电令第九战区集中湘江以西部队向进攻衡阳的日军攻击 。23日，军事委员会又电令李玉堂“即日进驻62军军部，直接督促。”
军事委员会的电令(包括以前的多次电报)均被日军情报人员破译，因而日军对第九战区各部队的行动非常清楚。这次获得情报后，当即将电令内容通知各师团，并令第40师团占领衡阳西南、正西和西北约10至15公里处的七里山、两母山、二塘、城口墟、板桥、狭山冲一线阵地，堵截、阻击由西方来援的中国军队。
同时令第57旅团归还第68师团建制，令第109联队归还第116师团建制，以便于指挥。第62军一度突进至火车西站，但在日军第40师团的反击下，伤亡甚大，且弹药告罄，被迫撤退至盘右岭附近收容整理。第79、第74军主力及第100军之第319师亦被阻止于日军第40师团的堵截线之外。
7月29日，日军第11军确知专为补给衡阳地区的辎重车队预定8月4日前后可到达衡阳附近，部队也经过调整，遂于当日下达了攻击命令:确定8月4日开始第三次攻击，除令第68、第116师团仍担任主攻任务、于8月4日向岳屏山方向攻击外，另令第58师团于8月5日向衡阳西北方向攻击，令第13师团以一部兵力在湘江东岸以火力支援湘江以西的作战。7月27日及8月2日，中国空军两次空投蒋介石的手令，鼓励第10军坚守衡阳待援 。
8月2日，第62军及第100军确已到达三塘、两母山地区，第74军亦已到达佘田桥、新桥，第79军到达望城坳附近，与日军第40师团激战。第62军在进攻二塘、两母山时与日军第234联队进行了白刃战，予该联队以歼灭性打击。但由于第62军等在战斗中伤亡亦众，始终未能歼灭依托工事坚守阵地的日军残部，被阻于日军堵截线之外，未能与衡阳守军会合。
在此期间的外围各兵团，除第24集团军遵照军事委员会的命令积极向湘江以西进攻衡阳的日军进攻外，湘江以东的第九战区各军没有进行积极有力的进攻。
8月4日，日军第68、第116师团对衡阳第3师及预10师阵地发起总攻。5日，第58师团(从长沙增援到来)由衡阳西北投入战斗，猛攻第190师阵地。激战至6日拂晓，第190师退守小西门及其以北的城垣。当日夜，日军第58师团一部从城西北角突入城内，西南方面岳屏山、天马山等阵地亦为日军第116师团突破。
7日6时起，日军集中炮火先对守军进行了约2小时的炮火准备，尔后发起冲击。守军阵地大都被毁，官兵伤亡惨重，五桂山、接龙山等阵地先后失守。但第3师及预10师的官兵仍顽强抵抗。8月7日夜，第10军军长方先觉派参谋长孙鸣全与日军联系投降事宜;8日晨，方先觉率其第3师师长周庆祥、第190师师长容有略、预10师师长葛先才、暂54师师长饶少伟及副官处处长孙广宽在城南天主堂与日军第68师团师团长堤三树男会见，正式缴械投降。