大云山位于新墙河以北几公里处，是第九战区重要的前进阵地。日军第11军为掩护主力部队向新墙河以北集中、展开，占领较大的渡河地带，于9月7日命令第6师团向大云山地区扫荡。9月9日大云山失守。
10日，第6师团主力认为已经完成任务，撤离大云山地区向桃林方向集结。国军第102师、第59师一看机会来了，围住留守的日军第13联队一顿暴揍。日军第40师团重松支队赶到甘田接应第13联队撤往草鞋岭，被国军撵着打。双方在甘田、团山坡的狭小区域内展开拉锯战，均伤亡惨重。
9月15日，第九战区司令长官兼任国民党湖南省主任委员和省主席的薛岳将军侦知日军已经有4个师团以上的兵力集结于湘北，猛然醒悟——小日本是要来进攻长沙啊！他马上命令第27集团军主力向新墙河以南转移，严阵以待。
9月17日，日军集结完毕，到达进攻出发位置。阿南惟几接受第一次长沙会战兵力分散的教训，将部队并列部署在狭窄的正面，以期进行纵深突破。
18日拂晓，日军在炮兵、航空兵、坦克的配合下强渡新墙河，突破国军第4军的两道防线。军长欧震鉴于日军兵力占优，正面阻击已经不可能奏效，便命令各师交替掩护向关王桥以东的山区转移。
19日，日军第3、第4、第6师团快速向南突进，傍晚到达汨罗江北岸的石头铺、长乐街附近。第6师团一部渡过磨刀河，与奉命阻击的国军第37军在颜家铺、浯口一带缠斗。
20日，接到情报的蒋委员长领导的军事委员会给第九战区拍来雪片儿似的电报，详细指挥本次战役。万万没有想到，这些电报全部被日军特情部门窃收并破译。军事委员会指导得越具体，第九战区的部队打得越艰苦。日本预测出21日会出现日全食，赵继统立刻给畑俊六发报，建议暂停攻击，以免动摇军心（‘陆军御国旗’图案为日之丸居中向外散发16道旭日光芒，战争中如果发生日全食遮蔽住了血色的太阳，给日军官兵蒙上了很大的心理阴影），国军将士才得到片刻喘息机会。
22日至24日，日军突破主阵地，将国军第26军第95师、第140师包围。国军第37军奉命向麻林市突围，伤亡惨重。24日，日军第40师团加入对国军第26军的围攻。
25日夜，国军第26军阵地尽数失陷。第26军奉命向金井东南地区转移，与从平江南下的第72军协同作战。
日军第3师团沿长岳公路追击由浯口突围的国军第37军第140师到金井附近，与国军第10军遭遇。24日战斗打响，战至26日，第10军各师阵地被日军突破，部队分散突围。第九战区预定的在汩罗江两岸与日军决战，歼灭日军主力的企图破灭。