6月初，日军兵分两路：一路第4师团约一万人，主力由蒙城窜向凤台，一部由定远窜犯寿县；另一路第6师团约三千人，由合肥西窜。6月4日，日军攻陷正阳关。又转向舒城、桐城方面，进攻杨森部阵地。战局危急！
蒋介石即电令第10军主力向舒城方向侧击，以牵制日军。徐源泉回电称“山洪暴发，进军困难”，迟至12日才到达舒城近郊，日军已在8日、9日先后攻占了桃溪镇和舒城，又向桐城方面进犯。
蒋介石又致电严斥徐源泉：“该军以三师之众挡两三千之敌，使敌如入无人之境，既失合肥，复陷要地，以致安庆告急，将何以自解？着该军迅速侧击向安庆突进之敌，否则安庆失陷，该徐总司令须负全责。”
但徐源泉仍未完成侧击任务。
淮南日军进展顺利，沿江日军也开始进攻。6月12日，波田支队在海、空军掩护下，于安庆南约20公里处强行登陆成功后，占领了安庆机场。敌运转便利，其势更为猖獗。杨森部主力过于分散，难以相互策应，陷于腹背受敌不利态势，虽经奋战，势难挽回，只得退守潜山、太湖一线。
日军占领安庆、舒城后，得以利用合安公路，取得进攻武汉有利的交通要道。
安庆、舒城失守，杨森心情十分沉重，担心蒋介石像处置韩复榘那样对付他。杨森即致电白崇禧，说他曾向蒋介石请求增派兵力，加强江防，但战至最后而无增援，导致安庆失守。望白能在蒋面前“多多美言”，求得从宽处置。随后，杨森又向蒋介石的心腹将领陈诚，发去内容相同的电报，这样他才放了心，着手部署新防地。
军委会参谋部将战报送侍从室转至蒋介石。蒋介石看到安庆失守战报，拍案而起，怒吼道：“非杀几个不可！”他拿起笔，毫不犹豫地写到：“第27集团军总司令杨森着即撤职查办，交军法处论处！”
所幸白崇禧接到杨森电报，即去见蒋介石，婉转地说：“部下曾视察第27集团军，杨伯坚对部下说防地正面过大，江防十分重要，请求增加兵力防御。当时部下急于去马当视察，嘱咐他直接向委座报告请求。不知杨伯坚是否曾向委座请示过？”
蒋介石被问得一愣。稍顷，才颇为尴尬地说：“这个……我曾迭令其坚守待援，他为什么不坚守？”
白崇禧婉转地说：“杨伯坚的川军本来就装备差，战斗力弱，能坚持几天，已经不容易了。关键是我们兵力太分散，难于相互配合。”
杨森请求报告在前，蒋介石未能派兵增援。蒋介石沉思片刻，说：“他放弃安庆重镇，总应该负责任的。你写个报告来，我批一下。”
白崇禧的报告还没送来，陈诚接到杨森电报，也来见蒋介石。
陈诚与白崇禧不同，敢在蒋面前直言不韪。他说：“据说杨伯坚先有电报请求增厚防御兵力，而且安庆的失守不是孤立事件。委座独责怪杨伯坚，杂牌将领颇有微言。四川乃我持久抗战之大后方，委座应考虑杨伯坚之流在四川是很有根基的。将来我们退守四川，借重他们的地方极多，更何况杨伯坚尚不同于李、白之流，一向对委员长忠心耿耿。如果现在过分处置，必使多数杂牌将领心寒。”
蒋介石不解地问：“辞修，你为什么要替他们讲情呢？”
陈诚不悦地说：“委座，我们的军队是以黄埔系为基干，但部队来源极为复杂，多半是由当初的军阀部队所改编，这些部队仍旧与军阀们保持着渊源关系。尤其一些中下级军官，与老上级的关系还很深，也就成了这些杂牌将领的基础，我们光有黄埔将领去控制部队是不够的。再者，一些杂牌将领并非都不可用，有的其忠诚十分可嘉。辞修非愿保他们，实为钧座着想，能多笼络一些人为钧座效命，才是辞修的真实用意啊！”
蒋介石听了这番话，解释说：“辞修，我对你是完全信得过的，你不要多疑。你说得对，我们现在还要用这些杂牌将领，还要笼络住他们。但是，一定要有原则，不能轻信；要确有把握掌握得住，不能放任他们胡来。”
陈诚知道蒋介石说的“原则”，即是忠诚可靠。他很想告诉蒋：你要人家忠诚，就应该善待人家；你要人家可靠，就应该使人家有安全感。但他不便于说，怕蒋听不进去。
蒋介石起身踱着步，思考片刻，用商量的口吻说：“处分总是要给的吧，给他个撤职留任处分如何？”
陈诚说：“失守重镇还是应该处分的。”
第二天，蒋介石即在白崇禧送来的报告上，批了“撤职留任”。
6月14日，日军向潜山进犯。蒋介石又电令杨森，以主力坚守石牌、潜山之线，以掩护马当封锁线。杨森不敢怠慢，亲临前线指挥督战。与敌激战三昼夜，杨部第133师伤亡过重，于17日撤出潜山。
当天潜山失守后，杨森部第145师尚守卫界牌石、小池驿、太湖地区，第10军及第31军已进至王家牌楼以北山地，第7军也进抵广济、黄梅间，日军侧背受到威胁，不敢贸然西进。敌我双方曾一度対峙。