8月19日，第87、88和36师，这三支精锐进攻日军据点虹口和汇山码头。
张治中亲赴前线指挥，何应钦从南京调来战车连和榴弹炮连及军校学兵，以图一鼓作气，一举突破。第36师是刚从西安赶到上海的。配属第36师进攻汇山码头的还有第98师第294旅，担任先头攻击的第106旅在旅长陈瑞河率领下，乘着夜色进入杨树浦日军正面阵地。
下午5时，张治中接到王敬久报告：“第87师左翼前线部队，已突入杨树浦日本租界至岳州路附近。”他看了看地图，位于杨树浦路西头的汇山码头，是日军黄浦江沿线阵地中段，日军核心阵地。夺取汇山码头，就切断了日军首尾联系，这是一次更大规模的“铁拳行动”。
抗战之初，汇山码头是日军军火装卸地，码头仓库中贮存着大量枪炮弹药。岳州路离汇山码头不远，朝着公平路向南，冲过四个十字路口就到黄埔江边了。
张治中决心利用这一有利态势扩大战果。他立即命令：“把主攻方向由日军司令部转向敌人纵深阵地汇山码头，实施中央突破，贯穿杨树浦日本租界至汇山码头，裁断敌左、右两翼的联络，然后分兵向东、西压迫，一举歼灭敌人！”并命令第36师向汇山码头江边突击，命令第98师第294旅归第87师指挥，向沪江大学、公大纱厂攻击！
张治中放下电话，对参谋人员说：“这一仗至关重要，很可能是日军增援部队到来前的最后一次机会了。我要立即赶到江湾叶家花园第87师指挥所部署攻击。”说罢，即驱车向第87师指挥所驶去。第36师指挥所设在沪江大学西面的殷家宅，离杨树浦租界不远。
正当陈瑞河率领第212团和216团完成侦察，进入出发地时，师长宋希濂接到了集团军总司令张治中的手令：“顷奉委座坚决指示，各师务必不顾一切，攻取虹口及杨树浦敌之根据地，歼灭日军！”
20日午夜，攻击开始了！第87师主力向日军勇猛冲锋，连续冲过了东熙、华德、百老汇，直逼汇山码头，日军残部争相逃窜。但是，汇山码头坚固的铁栅门紧闭，中**队攻击受阻。盘踞在内的日军机枪疯狂射击，中**队伤亡惨重，许多官兵倒在血泊中，进攻暂时停止，部队进行休整。
21日下午3时，张治中下达了总攻命令：“第87师主力向公平路以东席卷杨树浦之敌；第36师（配战车、防御炮各一连）由公平路以西向横浜以西之敌攻击；第88师（欠一旅）向沙泾港以西之敌警戒。”
蒋介石十分关注虹口和杨树浦扫荡战的胜负。他要张治中转达他的命令：“第36师应协同第87师强袭当面之敌，以期突破黄浦江岸而席卷日军。”
五年前“一·二八”抗战战时，张治中是第5军军长兼第87师师长，王敬久是第87师副师长，宋希濂是第87师第261旅旅长，所以，宋希濂对张治中和王敬久都极为敬重。
宋希濂接到命令，立即要通第87师部电话，表示要竭尽全力与第87师共同打好这一仗，并与王敬久详细商定了作战计划。第36师兵力部署是：以211团为右翼队，陈瑞河第106旅为左翼队，彭戢光第108旅为中央队，该旅实力雄厚的216团为主攻部队，团长胡家骥是一员虎将。攻击地点是右自梧州路左至公平路，与左右两翼连结向南强攻，进出黄浦江岸。
下午3时，总攻开始了！中**队以猛烈炮火对敌阵地轰击，乘着浓烟和炮火，左中右三支部队同时冲锋。日军大炮也开始向中国攻击部队轰击。战车第1连迎着炮火向公平路奋勇突进，为步兵开辟冲击通道。枪炮声震耳欲聋，炮火照亮夜空。中央队已攻击到熙华德路，左翼队第1营在进至舟山路华德路的十字路口时，遭到坚固工事的日军阻击，轻重机枪像一条条火龙向中国士兵猛射，日军出动了坦克进行袭击。已占领马路两侧楼房的日军据点，利用楼房间交叉火力严密封锁，冲锋的中国士兵前赴后继。
面对日军坚固工事和沙包掩体，中国士兵只好以战友尸体为掩护奋勇还击。营长吴垂昆几次负伤，坚决不下火线，一边匍匐前进，一边忍痛高呼，指挥部队前进，直到声嘶气绝，壮烈牺牲。
旅长陈瑞河得知吴营长壮烈殉国，便冒着弹雨冲到前沿接替指挥。士兵们跟着陈旅长冲锋陷阵，逐街逐屋向前推进。突然一发炮弹击中陈旅长，他倒下了，不幸牺牲了。师长宋希濂当即命令，第212团团长李志鹏为代理旅长。
胡家骥团长带领中央突击队冲越唐山路时，遭到强大火力阻击，在密集火网下相持一个多小时。深夜12点多了，胡团长振臂高呼：“冲啊！”官兵们潮水般冲向敌阵。胡家骥身先士卒冲在最前面。他全身五处负伤，鲜血染红了军衣，仍在火线上指挥战斗，直到冲过北老汇路，逼近汇山码头！残余日军不支，争相往外白渡桥南岸逃窜，上百名日军被英租界的英军缴械后押走了。