3月14日拂晓，日军濑谷支队在飞机、战车掩护下，从两下店开始向中国军队的阵地进攻，很快突破了石墙、下看埠、白石山以及香城等前哨阵地，进至深井、界河、普阳山及龙山等主阵地带以北之线。第22集团军第一线各部依托既设工事顽强抗击。日军猛攻竟日，中国军队虽然伤亡甚众，但阵地屹然未动。
15日拂晓，日军除继续由正面进攻外，还加强了两翼的攻势，并企图迂回至主力阵地侧后。右翼龙山一带因地形有利，又有第127师主力防守，所以形势尚稳定；左翼深井方面，第370旅力量薄弱，伤亡太大，形势危急。王铭章急调滕县城中仅有的一支战斗部队——第124师的第372旅至深井以南的池头集建立第二道防线，以掩护深井第370旅之后背，并加强纵深防守能力。
由于第22集团军的作战指导是企图以阵地防御将日军阻止于滕县以北，所以在日军进攻前后逐次将主要战斗部队全部部署于滕县城北各地，滕县城关地区仅有第122、第124两个师部及第364旅1个旅部，共有4个特务连的战斗部队。当战斗进展激烈、城外各阵地伤亡急剧增加、形势极为严峻时，第五战区电令孙震：“滕县为津浦路北段要点，关系全局，应竭力死守。”同时告知第20军团第85军正在驰援途中。孙震将情况及命令告知王铭章后，王铭章决定加强城防力量，固守待援，立即电令城前第366旅迅急回援滕县；令第364旅炸毁铁路大桥，留1个营防守北沙河，1个营防守城西洪町，其余撤入城内；令临城的第41军特务营赶赴滕县。
15日黄昏时，界河阵地已被突破，龙山被敌包围。由城前返回的第366旅仅先头1个营撤回滕县，主力在城头村附近与日军迂回主力部队遭遇，被迫向临城方向退走。至15日夜，滕县城关地区的部队虽然番号很多，但实际战斗部队仅有11个步兵连、1个迫击炮连，共约2000余人；此外还有师、旅部的4个特务连约500人，滕县地方武装约500人。总计约3000余人。由北沙河退入城中的第122师第364旅第727团团长张宣武受命为滕县城防司令，统一指挥城关各战斗部队。他部署由城前退回的第398旅的1个营防守东关，令第727团1个营防守东、北面城墙，令由临城赶来的第41军特务营防守西、南城墙；其余为预备队，控制于东门内。
日军濑谷支队进至滕县附近时将部队区分为两队。其支队主力进攻滕县，第63联队配属一部炮兵及战车，由辛庄、中顶山迂回至滕县以南，切断滕县中国军队的退路，并向临城攻击前进。
16日8时，濑谷支队留一部兵力继续进攻北沙河，主力迂回向滕县发起进攻。先对东关进行了约2小时的炮火准备，然后集中火力将东关外围土围墙轰开一个缺口，在猛烈机枪火力掩护下，以约2个小队的步兵向缺口处冲击。守军以密集的手榴弹火力封锁了缺口，并将敌击退。10时至16时，日军对东关连续发起了5次冲击，均被守军击退。但守军伤亡太多，曾3次从城中调预备队补充。日军经整顿后，于17时许又组织第6次冲击，突击部队改以三梯队实施波浪式冲击，同时还延伸火力向东门及城内实施拦阻射击，以阻止城内部队增援。经激烈肉搏，至黄昏时，日军突击部队第三波冲入东关，兵力约1个小队。当夜，守军再由城内增调1个连组织反冲击，将突入之敌大部歼灭，收复了东关。24时左右，防守深井、池头集的第370旅、第372旅残部及防守北沙河、洪町的第727团2个营先后由西门退入城中。此时滕县城北第45军各部均已在阵地被突破后分向微山湖及峄县等地溃退。
17日6时许，日军在飞机、炮兵火力掩护下再度向东关进攻，仍未有进展。下午将主攻方向改在南城，先以15厘米榴弹炮集中火力轰击城墙，致城墙上的守军大部牺牲。激战至15时30分，日军由坍塌处突上城墙，迅速向东、西城墙扩张战果。守军残部由西门退至西关车站。不久，东关及西城门楼均为日军占领，仅余城内、北门及东北城角的守军仍在继续抗击，王铭章在城中十字路口附近指挥巷战。但在日军强大火力制压下，守军逐渐失去指挥。王铭章企图至西关车站组织该地残部继续防守，在转移途中中弹牺牲。城中守军残部仍人自为战，逐屋抗击。18日中午，日军完全占领滕县城。
当14日日军开始进攻时，第五战区司令长官李宗仁即致电蒋介石，请派军事委员会直接控制于豫东的汤恩伯第20军团第85军的第4师增援津浦路。经同意后即电告汤恩伯：“敌于津浦北正面增加兵力，大举反攻，以牵制我鲁南之作战，邓部(指第22集团军)兵少械劣，正面薄弱，两翼空虚，恐难拒敌，已电呈委座调贵军团85军驻商丘之一整师(指第4师)，由火车输送至滕县附近，作第22集团军之总预备队。”汤恩伯一方面向蒋介石去电：“恳明定本军归辖系统，以明职责”；一方面电复李宗仁：“恳将本军团全部调津浦北段出击，避免分割零碎使用，以益战局而杜分散，或作无代价之消耗。”实际上不肯令所部转隶别人指挥。当夜21时，汤恩伯接