淮阴与淮安，两城相隔仅17公里，历来是苏北重镇和水陆交通枢纽，战略地位十分重要。日本宣布投降后，盘踞淮阴的伪军第28师潘干臣部被蒋介石加委改编成国民党军第6路军第28师，淮安伪军吴漱泉部亦被改编为淮安独立旅，死心塌地与人民为敌。

根据两淮设防和守敌相对孤立无援的状况，新四军第3师兼苏北军区部队首长决心采取集中优势兵力，分割包围，各个歼灭的战法，先以第10旅、师特务团、射阳独立团等7个团兵力攻取淮阴，同时急调第7、第8旅东返两淮地区，支援淮阴作战并攻取淮安。

8月26日，第10旅旅长兼政治委员刘震，率全旅向淮阴城郊开进。经过数日战斗，首先扫清了淮阴城外围的一些伪军据点，把守敌严密围困在淮阴城内。

9月6日，攻城部队一改夜间攻城的惯例，于13时55分突然发起总攻。主攻团首先在东北角成功地引爆了埋在城墙底下的重磅炸弹，将城墙撕开一个数米宽的口子。第28团2营4连乘机奋勇突击，仅5分钟即将红旗插在东门城头上。守敌疯狂反扑，战斗异常激烈。第28团打退伪军多次反扑，迅速向纵深发展。与此同时，第29团突破伪军东南城防，与第28团并肩向城西进攻。师特务团则在城南门遇到守敌顽强抵抗。第30团和射阳独立团在西城门突破后，冲入伪军教导营营部，活捉伪营长，迫使该营全部投降。淮阴警卫团也在北门以云梯登上城楼，旋又向城西攻击，配合主力进行围歼。至15时许，第28团2营冲进伪军守城指挥部大院，歼灭顽抗的警卫部队，击毙伪师长潘干臣，俘伪师参谋长刘绍坤。各处残敌见指挥中断，抵抗无望，遂纷纷放下武器投降。少数从城西北突围的伪军，被新2团、射阳独立团截歼。淮阴战斗从发起总攻到战斗结束，总计不足两小时。

淮阴战斗结束后，第10旅主力于9月13日开抵淮安城外，与原在该地监视的各县武装，将淮安城紧紧包围。15日，从淮南东返的第7、第8旅也进至淮安城下。新四军第3师遂命令由第7、第8旅接替第10旅任务，并调射阳、淮安、阜宁、盐城等独立团攻歼淮安之敌。

淮安城由伪军吴漱泉部4000余人守备。伪军凭借淮安城高水深，吹嘘为“铁打的淮安”，拒绝投降，并于9月21日拂晓，组织敢死队百余人，由西城墙坠下，向攻城部队偷袭，被新四军第8旅第24团1营全歼。

9月22日8时，新四军发起总攻。首先实施炮火袭击。第8旅22团通过坑道在城西南角将500磅炸弹引爆成功。各突击分队在制高火力点掩护下，迅速排除障碍，发起冲击。第22团3营仅用9分钟时间就登上城头，歼灭城上守敌。第22团1营、第24团3营也相继夺取了南门和西门。第7旅第20、第19团从城东南和城南突破城墙后，迅速向纵深扩张。射阳、淮安、阜宁、盐城独立团也从各个方向突入城内。各部迅速穿插，将敌分割包围。战至10时，守敌大部被歼。残敌仅剩200余人，在吴漱泉胁迫下，凭借鼓楼和楚王殿继续顽抗。至12时30分，各部发起猛烈进攻，将其全部歼灭，吴漱泉被击毙。淮安战斗遂告结束。

两淮战役，第3师和苏北军区以伤亡392名指战员的极小代价，取得歼伪军1.3万余人，缴获炮15门、轻重机枪180余挺及大量军用物资的重大胜利。淮阴、淮安城的攻克，使苏北、苏中、淮南、淮北根据地连成一片，进一步扩大了苏北解放区。