新四军成立后，如何布局是头等大事。早在1937年12月30日，毛泽东等致电周恩来、项英等，提出两个作战区域，即“以皖南为重心的苏浙皖赣边军区”和“鄂豫皖军区”。1938年2月14日，项英、陈毅致电毛泽东，提出尽量向苏浙皖边配置。毛泽东复电同意。这成为新四军向北发展、向东作战、向敌后发展的最早构想。5月4日，毛泽东致电项英，全面阐明了华中敌后游击战争的方针和部署。

1938年5月中旬，陈毅率新四军第1支队开赴苏南，在苏南溧阳县竹箦桥召开的干部会议上作《新的战斗条件和新的战斗任务》的报告，随后率师东进抗日。6月，新四军先遣队在韦岗首战日军获胜。

新四军挺进华中敌后，陈毅等领导人坚决执行党的统一战线政策，广泛团结各界爱国人士共同抗日。

1939年2月23日，中共中央军委副主席周恩来来到皖南新四军军部，传达中共中央六届六中全会精神，与新四军领导人一起制定了“向南巩固、向北作战、向北发展”的方针。

1939年春，陈毅所部由4000人发展到14000人，建立了拥有150万人口的茅山根据地。同月，他在致父亲的信中说：三五年头，敌定片甲不回也。

1939年7、8月间，陈毅出席新四军第一次党代会，并作了《关于南方三年游击战争的总结》。同年11月，新四军江南指挥部在苏南溧阳县水西村成立，陈毅任指挥。

1940年初，为遏制国民党顽固派的磨擦，陈毅同国民党顽固派展开针锋相对的斗争。国民党顽固派并不听从陈毅的劝阻，于1940年6月进攻郭村，陈毅坚持“有理、有利、有节”的原则，指挥新四军挺进纵队取得郭村战斗的胜利。7月，率江南指挥部北迁江北，改称苏北指挥部。从1940年9月30日开始，国民党韩德勤部主力3万余人向黄桥进攻。陈毅指挥部队奋起抗击，至10月5日晚战役结束，共歼韩部1.1万余人。此役的胜利，奠定了苏北抗日根据地的坚实基础。

1940年10月10日，八路军第5纵队和苏北新四军于东台县白驹镇胜利会师。11月17日，华中新四军八路军总指挥部在东台正式成立，叶挺、陈毅分任正副总指挥，刘少奇任政治委员，统一指挥陇海路以南、长江以北地区的新四军和八路军。