“事实上，新四军军部首先在武汉成立，然后再迁到南昌来。而新四军的发展，其实是从南昌开始的。”南昌市史志办公室副主任张永华告诉记者。
根据史料记载，1937年10月，国共两党在南京达成协议，将南方八省边界地区的红军游击队改编为国民革命军陆军新编第四军（简称新四军）。10月12日，国民党江西省政府主席熊式辉转发蒋介石电令：鄂豫皖边、湘鄂赣边、赣粤边、浙闽边和闽西等红军游击队，统交国民革命军新编第四军军长叶挺编遣调用。
这也是首次公开发布新四军的番号和军长。故后来新四军军部确定以此日为新四军成立纪念日。
当年11月12日，经中共中央同意，叶挺等开始在武汉正式组建新四军军部。12月25日，叶挺在武汉召集已到武汉的新四军全体干部开会，分析上海、南京失守后的形势，提出新四军的任务，号召大家团结奋斗，抗战到底。此次会议标志着新四军军部正式成立。
1938年1月6日，新四军军部从汉口迁到南昌，在高升巷张勋公馆内办公。军部领导成员除叶挺外，都是军部到南昌后才确定的。
与此同时，为了加强党对新四军的领导，中共中央决定，成立中共中央东南分局和中共中央军委新四军分会。东南分局领导湘、鄂、皖、赣、苏、浙、粤、闽等省或部分地区的党组织和新四军中的党组织，受中共中央和中共中央长江局双重领导。
新四军军部迁到南昌后，其中心任务是遵照中共中央的指示，把分散在南方八省的红军游击队改编为新四军。1月8日，国民党中央政府军事委员会核定由中共中央提交的新四军编制通报，同意新四军编为4个支队。
新四军所辖4个支队，共1.03万余人，枪支6200余支。这支部队虽人数不算多，装备也很差，但其中大部分人员是三年游击战争中保留下来的精华，是中国共产党领导的一支久经考验、立场坚定的人民革命武装。
1938年2月至4月，新四军军部相继命令第一、二、三支队前往皖南岩寺地区集中，命令第四支队前往皖西霍山流波瞳地区集中。