国民党顽固派发动第二次反共高潮，刘少奇担心张云逸有失 1937年全面抗战爆发后，张云逸任新四军参谋长兼第三支队司令员，参?领导了新四军的组建?整编工作。1938年11月，张云逸率军部特务营由皖南渡江北上。1939年5月，他在安徽庐江县东汤池主持成立了新四军江北指挥部，兼任指挥，赖传珠任参谋长，邓子恢任政治部主任。江北指挥部成立后，将所属部队整编为第四、第五支队和江北游击纵队，共9000余人。随后，张云逸指挥所部向皖东敌后推进，逐渐在淮南铁路以东、津浦铁路以西开辟了以定远县藕塘镇为中心的淮南津浦路西抗日游击根据地，在津浦铁路以东开辟了以来安县半塔集为中心的淮南津浦路东抗日游击根据地。1939年12月，中共中央中原局书记刘少奇率中原局机关进入皖东。此后，江北指挥部所属部队在刘少奇、张云逸等中原局领导的统一指挥下，在淮南津浦路西、津浦路东两个抗日游击根据地的基础上创建了一块完整的淮南抗日根据地。
1940年11月，为统一指挥华中地区的新四军、八路军各部，刘少奇等在海安成立了华中新四军八路军总指挥部(后移驻盐城)，总指挥叶挺，副总指挥陈毅(在叶挺过江前代理总指挥)，政治委员刘少奇，参谋长赖传珠。张云逸领导的江北指挥部所属各部即归华中新四军八路军总指挥部指挥。
就在1940年10月19日，何应钦、白崇禧根据蒋介石的旨意，以国民政府军事委员会正、副参谋总长的名义向八路军正、副总司令朱德、彭德怀及新四军军长叶挺发出“皓电”，诬陷八路军、新四军“不守战区范围自由行动”、“不服从中央命令，破坏行政系统”，限令八路军、新四军于一个月内全部集中到黄河以北地区，欲借日军之手削弱甚至是消灭共产党领导的抗日武装。不久，蒋介石统治集团又制订了“剿灭黄河以南匪军计划”和“解决江南新四军案”。同时，蒋介石在长江两岸调兵遣将，密令江北的李品仙(时任国民党第二十一集团军总司令兼国民党安徽省政府主席)、汤恩伯(时任国民党第三十一集团军总司令)、韩德勤(时任国民党鲁苏战区副总司令兼国民党江苏省政府主席)及江南的顾祝同(时任国民党第三战区司令长官)等部加紧准备，以便在适当时机大举“清剿”活动于长江南北的新四军、八路军。
山雨欲来风满楼。还在何应钦、白崇禧发出“皓电”之前的一个多星期，张云逸就得到情报：国民党桂系军队已有3个师由第五战区开往大别山，鄂北及安徽立煌县(今金寨县)都新到国民党中央军一部；同时，李品仙已令其所属各部加紧准备，待机向皖东大举进攻，淮南铁路以西的桂系第四十八军第一三八师一部则不时以小股部队越过淮南铁路向津浦路西地区进犯。此时，江北指挥部所属第四、第五支队主力4个团因要支援苏北新四军在泰兴黄桥地区的作战已东进至淮(安)宝(应)地区，留在淮南津浦路西抗日根据地的只有江北游击纵队和第四支队第九团，路东抗日根据地则只有4个独立团的地方武装。若是桂顽集中兵力大举东犯，仅靠淮南抗日根据地现有兵力，不用说打退顽军进犯不可能，就是固守路西部分战略要地也相当困难。对此，张云逸深感忧虑。
除了兵力单薄外，留在根据地的部队还未来得及进行补充和整训，战斗力也不强。另外，1940年淮南津浦路西地区遇到了灾荒，路西根据地中心区又十分严重，部队的粮食及被装、鞋袜的供给等后勤保障方面也遇到了困难。刘少奇在离开皖东赴苏北前，曾向新四军军部及中共中央军委如实反映过淮南抗日根据地的情况。他在给八路军副总司令彭德怀、中共中央北方局书记杨尚昆的电报中甚至认为，张云逸率领的留在淮南抗日根据的少数兵力一旦遭到桂顽的大举进攻，很可能无法坚持下去，根据地有丧失的可能。
张云逸接到一项“死令”――皖东决不可失
皖南新四军军部的北移，令张云逸感到不放心。1940年10月之前，中共中央、中央军委发过多次电报，建议处于国民党顽军和日伪军包围中的皖南新四军军部尽快渡江北移，以免在反共摩擦中遭受损失。张云逸和刘少奇也曾讨论过此事，并向中共中央军委建议新四军军部率皖南部队最好北渡到无为、含山地区，随后向淮南津浦路西抗日根据地转移，届时他们可以派第四支队前去接应，这样军部过江就比较安全。否则，大的反共摩擦发生时，处于险境中的军部必然遭受损失。
张云逸认为，新四军军部若率皖南部队早日渡江，移至皖东，不但能使军部和皖南部队摆脱危险的局面，而且将大大增强江北新四军的力量。这对于巩固江北已得阵地及进一步开展华中敌后的抗日斗争，有着非常重大的意义。可是，令张云逸无法理解的是，新四军军部一直没有执行中共中央、中央军委要求其尽快北移的指示。
张云逸担心，桂顽此时若占领了淮南津浦路西地区，江北指挥部在皖东?皖中部队之间的联系就会被切断，在皖中无为一带活动的游击纵队也面临着难以立足的危险，届时他很可能无法再派部队到无为、含山地区接应军部过江了。若是这样，军部过江就会面临更多的困难，也增加了一份危险。
毛泽东等人认为，淮南抗日根据地是整个华中的“战略枢纽”，因此，他们在电报中给张云逸下达了一个任务，要其迅速部署皖东的新四军对西防御，同时向桂军呼吁反对内战，强调团结对敌，务必坚守住淮南抗日根据地。电报特别强调指出：“皖东决不可失，如失皖东，则蒋介石必沿运河、淮河构筑封锁线，断我向西之前途。”同时，新四军军部也认为：皖东确关重要，军部要北移非有皖东在手不可。为此，军部也要求张云逸必须坚守淮南抗日根据地，并立即作出相应部署。
该如何坚守淮南抗日根据地呢?张云逸?刘少奇、邓子恢、赖传珠等人进行过多次讨论。10月19日，刘少奇在给中共中央军委并张云逸、郑位三(时任中共中央中原局委员兼新四军第四支队政治委员)的电报中建议：先集中兵力消灭韩德勤部，彻底解决苏北问题，再从苏北抽调3～4个主力团来皖东；待我路东部队休整好、顽军疲劳之时，我再集中兵力一举而击破之。
中共中央军委没有同意刘少奇等人提出的先消灭韩德勤部，再由苏北抽调部队到皖东支援张云逸作战的意见。对于刘少奇等提出的暂时只以2～3个团在淮南津浦路西以游击战?顽军周旋的做法，毛泽东等人感到心里没底。因为当时桂军在兵力上占有优势，且战斗力也较强，一旦新四军被“挤”出路西，桂顽势必乘胜向路东大举进犯。若是如此，后果将不堪设想。出于对“皖东决不可失”的考虑，毛泽东、朱德、王稼祥于10月25日致电刘少奇等人，请其考虑是否将已进至淮宝地区的第五支队司令员罗炳辉所部及江北指挥部所属的几个主力团调回皖东，增强淮南抗日根据地的守备力量，以抵御桂顽李品仙部的进攻。毛泽东等在电报中还问道：如待李品仙部进攻时再往皖东调部队，是否来得及?
接到电报后，张云逸?刘少奇等反复讨 论后，决定遵照毛泽东等人的指示，准备将东进至运河西岸的第四支队第七、第十四团调回淮南津浦路西地区，以加强路西新四军的力量。同时令罗炳辉做好准备，以便随时能够率第五支队第八团返回淮南津浦路东地区，只留第五支队第十团在淮宝地区坚持活动。随即，刘少奇将上述处置意见电告中共中央军委。
国民党军在江北大打出手，张云逸坐镇指挥反顽作战
就在刘少奇、张云逸等人商讨如何应对桂顽进攻、坚守淮南抗日根据地时，李品仙根据蒋介石的旨意，趁新四军江北指挥部主力东调未返之际，于1940年10月下旬令第四十八军第一三八师、第十游击纵队及保安第八团等部共7个团的兵力，陆续越过淮南铁路，向淮南津浦路西抗日根据地发起进攻。
张云逸接到桂顽东犯的报告后，立即致电李品仙，呼吁其遵守双方以前商定的以淮南铁路为界分区抗日的协议，停止东犯，团结对敌。但李品仙此时根本听不进张云逸的劝告，令桂军继续进攻。由于桂顽此次有备而来，且新四军在淮南津浦路西兵力薄弱，至11月中旬，顽军已相继占领了合肥县梁园、草庙集、王子城，全椒县复兴集，长丰县杜集等地。
在此期间，国民党原东北军第五十七军第一一二师霍守义部由山东南下苏北，准备切断张云逸领导的淮南新四军?在苏北的八路军第五纵队黄克诚部、新四军苏北指挥部陈(毅)粟(裕)部之间的联系，继而?韩德勤部南北夹击苏北的八路军、新四军；活动于豫皖交界的国民党军汤恩伯部也准备东进，向彭雪枫领导的八路军第四纵队发动进攻；韩德勤部也蠢蠢欲动，叫嚣着要从苏北新四军手中“收复”失地；顾祝同则在江南制订围歼皖南新四军军部及其直属部队的作战计划。一时间，整个华中都被内战的阴云笼罩着。
面对桂顽的步步进逼，张云逸置个人安危于不顾，坐镇淮南津浦路西，指挥部队打击进犯的顽军。由于兵力有限，张云逸令第四支队第九团和江北游击纵队以游击战?顽军周旋，在给顽军一定打击后即灵活转移，为主力西返赢得时间。同时，张云逸致电已到苏北的刘少奇，请求令第四支队第七、第十四团及第五支队第八团迅速返回淮南抗日根据地，以增强对桂顽的作战力量。随后，根据桂顽的作战特点，张云逸在征得刘少奇的同意后，决定集中第四支队全部、江北游击纵队大部以及第五支队第八团，共6个多团的兵力于淮南津浦路西地区，阻击桂顽的进犯，并令罗炳辉赴路西，以江北指挥部副指挥的身份协助自己加强对路西各参战部队的统一领导和指挥。
路西新四军兵力得到加强后，张云逸即调整部署，令各部分别在全椒县周家岗，滁县鸦窝集，定远县藕塘集、界牌集、吴家圩等地构筑工事，准备阻击来犯的顽军，以坚守路西根据地的中心区。张云逸深知，如果路西不保，桂顽必然会越过津浦铁路，进一步向东压迫，到那时不但淮南抗日根据地和江北指挥部的处境将更加被动，而且还会对苏北、豫皖苏边乃至整个华中的反顽斗争造成不利影响。因此，张云逸指示所部，即使付出再大的代价也要守住淮南津浦路西抗日根据地。
从11月下旬起，桂顽分三路向淮南津浦路西抗日根据地发起新一轮进攻。张云逸、罗炳辉指挥所部在周家岗、界牌集、鸦窝集等地?顽军展开激战。同时，张云逸还令在巢县南部银屏山地区活动的江北游击纵队一部袭扰顽军后方，以牵制其东犯。新四军各部指战员经过英勇奋战，终于阻止了顽军的进攻势头。
桂顽的进攻虽然暂时被打退，但是张云逸身上的压力丝毫没有减轻。桂顽在调整部署后，又向新四军发起了进攻，而且李品仙还将第七军第一七二师调至淮南铁路西侧，准备随时参战。这样一来，不但张云逸，就连苏北的刘少奇、陈毅等人也都非常着急。他们都认为桂顽会很快向皖东发起更大规模的进攻。基于此判断，张云逸急电刘少奇，请求苏北的八路军、新四军迅速西援皖东。同时，张云逸还将桂顽无理进攻新四军的情形电告蒋介石，要求制止桂军对淮南抗日根据地的进犯。
令张云逸未曾想到的是，援军未到，对手却又增加了
刘少奇和陈毅为打通苏北?皖东之间的联系，以便增援张云逸，经请示中共中央同意后，于1940年11月底至12月中旬指挥苏北的八路军、新四军向盘踞在淮宝之间的韩德勤部发起进攻，史称曹甸战役。但此役并未能将韩德勤部全部消灭，苏北问题未能得到根本解决。12月16日，刘少奇致电张云逸、邓子恢等并报中共中央军委：现我主力在苏北攻击顽军工事受挫，苏北已形成僵局，急切无法解决，因此不能增援皖东，新四军第四、第五支队必须在不依靠任何增援条件下，独立支持皖东，这是一种严重而复杂的任务。
鉴于刘少奇等无法从苏北抽调部队西援张云逸，毛泽东、朱德、王稼祥遂于12月16日致电刘少奇、陈毅并告叶挺、项英：华中斗争是长期慢性斗争，我们要有决心?耐心；苏北部队亟须整训扩大一段时期，然后以主力一部增援皖东；皖南部队务须迅速过江，作为坚持皖东之核心。几天后，毛、朱、王再次电示叶、项，令其率部迅即渡江，并强调“应于两星期内渡毕，增援皖东为要”。然而，新四军军部并未执行中共中央军委要其率皖南部队于两星期内渡江完毕，增援张云逸的指示。
令张云逸未曾想到的是，援军未到，对手却又增加了。12月20日，定远、滁县等地的日伪军乘新四军江北指挥部集中兵力?桂顽作战之机，纠集了2000余人，向淮南津浦路西抗日根据地的定远县藕塘集、仁和集，滁县珠龙桥、施家集、曲亭等地进行“扫荡”。在日伪顽军的共同进攻下，路西抗日根据地形势最严峻时只剩下以定远县藕塘集为中心的东西30公里、南北20多公里的狭小地带，只有两三个完整的乡，其余均成了游击区。23日，张云逸向中共中央军委报告了淮南津浦路西抗日根据地遭到日伪军“扫荡”及顽军进攻的情形。
同日，中共中央军委电示刘少奇、陈毅、张云逸等人：目前皖东须由张云逸所部独立支持之，无论敌人或顽军进攻，均用游击战?之周旋，不要希望任何增援，华北八路军增援不可能，也不适当。在蒋介石没有真正投降以前，向我大举进攻是不可能的，因为他没有便利的战场，所以你们很可以利用时机积极准备一切，包括扩大整训军队，巩固?发展根据地。“你们的军队愈扩大，愈精强，你们的根据地愈发展，愈巩固，任何进攻都是不怕的，故认真扩大?整训军队，认真发展?巩固根据地，就是粉碎任何进攻的可靠资本。”
根据中共中央军委的指示，张云逸?罗炳辉指挥所部以游击战术一面?桂顽周旋，一面打击进犯的日伪军。日伪军在付出伤亡、被俘400余人的代价后，被迫停止了“扫荡”，返回原防地。新四军收复了被日伪军占领的地方。但是，新四军对桂顽的作战却始终未能取得大胜，以致形成了旷日持久的拉锯战。
鉴于淮南津浦路西战局一时形成僵持局面，张云逸根据毛泽东、刘少奇等人的指示，逐渐将工作重点转至整训军队?巩固路 东抗日根据地方面来，为以后的长期作战做准备。在征得刘少奇同意后，张云逸重新调整了江北指挥部所属各部的部署：罗炳辉、郑位三率第七、第八、第九团暂在淮南津浦路西定远以东、滁县地区活动，坚持路西阵地，将第十四团调至路东；谭希林(时任江北游击纵队司令员)率江北游击纵队第一、第三团在定远以西、合肥以北及凤阳、怀远等地区活动；孙仲德(时任无为游击纵队司令员)率领无为游击纵队仍?第三支队挺进团在无为、巢南、桐城一带坚持活动，以便将来接应皖南新四军军部的北移行动；第十团仍部署在运河以西、天长以北之淮宝地区；江北指挥部率第十四、第十五团，独立第三、第四团坚持路东阵地；集中第九、第十四、第十五团及独立第四团进行整训。
11月底，张云逸返回路东后，又?邓子恢等人进一步讨论了加强路东抗日根据地建设的有关问题。
在返回路东之前，张云逸接到了新四军军部的电告，军部已令准备到江北指挥部工作的中共中央军委第二局原局长曾希圣在无为组织了渡江指挥部，负责筹集渡船、粮草，准备接应军部和皖南部队从铜陵、繁昌地区北渡。张云逸也根据中共中央、新四军军部的指示，派出小部队到无为一带沿江地区进行侦察，为军部及皖南部队渡江后向东转移做准备。同时，张云逸还令孙仲德率无为游击纵队配合渡江指挥部进行各项准备工作。此后，关于军部及皖南部队即将渡江北上的消息不断，但张云逸始终未见军部采取行动。
至12月下旬，由于国民党方面到处散布新四军军部渡江北移的消息，日军已提高了戒备，在江南各据点开始增加兵力，并派出大批舰船在长江中游弋，准备届时予以截击。李品仙也派出顽军进至桐城、合肥、无为地区，并向在无为、桐城一带活动的新四军无为游击纵队和第三支队挺进团发动进攻，抢去了新四军筹集的部分船只，有一部分渡口亦被其占领。张云逸越来越为新四军军部及皖南部队的北移感到担心。
12月底，新四军军部在中共中央、中央军委的一再催促下，终于决定率皖南部队北移，所走的路线是由皖南经苏南渡江至苏北。可是这时，顾祝同正调动7个多师约8万人的兵力向皖南集结，准备围歼新四军。
新四军在皖南的失败，令张云逸更加担心淮南抗日根据地的安全问题
当国民党顽军在江北对张云逸坐镇的淮南抗日根据地不断发动进攻时，长江以南的国民党顽军亦在加紧进行围歼皖南新四军的部署，并最终于1941年1月制造了震惊中外的皖南事变。
新四军在皖南的失败，令张云逸更加担心淮南抗日根据地的安全问题。自从得知皖南事变的消息后，张云逸即令所属各部提高警惕，加强对桂顽的戒备，以防其乘机大举东犯。?此同时，刘少奇、陈毅和中共中央军委也对张云逸等作出指示，以应对危局。
张云逸令新四军第四支队第七、第九团开至淮南津浦路东地区，?在路东的部队一起布置抵挡顽军进攻的阵地，准备扼守津浦铁路，坚决不让顽军深入到路东地区；令江北游击纵队、第八团及路西地方武装在路西以游击战坚持斗争，以牵制桂顽的东进。同时，在冬季扩军3400人的基础上，张云逸还?邓子恢等商定，决定将2月作为扩军突击月，再征召3000名新兵补充部队，收购20万发子弹、2万双鞋，并抓紧时间整训部队，提高部队的军政素质，准备应付桂顽的再次进攻。
此时，张云逸又得到可靠情报：蒋介石已决心向华中及山东新四军、八路军发动全面进攻。蒋介石令顾祝同在江南围歼新四军的同时，又任命李宗仁为华中“剿共”总指挥，分四个“进剿”区对江北新四军、八路军实行“清剿”，并限于1月底开始攻击、2月底“肃清”津浦铁路以西之新四军。
张云逸认为，既然国民党顽军有一整套的进攻华中新四军、八路军的计划，那么我亦应有一整套的应对方案才行，否则就会陷入被动。怎样才能粉碎顽军的整个进攻计划呢?经过反复思考，张云逸于1月24日致电刘少奇、陈毅并中共中央军委，就如何在华中进行军事部署以粉碎顽军的全盘进攻计划提出建议。
张云逸还认为：新四军、八路军在华中的突击方向应为皖北，首先打败汤恩伯，乘胜进逼豫南，并配合鄂豫边新四军李先念部的行动，同时威胁大别山侧背；苏北的新四军、八路军只留必要兵力牵制韩德勤，并从政治上争取国民党苏北地方实力派李明扬等部，以巩固苏北根据地，主力应向西进逼；皖东为钳制方向，但在目前须集中必要兵力消灭桂顽进入津浦路西之一部，停止其继续进攻，同时从政治上争取其中立；如我主力进到豫南，则顽军将陷于我两面夹击之中，此时桂军若离开大别山，则我在皖东和豫南的部队可乘势占领之。
张云逸的上述建议得到中共中央军委的高度重视，并被吸收到军委的决策中。2月1日，毛泽东、朱德、王稼祥在关于今后华中战略任务的指示电中指出：“目前华中指导中心应着重于三个基本战略地区。第一个基本战略地区是鄂豫陕边。其办法由彭雪枫、张云逸、李先念三地逐步向西推进，以在一年内达到鄂西、豫西及陕南建立游击根据地为目的。”第二个战略中心是江南根据地，第三个战略中心是苏鲁战区。后来由于华中形势的变化，中共中央军委放弃了在鄂豫陕边建立抗日游击根据地的计划，张云逸的建议未能付诸实践。
正当张云逸研究如何保卫淮南抗日根据地及粉碎国民党顽军对华中的进攻计划时，江北指挥部传来了国民党当局1月17日发布的撤销新四军番号的反动命令。为使新四军能继续在华中坚持抗战，张云逸认为，在当前最紧要的有两件事要做：一是要立即表明我方对国民党当局发布的反动命令的态度，坚决拒绝接受这个命令；二是要采取实际行动回击这一反动命令。为此，他和邓子恢于1月24日给毛泽东、朱德、王稼祥及刘少奇、陈毅的电报中指出：(一)蒋介石下令取消新四军番号，甚至宣布法办叶挺军长，通缉项英副军长，我们全军应立即通电全国坚决反对。(二)我们是否应立即组织新的军部代理职权，并向全国宣布，以回击国民党当局的反动命令。
张云逸所提的上述意见?中共中央、中央军委当时所确定的应对措施是完全一致的，并且在此之前，中共中央、中央军委已经采取了实际行动。不过，由于通信不畅，张云逸没接到有关信息。
参?处理皖南事变后的相关事宜，担任新四军副军长兼二师师长
中共中央为打退国民党顽固派的第二次反共高潮，坚持团结抗战，避免分裂，确定了在政治上采取攻势、在军事上采取守势的斗争方针。为对抗国民党当局于1941年1月17日发布的撤销新四军番号的反动通令，中共中央军委于1月20日发布了重建新四军军部的命令，任命陈毅为新四军代理军长，刘少奇为政治委员，张云逸为副军长，赖传珠为参谋长，邓子恢为政治部主任。
还在1月18日，刘少奇曾电示张云逸、罗炳辉等人，要他们派人尽量收容从皖南突围出来的新四军指战员，并安排其在芜湖附近，铜陵、繁昌地区打游击，建立根据地? 抗日民主政权。
由于当时皖东?皖中交通联系已被桂顽阻断，无法派大部队去无为一带进行接应，张云逸只好令在皖中活动的无为游击纵队多派人员在沿江一带加强侦察，一旦发现有皖南新四军指战员突围过江，即做好接应工作，保证其能安全北渡。1月22日，张云逸接到了曾希圣、孙仲德从无为发来的一封电报。二人在电报中说，皖南北移部队第二纵队政治委员黄火星率领一部分指战员突出国民党军的包围圈，现已安全到达无为东乡，另外还有其他一些突围人员已分成零星小股正陆续向无为北渡中。
看完来电后，张云逸随即?邓子恢复电曾希圣、孙仲德，要其继续派兵收容皖南突围出来的新四军指战员，并做好安置工作。此后，张云逸多次将收拢突围人员的情况上报中共中央军委并刘少奇、陈毅。至2月14日，已收拢过江人员578人。另外还有一部分突围人员在铜陵、繁昌地区坚持活动。
中共中央军委十分重视皖南新四军突围人员的收拢、安置工作。在接到张云逸的报告后，中共中央军委于1月28日电示张云逸、邓子恢，要江北指挥部设法派人过江，对皖南突围出来的新四军指战员予以指导，重新集结力量。电报还指出，目前除过江者外，尚应收集一部新四军指战员在芜湖一带抗日，以便将来向南发展。2月8日，刘少奇也电示张云逸、邓子恢等，要江北指挥部负责派人到江南芜湖附近建立抗日根据地。10日，刘少奇在给张云逸、邓子恢等人的电报中进一步强调：经营皖南是江北指挥部的任务之一，为经营皖南，决定派曾希圣、黄火星二人带电台回江南铜陵、繁昌、芜湖一带发展，建立抗日根据地，准备将来出黄山向赣东发展。
张云逸、邓子恢等人在研究了皖南当地及新四军突围指战员的实际情况后认为，目前还不适宜派出大批兵力过江去皖南活动，原因有二：一是国民党顽军仍在皖南大举“搜剿”新四军突围人员，皖南白色恐怖严重；二是由皖南突围过江的新四军指战员的思想问题尚未解决，心中或多或少都存有某种程度的悲观失望情绪。为此，张云逸等在电令曾希圣、孙仲德派人去皖南收容突同失散人员并在当地坚持游击战的同时，决定派出小股部队渡江到皖南活动，交由中共皖南特委领导，其余突围到江北的部队留一部在无为就地进行整训，干部亦留一部在无(为)桐(城)庐(江)地区活动，突围部队大部转移至皖东整训。
在皖南事变中，新四军损失了军部和数千名指战员，但是战斗在大江南北的新四军部队仍有数万人。为加强对这些部队的集中统一领导，同时也为了以实际行动回击同民党顽固派的反共高潮，1月25日，刘少奇、陈毅根据中共中央军委的命令，在苏北盐城召开了新四军军部重建大会。新的军部成立后，根据中共中央的指示，将活动于陇海铁路以南、长江南北地区的新四军、八路军统一整编为7个师又1个独立旅，共9万余人。
张云逸所领导的江北指挥部及其所属各部整编为新四军第二师，张云逸以副军长职兼该师师长。2月，张云逸领导了第二师的整编工作。同时，根据中共中央军委的指示，第二师组成了以张云逸为书记的军政委员会，以加强对部队的集中统一领导。根据新四军军部的决定，张云逸除了参加全军的领导工作外，还要作为一个战略区的领导人，对第二师和淮南抗日根据地负有直接的领导责任。这对于已年近50岁的张云逸来说，既是一种信任，也是一种挑战。