1941年12月，日军开始调转方向，进攻背后的八路军根据地，并转换方针，从短期分散扫荡改为长期集中扫荡，于是大规模修筑道路，试图逐步压缩根据地。游击战也因此进入了新的阶段。
八路军采取的措施是，巩固各根据地，在各游击区坚持战斗；密切抗日武装和民众之间的关系，实行全民武装；发展各游击区分散斗争，减少正规、集中战斗；发展不脱产的民兵，以减轻民众负担；正规军削减数量，改善装备，提高战斗力，将正规军作为所有武装力量的核心，进一步发展地方军队和民众武装。
作为地方武装，各区有游击小队（30～100人），各县有游击大队（100～400人），分别接受各级政府指挥。队员都是纯粹的“良民”，只是不愿再坐视日军的侵略行为，纷纷加入了游击队。他们武器简陋，但在战斗中逐渐成为强有力的队伍。
有几个县，正规军几个月不来，是游击队在抵抗扫荡的同时支撑着地方行政。1939年8月，高阳游击队伏击了日军，毙敌数十人。定县游击队则配合正规军，歼敌四五十人，烧毁汽车4辆。此类战斗到处都在发生。到了游击支队（600～1000人）阶段，其活动范围就扩大到外线，逐渐形成正规军。
在平原根据地，民兵发挥着重要的作用。民兵也参加游击战，但如前所述，他们不同于游击队，原则上不脱离生产，直接隶属各地人民武装委员会。各军区人民委员会设有作战、训练、抗勤、爆炸等部门，各县武装委员会还增设了妇女部；而区乡民委员会则只设训练部和爆炸部。
训练方面，除抗战思想教育外，还有较高的军事技术教育，如武器使用与保管、夜战、射击和爆炸知识、火药和地雷的制造、铁丝网剪断技术等。民兵使用的是各种旧式武器，农民运动中使用的都拿了出来，比如红缨枪（枪头扎红穗，曾是红枪会的主要武器）、梭镖（枪头安装两刃利器的长枪）、鸟铳，还有少量步枪和手榴弹，原则上人手一件。
其任务是侦察、岗哨联络、警戒汉奸渗透、破坏交通、袭击等。民兵创造了各种联络方式，如放枪、敲锣、垒土等，日军一有动静，马上传遍各村，随即布下警戒或做好相应准备。民兵除配合正规军和游击队战斗外，有时还能独立作战。至1942年，冀中的民兵共达数十万人。
民兵由自卫队、游击小组和青年抗日先锋队三部分组成。自卫队在各村有分队，9个村的分队联合为中队，其上则有大队，大队之上有县政府直接指挥的总队。
自卫队担任锄奸、通信、放哨等任务，但敌人扫荡加剧时，也巡回警戒并参加战斗。各村还有小规模的游击小组，人数3～20人不等；他们本身是农民，执行任务时则化装成商贩等。自卫队和游击小组熟悉地形，消息灵通，常常配合军队战斗。民众则在游击小组掩护下转移资财、隐藏粮食。先锋队可能是民兵的青年组织，在支援自卫队和游击小组行动的同时，也独自执行任务。
在农村进行细致组织、积极开展行动的同时，中共并没有放弃对中枢大城市进行袭扰。北平、天津都有“城市游击三人团”（以下简称“三人团”）。三人团为数众多，覆盖区域很广。据说城市各个阶层都活跃着三人团，其组织严密，行动迅速，发展也很快。
1939年底，中共在延安召开八路军最高将领会议，中央政治局根据北方局的报告，就重建华北各城市工作基础问题和游击队潜入城市工作方案进行了研究，认为在目前形势下，派遣大规模武装游击队潜入北平、天津有困难；中共中央华北军政视察专员萧克提出组织三人团以袭扰城市的方案，得到了批准。
1940年1月，萧克回到延安，并被中共中央最高军事会议任命为华北游击区机要工作特派员兼冀察政治督察队总队长。他首先从基本“红军”（从时间判断，应是八路军）中选出3000人，派到陕西省北部组织了行动训练团，训练内容有基本工作技术（包括巷战技术）、建立组织和相互联络的方法等。
2月中旬，这些人带着建立三人团的命令和100元经费被派到各地，潜入城市。他们首先化装成工人、商人、人力车夫等，以维持生计和物色人员。100元经费中，50元用于发展组织，其余的将在总暴动时使用。
发展对象除必须是无产阶层外，还要符合四个条件，即35岁以下、没有家庭拖累、无“恶习”（吸食鸦片等）、身体健康；并规定只可选择两人，加上物色者本人组成一个小组。
随后即对这两人进行技术训练和思想教育，但在思想未彻底转变前，不必对其宣传共产主义；对于实在无法转变思想的，可与其结为兄弟。另外，三人团内无职务、等级区别；派出去的八路军，在任务完成后，仍须负责另外两人的训练工作，不可随便脱离工作地区。
三人团的任务是：破坏和瘫痪城市交通枢纽，袭击军队驻地，烧毁重要军事设施和经济设施，破坏军事机关和经济、金融、交通、电力等部门，袭*日本和傀儡政府军政要人并破坏或烧毁其住宅；其手段则是枪击、放火、爆炸、狙击、夜袭等；武器为汽油、炸药、硫磺、硝酸、手枪（从警察手中夺取）、炸弹、匕首等。三人团可以单独行动，也可通过暗号联络其他小组联合行动，但目标由各小组分别选择决定。
另外，除狙击、夜袭等一般活动外，三人团也可从事巷战。按计划，待时机成熟，萧克将派员调查，若组织已经健全，具备一定实力，将联络友军，发出总动员令，在各大城市造成混乱，并乘机一举占领。
按照中共的计划，不仅全国各城市，东北和内蒙也将组织三人团；还通过运销西北的药材和皮货等弥补资金短缺。据报告，北平有组织健全的三人团170～180个，天津则有200多个。
1939年8月，游击小组潜入日军占领的定县城内，虏获了5名翻译和6名朝鲜随军妓女，*死日军士兵1名。另有15人组成的游击小组则每人携带3颗手榴弹投向剧场，*伤多名日军士兵。据冀中区6月份的统计，自卫队和游击小组俘获土匪288名、汉奸209名，还有毒贩91名。
此外，1942年下半年，仅胶东区民兵就独立作战263次，攻占敌人据点两处，击毙伪军91名，并俘虏日军士兵4名、伪军官兵71名，还查获汉奸和地方特务56名，破坏铁路1271华里，割走电线9150斤，砍倒电线杆8541根，破坏桥梁44座。1943年2月，城家庄一带民兵配合八路军，击溃了从柳林出动的日军200余人。
民兵还开展了大规模的“爆炸运动”。各县武装委员会建立了炸弹制造厂，开设训练班教给民兵爆炸技术。1941年，冀中全区被组织参加爆炸的有“×万人”（原资料数字被删），仅某县一县即达887人。遍地开花的爆炸小组和爆炸运动与武装斗争相结合，使交通陷于瘫痪。
在冀中全区，从1940年11月起的8个月内，有34%的村庄组织了破路行动，54%的村庄既破路又作战，没有参加的仅有12%；全区先锋队拥有的手榴弹也比8个月前增加了3倍，步枪则增加了1倍。
游击战还开展到了海上。沿海民兵使用步枪、手榴弹等占领了日本、大连、青岛之间航线上的港口和车站17处，虏获运输船只5艘和航行于大连、安东、天津航线上的新下水船只1艘。这些船只载重300～450吨，隶属关东军，用于从华北等地向日本运送粮食。
