该连前身隶属于1947年组建的辽东独立第3师。
1948年3月，改编为东北*军第5纵队第15师第45团2营5连。
1948年11月，改称中国人民解放军第42军第126师第378团2营5连。解放战争时期，该连参加了辽沈、平津、安阳等战役战斗。
1950年10月，随第42军赴朝参战。
抗美援朝战争第四次战役运动防御阶段，中国人民志愿军第42军奉命在朝鲜洪川江以南龙头里、阳德院里抗击“联合国军”进攻。378团5连负责防守中元山这一兵家必争之地。面对敌机的轮番轰炸和猛烈的炮火攻击，5连的战士们顽强抵抗，连续战斗14个昼夜，打退了敌人30多次进攻，成功地牵制敌人，为后续大部队的部署调整和战役集结争取了时间，光荣地完成中元山守备任务。全连56名指战员，最后仅仅幸存3人。战后，第126师第378团2营5连被第42军授予【中元山英雄连】荣誉称号。
在幸存的3人中，还有1名卫生员。就是这位非战斗人员，不但往返20多次，背下去无数伤员，在关键时刻，又是他代理指挥岗位，带着战友们打退了敌人最后数次进攻，守住了阵地，直到后续部队上来。这位卫生员的名字叫康汉亭，战后被志愿军司令部评为“二级战斗英雄”并授予“英雄卫生员”荣誉称号。
当年人民日报对“英雄卫生员”康汉亭的事迹报道
1996年10月，该连改编为武警机动第126师第378团5连，如今已改编为海防部队。
无论隶属关系如何变迁，在朝鲜战场上5连全体官兵用鲜血和生命铸就了“赤胆忠魂、敢打必胜、攻坚克难、视死如归”的中元山精神永远激励着后人奋勇向前。
