抗战爆发后，英军于1940年撤离山东威海湾，日军乘机进占刘公岛，扶植汪伪政权在岛上设立威海卫要港司令部，指挥华北各地的汪伪海军。

1944年下半年，看到日军的失败已成定局，驻守刘公岛的伪军士兵在练兵营卫兵队少尉队长郑道济，上士班长连城、毕昆山、李仁德、刘国璋等的领导下，决定发动起义。

11月5日下午1时30分，郑道济按原计划将起义骨干及部分练兵集合于练兵营第二兵舍，正式宣布起义。他站在床板上，高声说:“弟兄们，中央军已经快打到威海了(实际上是八路军在戚家庄打了一个伏击战)，我们中国人再也不受鬼子汉奸的欺压了，我们要拿起武器，消灭日本鬼子和汉奸，为我们的父老兄弟报仇。”大家纷纷站起来，表示要跟日军战斗到底。

郑道济将练兵营编为3个突击队，分头行动。至下午5时，已将岛上所有的日军和企图顽抗的反动伪军官消灭，控制了全岛，并争取了岛上的5个派遣队和伪海员养成所70余人及“同春”号运输舰参加起义，开赴到达相距十五六里路的夏家疃村和东场村（原属文西县十区，今为牟平区姜格庄镇）。

胶东半岛中共地方党组织很快将这一情况报告了八路军东海军分区，东海军分区党委当即决定，调东海独立团一个营、文西独立营、牟平独立营以及附近的区中队和民兵，连夜向这支队伍靠拢。

郑道济等人率部向牟平进发，于次日拂晓到达双林村。上午10时许，由双林前村的民兵副团长曲作会连续转交了两封信给郑道济，信中肯定了他们弃暗投明的义举，欢迎他们加入到八路军的队伍中来。经过东海军分区敌工股股长辛冠吾等的一番工作之后，郑道济带领全体官兵正式加入了八路军队伍。受刘公岛汪伪海军起义的影响，11月10日，驻守在龙须岛上的伪海军派遣队67名官兵也举行了起义。1944年11月22日，中共东海军分区在文西县铺集镇把两支起义部队合编为“陆军第十八集团军山东胶东军区海军支队”，郑道济为上校支队长，下辖4个中队。

1945年8月日本宣布无条件投降后，驻青岛的日伪军拒绝向八路军缴械投降。8月25日，“海军支队”奉命配合八路军主力部队参加了攻打即墨县城的战斗，“海军支队”担任第二梯队。9月，“海军支队”移驻莱阳水沟头，总兵力发展近千人，其中著名战斗英雄杨子荣所在的胶东军区牟平独立营就编入了“海军支队”，小说《林海雪原》中传奇式的英雄人物，就是以这支部队中一个小分队的队员们为原型塑造的。第4中队政治指导员曲波，就是著名小说《林海雪原》的作者。10月24日，部队开抵龙口，接受了渡?？岸钡娜挝瘢殖?0艘大帆船和3艘内火艇驶向辽东半岛。

胶东海军支队渡海北上东北时曾留下的一部分人员，组成“山东胶东军区海军教导队”，驻烟台、威海一带，守卫海防，训练海军学员（包括地方海防民兵）。1947年胶东保卫战后，“教导队”人员分编到华东军区所属的各部队中去。全国解放后，中共中央军委在全军范围内抽调原“海军支队”中刘公岛、龙须岛起义官兵170余人参加人民海军的建设，使他们成为了新中国海军建设的重要骨干力量。