清末中国与沙俄签订《瑷珲条约》规定“黑龙江、松花江、乌苏里江只许中俄两国行船，但自此以后三江航权由沙俄独占，清末民初，中国轮船逐渐开始在松花江航行，但仍无法在其他两江有航权，十月革命以后，中国参与干涉俄国革命，并借机收回了黑、乌江航权，并重建江防。

    1919年7月，海军部宣布成立黑吉江防筹备处，由王崇文海军少将为处长，7月21日派出江亨，利捷、利绥三炮舰及利川拖船等4膄军舰由靖安舰护送从上海出发准备借道海参崴，前往黑龙江。但在庙街被帝俄残余部队和日海军阻止，历经一年多的交涉，终于于1920年10月11日抵达哈尔滨。

    在此之前，王崇文又购买商船3膄改为军舰，分别命名为江平，江安，江通，，又向中东铁路局借拨巡船一艘，改名利济，1920年5月29日，吉黑江防司令公署正式成立，王崇文为江防司令。江防舰队正式成立，这时江防舰队下辖江亨炮舰（550吨，日造，6门炮），利捷炮艇（没收原德国长江炮艇，266吨，5门炮），利绥炮艇（没收原德国长江炮艇，170吨，4门炮），利川拖船（375吨），利济炮艇（250吨，3门炮），江平改装炮艇（250吨，6门炮），江安改装炮艇（250吨，6门炮），江通改装炮艇（120吨，6门炮）.总吨位不足2300吨，实力极其弱小。成军后，该舰队马上开始黑龙江的护航任务，但由于苏俄态度发生变化，双方屡生摩擦，致使该舰队难以实施对外防务，对内防务也仅限于松花江。虽然如此，该舰队仍在力所能及的范围内对加强东北江防起了一定作用。

    第一次直奉战争后，张作霖开始重视海军，1922年12月，张作霖以通吴（佩孚）和亏空公款的名义将王崇文撤职，并将江防舰队收归己有，任命江亨舰长毛钟才为司令。23年3月将吉黑江防司令公署改名为吉黑江防司令办公处，1925年11月郭松龄反奉时毛钟才因有附郭嫌疑被撤职，由参谋长兼利绥舰长尹祖荫接任，26年春，吉黑江防司令办公处改组为东北海军江防舰队部。在这期间，江防舰队又改装了炮艇2艘（江泰，255吨，4门炮，江清，255吨，2门炮）和滑艇1艘（飞鹰，35吨，1门炮），实力有所提高。

    1929年7月中东路事件爆发，江防舰队开赴同江与苏联阿穆尔河舰队对峙，在对峙期间，东北海军副总司令沈鸿烈调来4.7英寸火炮2门安在拖船”东乙“号上，作为活动炮台，并将利捷、利绥两舰小口径炮改为3英寸炮，10月12日，苏联海军9艘军舰（约4500吨，6英寸炮8门，4.7英寸炮16门，3英寸炮8门，小炮2门，高射炮3门），25架飞机发起进攻，同江海战爆发，江防舰队在地强我弱情况下激战10小时，击沉敌舰3艘，击伤敌舰4膄，击落飞机2架，但自己也损失惨重，5艘军舰和东乙号（共约1500吨，4.7英寸炮2门，3英寸炮6门，小炮2门，高射炮1门），除利绥舰受伤撤退外，其余（利捷、江安、江平、江泰、东乙）均被击沉，伤亡官兵（连陆战队）500余人，同江失陷。

   10月底苏海军再次进攻富锦，江防舰队利亨舰受重伤后与失去战斗能力的利绥，利川等舰一起自沉江中，阻塞航道，自此江防舰队舰艇基本全军覆灭。

    奉苏战争后，尹祖荫辞职，由谢哲刚接任江防舰队长，并开始着手打捞沉舰。到9.18事变前夕，江防舰队已打捞修复了利绥、利济、江平、江通、江清等舰，这是全舰队共有官兵500余人，9.18以后，谢哲刚被调回关内，由补充大队长尹祚乾兼代舰队长，此后，江防舰队一直举棋不定，虽然曾派出部分人员和舰炮组成炮队，参与了哈尔滨保卫战，但在失败后，开始与日寇谈判投降，1932年5月，江防舰队正式投敌，被改编为伪满江防舰队。

    在改编过程中一部分官兵不甘投敌，相继弃职而逃或杀敌反正，其中，最大一起为1932年10月利济舰在同江在舰长范杰的带领下杀死日本指导员和电务员，全舰65名官兵集体反正。33年2月，在日伪的压力下，反正水兵被迫进入苏联境内避难。后被苏联政府经新疆送回国内。自此，东北江防舰队历史完全结束。