1937年8月13日淞沪会战爆发后，日军随着战局的发展不断增派兵力，于当年10月组建中国方面舰队，主要用以封锁中国沿海，最初下辖第3、第4舰队。
1939年，中国方面舰队重新整编为第1、第2、第3遣华舰队和海南警备府。其中第1遣华舰队主要负责华东海域和长江沿岸作战；第2遣华舰队主要负责华南海域作战；第3遣华舰队主要负责华北海域作战。
停泊在上海江面的日本海军出云号巡洋舰
太平洋战争爆发后，鉴于中国羸弱的海军力量，日军中国方面舰队的兵力不断调往南方，各下辖舰队也不断降格，后期主要以岸上部队为主。
截至日本投降，中国方面舰队还剩6万多官兵和主要舰艇20余艘。
中国方面舰队主要指挥官及直属部队
日本投降仪式上的福田良三（左三）
司令官：福田良三，海军中将，战后作为日本海军的代表参加了南京受降仪式。
参谋长：左近允尚正，海军少将，战后被押解至香港接受英国方面的审判，1948年1月被处以绞刑。
上海海军特别陆战队司令官：胜野实，海军少将。
香港特别根据地队司令官：大熊让，海军少将。
厦门特别根据地队司令官：原田清一，海军中将。
第二遣华舰队下辖第314、第327设营队和炮舰若干。
藤田类太郎到达投降仪式会场
司令官：藤田类太郎，海军中将，战后在香港向英国海军少将夏慤投降。
参谋长：大熊让（兼）。
上海根据地队司令官：森德治，海军少将。
舟山警备队司令官：藤野清秀，海军大佐。
南京警备队司令官：井筒义三。
长江根据地队司令官：泽田虎夫，海军少将。
九江警备队司令官：龙冈长久。
青岛根据地队司令官：金子繁治，海军中将。
华中飞行司令部司令官：梅崎卯之助，海军大佐。
海南警备府司令官：佐贺启次郎，海军中将，战后在海南向中国第46军军长韩练成投降。
参谋长：千田金二，海军少将。
第15警备队司令官：吉田喜一。
第16警备队司令官：能美实。
舞鹤镇守府第1特别陆战队司令官：中川有太郎。
横须贺镇守府第4特别陆战队司令官：青山茂雄。
佐世保镇守府第8特别陆战队司令官：森本一男。
