旧鉄労系と旧動労系の間で組織を二分する対立が生じ、結局鉄労色の強いJR東海労組（後のJR東海ユニオン）・JR西労組・JR四国労組・JR九州労組の4組合が総連を離脱した。これらの会社のJR総連支持派組合員はこれに反撥し、新組合JR東海労、JR西労、JR九州労（後に解散。JR九州ユニオンに合流）を結成して総連に加盟し分裂した。これらの会社では総連系の組合は少数派に転落した。その後1992年（平成4年）5月18日に、1987年（昭和62年）2月28日に国労から分離発足した旧日本鉄道産業労働組合総連合（旧鉄産総連）労働組合が総連を離脱した4組合に合流し、日本鉄道労働組合連合会（JR連合）を発足させている。なお、2006年（平成18年）7月に組織問題からJR九州ユニオンがJR総連からの脱退を表明（後に除名）。2006年8月以降、JR四国・JR九州にはJR総連加盟組合は存在しない。