魯瑞林出生于1912年10月，其于1932年2月加入中國共產黨，于1931年10月參加江西寧都起義時加入中國工農紅軍，參加了中央蘇區第四、第五次反“圍剿”和二萬五千里長征，1937年10月率部東渡黃河，開赴山西太原，堅持太行山區持久戰，深入敵占區反“掃蕩”、打到敵后方進行反蠶食斗爭，開辟、鞏固和創建、發展抗日根據地。在解放戰爭時期，還率部投入解放大西北戰役，展開大規模運動戰，誘敵圍殲，為解放華北發揮了決定性作用。