土地革命战争时期，任中国工农红军第十军连长、营长、支队长，六十四师师长，红四军参谋长，红一军团教导师政治委员，红十一军参谋长，红七军团参谋长，红十军团参谋长，红军北上抗日先遣队参谋长，挺进师师长，闽浙军区司令员。坚持了南方三年游击战争。
抗日战争时期，任新四军第二支队副司令员，新四军江南、苏北指挥部副指挥，新四军第一师师长兼政治委员，苏中军区、苏浙军区司令员兼政治委员。解放战争时期，任华中军区副司令员，华中野战军司令员，华东野战军副司令员、代司令员、代政治委员，第三野战军副司令员。
中华人民共和国成立后，任华东军政委员会副主席，中国人民解放军副总参谋长、总参谋长，国防部副部长，军事科学院副院长、第一政治委员，中共中央军委常委。一九五五年被授予大将军衔。是第一、二、三届国防委员会委员，第三、四届全国人大常务委员会委员，第五届全国人大常委会副委员长，中国共产党第七届候补中央委员，第八、九、十、十一届中央委员。在中国共产党中央顾问委员会第一次全体会议上被选为中央顾问委员会常务委员。