В Советско-польской войне осуществил Житомирский прорыв.
В 1923 году Будённый стал «крёстным отцом» Чеченской автономной области: надев шапку бухарского эмира, с красной лентой через плечо он приехал в Урус-Мартан и по декрету ВЦИКа объявил Чечню автономной областью.
В 1930 году курировал создание Московского зоотехнического института коневодства и коннозаводства в Успенском на базе Опытного конного завода. В 1932 году оканчивает Военную академию им. М. В. Фрунзе. При этом в рамках изучения новых современных методов борьбы с противником – в 1931 году совершает свой первый прыжок с парашютом с самолёта.
С 1937 по 1939 год Будённый командовал войсками Московского военного округа, с 1939 года – член Главного военного совета НКО СССР, заместитель наркома, с августа 1940 года – первый заместитель наркома обороны СССР. Будённый отмечал важную роль кавалерии в манёвренной войне, в то же время выступая за техническое перевооружение армии, инициировал формирование конно-механизированных соединений. Преобладающим в предвоенные годы было мнение, что кавалерия не может составить серьёзной конкуренции танковым и моторизованным соединениям на поле боя. В результате, из имевшихся в СССР к 1938 году 32 кавалерийских дивизий и 7 управлений корпусов к началу войны осталось 13 кавалерийских дивизий и 4 корпуса. Однако, по мнению ряда историков, опыт войны показал, что с сокращением кавалерии поспешили.
На февральско-мартовском (1937) пленуме ЦК ВКП (б) при обсуждении вопроса о Н. И. Бухарине и А. И. Рыкове выступил за их исключение из партии, «предание суду и расстрел», в мае 1937 при опросе об исключении из партии М. Н. Тухачевского и Я. Э. Рудзутака написал: «Безусловно, за. Нужно этих мерзавцев казнить».
