Родился на хуторе Козюрин (ныне Пролетарского района Ростовской области) Платовской станицы (ныне — Будённовская) в бедной крестьянской семье Михаила Ивановича Будённого и Меланьи Никитичны Буденной. Русский. Член РКП(б)/ВКП(б)/КПСС с 1919 года.
Служба в Императорской армии
В 1903 году призван в армию. Служил срочную службу на Дальнем Востоке в Приморском драгунском полку, там же остался на сверхсрочную. Участвовал в русско-японской войне 1904—1905 годов в составе 26-го Донского казачьего полка.
В 1907 году как лучший наездник полка отправлен в Петербург, в Офицерскую кавалерийскую школу на курсы наездников для нижних чинов, которые закончил в 1908 году. До 1914 года служил в Приморском драгунском полку. Участвовал в Первой мировой войне старшим унтер-офицером 18-го драгунского Северского полка на германском, австрийском и кавказском фронтах, был награждён за храбрость Георгиевскими крестами (солдатский «Егорий») четырёх степеней («полный бант») и четырьмя Георгиевскими медалями.
Первый крест 4-й степени унтер-офицер Будённый получил за захват немецкого обоза и пленных 8 ноября 1914 года. По приказу командира эскадрона ротмистра Крым-Шамхалова-Соколова, Будённый должен был возглавить разведывательный взвод численностью 33 человека, с задачей вести разведку в направлении местечка Бжезины. Вскоре взвод обнаружил большую обозную колонну немецких войск, двигавшуюся по шоссе. На неоднократные донесения ротмистру об обнаружении обозов противника, был получен категорический приказ продолжать скрытно вести наблюдение. После нескольких часов бесцельного наблюдения за безнаказанным перемещением противника, Будённый принимает решение атаковать один из обозов. Внезапной атакой из леса взвод напал на роту сопровождения, вооружённую двумя станковыми пулемётами и разоружил её. Двое офицеров, оказавших сопротивление, были зарублены. Всего в результате было захвачено около двухсот пленных, из них два офицера, повозка с револьверами разных систем, повозка с хирургическими инструментами и тридцать пять повозок с теплым зимним обмундированием. Потери взвода составили два человека убитыми. Однако, дивизия к этому времени успела далеко отступить, и взвод с обозом только на третий день догнал свою часть.
За этот подвиг весь взвод был награждён Георгиевскими крестами и медалями. Получил Георгиевский крест и ротмистр Крым-Шамхалов-Соколов, не принимавший участия в вылазке. Царская военная печать, освещая события на Западном фронте, писала, что доблестная Кавказская кавалерийская дивизия лихой атакой под Бжезинами разгромила немцев, захватив большие трофеи. При этом захваченные взводом трофеи были увеличены в сообщении ровно в десять раз.
Летом 1917 года вместе с Кавказской кавалерийской дивизией прибыл в город Минск, где был избран председателем полкового комитета и заместителем председателя дивизионного комитета. В августе 1917 года вместе с М. В. Фрунзе руководил разоружением эшелонов корниловских войск в Орше. После Октябрьской революции вернулся на Дон, в станицу Платовскую, где был избран членом исполнительного комитета Сальского окружного Совета и назначен заведующим окружным земельным отделом.
Гражданская война
В феврале 1918 года Будённый создал революционный конный отряд, действовавший против белогвардейцев на Дону, который влился в 1-й кавалерийский крестьянский социалистический полк под командованием Б. М. Думенко, в который Будённый был назначен заместителем командира полка. Полк впоследствии вырос в бригаду, а затем кавалерийскую дивизию, успешно действовавшую под Царицыном в 1918 — начале 1919 года.