Но через несколько дней Ефремову и его товарищам все же пришлось принять участие в уличных боях. Рабочие оказались неважнецкими стрелками. В основном палили для острастки, в белый свет как в копеечку. Михаил начал показывать, как правильно нужно обращаться с винтовкой. Как ее чистить. И как из нее вести прицельный огонь. Так когда-то в граверном цеху его учили держать рабочий инструмент. Но настало иное время. И основным его рабочим инструментом стала винтовка. Его назначили инструктором 1-го Замоскворецкого красногвардейского отряда. Так началась его карьера в новой армии, которую в те дни назвали Красной гвардией.

Летом 1918 года Ефремова назначили командиром роты 1-й Московской пехотной бригады. С тех пор вся его жизнь будет связана именно с пехотой.

Командовал батальоном, а затем сводным отрядом под Новохоперском. 13-м Астраханским железнодорожным полком под Астраханью. Под Царицыном, в период боев, вступил в партию большевиков. Рекомендацию ему дал председатель Временного военно-революционного комитета Астраханского края С. М. Киров. Там он подружился с Миронычем. Вскоре получил новое назначение, став начальником обороны всех железных дорог, находящихся в полосе действия 11-й армии. Основной ударной силой, которой он в то время располагал, был особый отряд бронепоездов. Именно блестящим маневром бронепоездов Ефремов вскоре проведет ошеломляющую операцию по захвату Баку.

25 апреля 1920 года Ефремов получил приказ, подписанный командующим 11-й армией М. К. Левандовским

В Баку в то время брали силу националистические настроения довольно многочисленной группы местного населения – татар. Распад империи будил сепаратистские настроения. Татарская мусульманская партия (или, как ее называли большевики в своих листовках и на митингах, «бекско-ханская феодальная организация») Мусават провозгласила лозунг: «Закавказье – для закавказцев!» Попытка потеснить русских закончилась так называемыми Шамхорскими событиями.