Окончилась гражданская война. Особое совещание было расформировано. Брусилов продолжал службу в Красной Армии, занимая в ней ответственные посты. Он был председателем комиссии по организации кавалерийской допризывной подготовки, главным военным инспектором коннозаводства и коневодства, инспектором кавалерии РККА, для особо важных поручений при Реввоенсовете СССР. Среди бойцов и командиров Красной Армии Брусилов пользовался большим авторитетом.

Очень тепло относился к А. А. Брусилову М. В. Фрунзе. По его ходатайству Брусилову осенью 1925 г. было разрешено выехать на лечение в чехословацкий город Карловы Вары. Узнав о смерти М. В. Фрунзе, Брусилов обратился в Реввоенсовет СССР с письмом, в котором отмечал: "Буду всегда помнить доброе отношение и внимание Михаила Васильевича ко мне и моей семье. Моя глубокая благодарность к нему тем более требует, чтобы я выразил мое сердечное соболезнование и сочувствие не только вдове его, но и всем Вам, его ближайшим сотрудникам и сослуживцам".

Поездка в Карловы Вары укрепила здоровье А. А. Брусилова. Но весной 1926 г. он простудился и заболел крупозным воспалением легких. 17 марта в 3 часа 20 минут его не стало. С воинскими почестями Брусилов был похоронен на территории Ново-Девичьего монастыря у Смоленского собора. На траурном митинге с речами выступили А. И. Егоров, С. М. Буденный, Г. Д. Гай. "Правда", "Красная звезда" и другие центральные газеты поместили некролог. В нем отмечалось, что Реввоенсовет СССР уважал Брусилова, "ценил его глубокий ум, прямоту его взглядов, его искреннюю лояльность по отношению к Советской власти". Брусилов характеризовался как один из наиболее выдающихся представителей русской армии, талантливый полководец первой мировой войны, гражданин Советской республики, внесший свой вклад в дело вооруженной защиты ее от интервентов и белогвардейцев.