Великий князь Николай Николаевич-младший родился 18 ноября 1856 года в семье великого князя Николая Николаевича-старшего. Великий князь Николай Николаевич-младший приходился племянником Императору Александру II и двоюродным дядей Императору Николаю II. Великий князь окончил Николаевское инженерное училище и Академию Генерального Штаба. Во время русско-турецкой войны 1877–78 годов он состоял при главнокомандующем русской армии, своем отце, а по окончании войны командовал лейб-гвардии Гусарским полком. В 1895 году великий князь был назначен генерал-инспектором кавалерии, и в этой должности он пробыл до 1905 года. С 1905 он — командующий войсками гвардии и Петербургского военного округа. Как и все члены Дома Романовых, он получил хорошее военное образование, был прекрасным наездником и хорошим кавалерийским начальником. Именно при деятельном участии великого князя в России был принят хороший кавалеристский устав. «Следует отдать должное великому князю: он сделал много для воспитания и приведения в порядок нашей кавалерии. При нем она могла считаться одной из лучших в мире», — писал генерал А. А. Мосолов

О заслугах великого князя как кавалерийского начальника писал даже такой его непримиримый враг, как генерал В. А. Сухомлинов: «Как инспектор кавалерии, Николай Николаевич действительно, оказал большие услуги армии. Сам он был хороший и выносливый ездок»

Но уже тогда подчиненные отмечали грубость, нетерпимость и мелочность великого князя Николая Николаевича, его огромное самомнение и стремление доминировать во всем. Эти его качества выявились в полной мере тогда, когда великий князь начал активно вмешиваться во внутренние дела государства. Великий князь Александр Михайлович дает следующую характеристику своему двоюродному брату: «Мой двоюродный брат Николаша был превосходным строевым офицером. Не было равных ему в искусстве поддерживать строевую дисциплину, обучать солдат и готовить строевые смотры. Как все военные, привыкшее иметь дело со строго определенными заданиями, Николай Николаевич терялся во всех сложных политических положениях, где его манера повышать голос и угрожать наказанием не производила желаемого эффекта.