Когда по окончании курса учения пятнадцатилетний Ермолов явился в Петербург в чине сержанта Преображенского полка, то, поступив на действительную службу, он по недостатку денег не в силах был тянуться за прочими гвардейскими офицерами, державшими и экипажи и огромное число прислуги, а потому стал искать для себя другого рода службы. 1 января 1791 года Ермолов был выпущен капитаном в Нижегородский драгунский полк, слава которого впоследствии гремела на Кавказе в течение целого полустолетия. Ермолов тотчас же отправился в Молдавию, где стоял тогда этот полк. Командиром полка в то время был двадцатилетний племянник шефа полка, графа Самойлова, Н. Н. Раевский, прославившийся впоследствии в войну 1812 года.

В бытность свою в этом полку Алексей Петров познакомился несколько с артиллериею. При полке находились полковые пушки, имевшие, как у дяди юного Гамлета, одно специальное назначение, стрелять «в знак осушения бокалов». Раевский возымел мысль дать им более целесообразное назначение: он переделал лафеты и переменил расчет прислуги. За всем этим Ермолов тщательно следил и приспособлялся, но едва только стал привыкать к фронтовой службе, как вдруг был вызван опять в Петербург по случаю назначения его адъютантом к графу Самойлову.

В Петербурге молодой и красивый адъютант встретил радушный прием. Наружность Алексея Петровича, прекрасная, одухотворенная, внушительная и до самых преклонных дней его старости удерживавшая на себе внимание мужчин и женщин, тогда, в пору его расцвета, привлекала на него всеобщее внимание: он был высокого роста и отличался необыкновенною физическою силою и крепким здоровьем. Его большая голова, с лежащими в красивом беспорядке волосами, маленькие, но проницательные и быстрые глаза делали его похожим на льва. Взгляд его, в особенности во время гнева, был просто страшен: из глаз его буквально сверкали молнии. Горцы говорили впоследствии о Ермолове: «Горы дрожат от его гнева, а взор его поражает на месте, как молния».