Весной 1920 года, когда армия Пилсудского, пройдя через Западную Украину, заняла Киев и укрепилась на левом берегу Днепра, а легендарная 1-ая Конная, после успешных боев на деникинском фронте, начала свой более чем 1000-километровый рейд от Майкопа до Умани, в распоряжение Политотдела Армии выехал из Одессы молодой, никому в России не известный литератор Кирилл Лютов. Это был псевдоним Исаака Бабеля, будущего автора «Конармии».

Находясь в должности военного корреспондента газеты «Красный кавалерист» по 6-ой кавалерийской дивизии, Бабель вел дневник, отдельные страницы и эпизоды которого послужат в дальнейшем основой для «конармейских» рассказов. Прежде всего записи Бабеля — драгоценный человеческий документ, где нашли отражение мучительные, зачастую противоречивые раздумья писателя о революции, войне и собственной судьбе. Однако, записи эти, сделанные в походной обстановке, менее всего носят характер исповеди. Перед нами скорее более или менее упорядоченная фиксация того, что Бабелю удалось увидеть и пережить, будучи непосредственным участником исторических событий. Именно Конармия, ее бойцы; командиры, а также польские солдаты и представители галицийского еврейства становятся главным предметом изображения в дневнике 1920 года. К автору дневника вполне применимы слова Д. Фурманова, сказанные в романе «Чапаев» о комиссаре Клычкове: «Писал он в дневник свой обычно то, что никак не попадало на столбцы газет или отражалось там жалчайшим образом. Для чего писал — не знал и сам: так, по естественной какой-то, органической потребности, не отдавая себе ясного отчета». Спустя три года органическая потребность записывать трансформировалась у Бабеля в тщательную, упорную отделку сюжетов для книги «Конармия». На юбилейном вечере писателя в ноябре 1964 года, состоявшемся в ЦДЛ им. А. Фадеева, Илья Эренбург отмечал: «Он смягчал все страшные места. Я сравнивал дневник с рассказами.