Неоднократные встречи атамана Терского казачьего войска генерал-майора Владимира Константиновича Шевцова с представителями командования Северо-Кавказского военного округа, на которых атаман аргументировано отстаивал идею необходимости привлечения казачьих сил к выполнению боевых задач по поддержанию мира и стабильности на левобережье Терека, увенчались успехом. Стоит добавить, что идея создания казачьего подразделения не смогла бы материализоваться в полной мере без всецелой поддержки заместителя командующего СКВО генерал-майора Евгения Скобелева.
694-ый ОМСБ был сформирован в феврале 1996 года на базе 135-й мотострелковой бригады 58-й армии в городе Прохладный численностью около 500 человек, и состоял в основном из терцев. Были среди военнослужащих и несколько казаков с Дона, Урала, Сибири, Санкт-Петербурга, других регионов России, и даже из Болгарии. Почти все казаки батальона являлись солдатами-контрактниками, обмундированными и вооружёнными в соответствии с общеармейскими нормами. Отличительной особенностью являлись разрешённые командованием казачьи знаки различия — кокарды и шевроны, некоторые казаки даже в ходе непосредственных боевых действий носили папахи. В данном подразделении проходили службу и несколько волонтёров, например, в первом взводе второй роты таким бойцом был Владимир Прокопьев из Якутска.
Офицеры батальона, в большинстве своём, казаками не были, в том числе и уважаемый всеми ермоловцами командир батальона майор Владимир Стехов. Связующим звеном между офицерами и казаками являлся заместитель командира батальона по воспитательной работе подполковник Александр Волошин — походный атаман Терского казачьего войска.