С апреля 1918 года Сергей Шпигельглаз – заведующий финчастью Мосгубвоенкомата. После его упразднения с января 1919 года работал в органах Военного контроля. После слияния Военного контроля с Военным отделом ВЧК и образования Особого отдела он автоматически оказался в рядах чекистов, получив должность начальника сметного (финансового) отделения и казначея по использованию секретных сумм ОО ВЧК. В 1919 году вступил в РКП (б).

Являясь членом так называемой экспедиции Кедрова, Сергей Шпигельглаз неоднократно выезжал с оперативными группами в города и районы Юга, Запада и Центра России, участвовал в карательных акциях, подавлении контрреволюционных заговоров и мятежей, в разработках подозреваемых в принадлежности к контрреволюции лиц. С 1921 года работал в ЧК Белоруссии.

С января 1922 года Сергей Шпигельглаз – уполномоченный 6-го отдела КРО (контрразведка) ГПУ, а затем – ИНО ОГПУ. В 1922 году он был направлен в спецкомандировку в Монголию, где оказывал содействие монгольским коллегам в работе по разоблачению и пресечению деятельности белоэмигрантских бандформирований. Используя агентурные возможности, информировал Центр об обстановке в Монголии, а также о стратегических планах Японии и империалистических кругов Китая на Дальнем Востоке.

По возвращении в Москву Сергей Шпигельглаз был назначен на руководящую должность во внешней разведке: с сентября 1926 года он – помощник начальника ИНО ОГПУ, затем ИНО ГУГБ НКВД СССР, а с 25 декабря 1936 года – заместитель начальника 7-го отдела ГУГБ НКВД.

В этот период Сергей Шпигельглаз неоднократно выполнял спецзадания за рубежом: в Китае, Германии, Франции. Так, под прикрытием владельца рыбной лавки возглавлял нелегальную разведсеть в Париже.