После поражения Колчака в январе 1920 года Устрялов эмигрирует из России и поселяется в русском Харбине, долгие годы читая лекции на Харбинском юридическом факультете, одновременно сотрудничая в газетах «Новости жизни», «Герольд Харбина», «День юриста», «Утро». С начала 1925 года он также работает в Учебном Отделе КВЖД, дослужившись к 1928 году до директора Центральной библиотеки.

В 1920 году уже в Харбине Устрялов издает сборник статей «В борьбе за Россию», являющийся идейной основой «Смены вех», в 1925 году выходит второй эпохальный сборник его статей «Под знаком революции» (переиздан в 1927 году), вызвавший шумные дискуссии в советской среде. Летом 1925 года «харбинский одиночка» совершает поездку в Москву (см. книгу «Россия (у окна вагона)», 1926), после которой принимает решение до времени не возвращаться в СССР. Кроме перечисленных к харбинскому периоду жизни Устрялова относится также ряд таких программных его работ, как: «На новом этапе» (1930), «От НЭПА к советскому социализму» (1934), «Наше время» (1934). Особый интерес вызывают глубокие исследования Устряловым разновидностей бурно развивающегося фашизма («Итальянский фашизм», 1928; «Немецкий национал-социализм», 1933).

В результате разгрома в СССР сменовеховского движения, закрытия ряда эмигрантских нововеховских изданий Устрялов снова оказывается в одиночестве, и постепенно на рубеже 30-х годов мысль его эволюционирует сперва к сомнению относительно правильности позиции «Смены вех», а затем и к отказу от идеологии национал-большевизма в пользу большевизма (по его словам, «Сталин – типичный национал-большевик.»). Завершением этой эволюции стало возвращение Устрялова в СССР в мае 1935 года, вскоре после продажи КВЖД Японии.