С 1895 по 1901 год о. Трифон был смотрителем Московского Духовного училища, ректором Вифанской, а затем Московской Духовных семинарий. 18 июля 1901 года он стал епископом Дмитровским, викарием Московской епархии, и был на этом посту почти 15 лет. Епископ Трифон часто совершал богослужения, очень полюбившиеся москвичам, много проповедовал, вел огромную церковную и общественную работу, не оставляя и своих научных трудов. За удивительный дар слова верующий народ прозвал его "Московским Златоустом". Владыка был духовно связан со многими подвижниками Русской Церкви - Оптинскими старцами Анатолием и Варсонофием (которого возвел в сан архимандрита), старцем Гефсиманского скита Варнавой, старцем Захарией. После начала Первой мировой войны епископ служил в действующей армии. На польском фронте он получил контузию и вынужден был возвратиться в Москву с расстроенным здоровьем. В 1916 году епископ Трифон ушел на покой в Ново-Иерусалимский Воскресенский монастырь. После поездки на фронт он снова возвратился в 1917 году в Новый Иерусалим.

С 1918 года епископ Трифон жил в Москве, не принимая участия в административных делах Церкви. К нему постоянно шел поток посетителей за советом и по духовным и по житейским вопросам. Верующий народ уже почитал его как великого архиерея, замечательного проповедника и духоносного старца-подвижника. Его советы и мнения нередко были решающими не только для судеб его многочисленных духовных детей, но и во многих событиях, связанных с судьбой Русской Православной Церкви после революции. Святой патриарх Тихон любил владыку, часто служил вместе с ним, а в 1923 году возвел его в сан архиепископа. Они были двумя великими духовными столпами, которые поддерживали святую Русскую Церковь в жестокое и многоскорбное для России время.