Препровождение ссыльных в Сибирь совершалось на железном пруте, продетом сквозь наручники скованных попарно арестантов. Подобранные случайно, без соображения с ростом, силами, здоровьем и родом вины, ссыльные, от 8 до 12 человек на каждом пруте, двигались между этапными пунктами, с проклятиями таща за собою ослабевших в дороге, больных и даже мертвых. Устройство пересыльных тюрем было еще хуже, чем устройство тюрем срочных. Г. постиг и всем сердцем усвоил себе высокую задачу попечительного о тюрьмах общества. Двадцать три года, изо дня в день, словом и делом боролся он с напрасною жестокостью в осуществлении наказания, обращавшею кару в муку, и был заступником за «человека», черты которого он умел видеть и находить в самых грубых отверженцах общества. Предпринятый им, прежде всего, поход против прута, после долгих противодействий, затруднений и неудач, окончился, при содействии князя Голицына, относительным успехом: было разрешено всех ссылаемых, шедших чрез Москву из 22 губерний, препровождать не на пруте, а в кандалах. Хотя защитники прута и взяли верх после смерти Голицына (1844), но фактически, до самой кончины, Г., вследствие его просьб, настоянии и пожертвований, никто из Москвы на пруте не уходил. На кандалы, для перековки ссыльных, особой суммы не отпускалось, и Г. постоянно снабжал пересыльный замок изготовленными по его заказу, значительно удлиненными и облегченными, кандалами, деньги на которые, чрез него же, постоянно представлялись в тюремный комитет – «неизвестным благотворителем». Благодаря предстательству Г., было отменено бритье половины головы женщинам и ссыльным, а также страждущим колтуном. По его ходатайству, был устроен, на средства купца Рахманова, рогожский полуэтап и под его личным надзором перестроена значительная часть московского губернского тюремного замка, сообразно с требованиями гигиены и разумного человеколюбия; наконец он же добился – после упорных препирательств с тюремным комитетом и ряда пожертвований от «неизвестного благотворителя», – обшития кожей, сукном или полотном ручных и ножных обручей от цепей ссыльных, причем вскоре (в 1836 г.) эта мера была обязательно распространена на всех пересылаемых в России.