Генерал-прокурор теперь почти единолично руководил всесильной Тайной экспедицией, и через его руки прошли почти все известные политические дела царствования Екатерины II: Е. Пугачева, А. Н. Радищева, Н. И. Новикова и других лиц. При нем развернул свою активную сыскную деятельность главный «кнутобоец», или, как называл его А. С. Пушкин, «домашний палач кроткой Екатерины» С. И. Шешковский, имевший, по выражению императрицы, «особливый дар производить следственные дела».

А. А. Вяземский, в отличие от своего предшественника, деятельно руководил подчиненными ему прокурорами коллегий, приказов, губерний, ведя с ними обширную переписку и направляя их деятельность, путем «предложений» и «ордеров». Губернскими прокурорами работали в то время довольно активные и инициативные чиновники, некоторые из них были известными поэтами. Например, поэт и прозаик Владимир Трофимович Золотницкий, выпускник Московского университета, служил прокурором в Кременчуге и Екатеринославе. Поэт Иван Иванович Бахтин был вначале прокурором Пермского верхнего земского суда, а затем губернским прокурором в Тобольске.

Генерал-прокурор Вяземский и в своем штате нередко держал исключительно талантливых людей. Достаточно отметить, что знаменитый русский поэт Гаврила Романович Державин служил в его канцелярии. Потом он сам стал Сенатором, министром юстиции и генерал-прокурором. Первое время поэт пользовался большим доверием князя Вяземского, часто бывал у него дома, читал ему свои стихи, играл с ним в карты. Охлаждение Вяземского к Державину наступило после того, как поэт написал оду «Фелица», так понравившуюся Екатерине II. Генерал-прокурор усмотрел в ней сатиру на себя и обиделся.

При А. А. Вяземском были введены в действие учреждения для управления губерниями (1775 год), которые подробно регламентировали права и обязанности местной прокуратуры. Разделение Правительствующего сената на департаменты в 1763 году еще более усилило власть генерал-прокурора. Теперь он стал руководить целой коллегией обер-прокуроров, находившихся при каждом департаменте.