В 1924 году Поскребышев знакомится с И. Сталиным и тот приглашает его работать вместе с ним, его помощником. И.Сталин в то время уже был генеральным секретарем ЦК партии и планомерно проводил скрытую борьбу за свою абсолютную власть в партии и в стране.

Продолжая оставаться в этой должности, Поскребышев, добавлял к своим обязанностям все новые функции и полномочия. Так, в 1929–1934 году он стал заместителем заведующего, а затем и самим руководителем Особого Секретного Отдела.

В 1931 году Поскребышев назначается личным секретарем И.В. Сталина (ныне подобная должность звучит, как пресс-секретарь и советник президента). Александру Поскребышеву удалось стать самым доверенным лицом вождя. Он готовил различные документы, выполнял специальные поручения И.Сталина. Именно через Поскребышева к Сталину приходила вся информация, практически любого характера. Секретарь обязательно прикреплял листок к каждому документу со своими комментариями, и практически всегда его мнение совпадало с мнением генсека.

А ведь карьера преданного секретаря началась с шутки. Об этом рассказывает в своих «Воспоминаниях» Борис Бажанов. Борис Бажанов был личным секретарём Сталина в период восхождения будущего великого вождя к власти. Он бежал 1 января 1928 года в Персию, а позже уехал в США. «Когда я работал у Молотова секретарем „Известий ЦК“, – вспоминает Б.Г. Бажанов, – в экспедиции ЦК работал один рабочий, который паковал журналы в тюки, таскал и рассылал. Маленький, лысый и, кажется, не дурак. Фамилия – Поскребышев... Чуть ли не из озорства решаем его выдвинуть в секретари ячейки ЦК (раз это идет из секретариата Сталина, это проходит мгновенно). Поскребышев оказывается секретарем ячейки чрезвычайно послушным и даже слишком часто бегает к Каннеру за директивами... Но озорство сталинских секретарей играет еще один раз решающую роль в карьере Поскребышева. В 1926 г., когда Станислав Косиор стал четвертым секретарем ЦК...