Поскольку накануне вторжения гитлеровцев во Францию Павлу Павловичу и его дочере, которая также была арестована, было предоставлено советское гражданство и они получили советские паспорта, Народный комиссариат иностранных дел СССР потребовал от германских властей незамедлительно освободить арестованных во Франции советских граждан. Германское военное командование в Париже было вынуждено выполнить это требование. В конце мая 1941 года П. П. Дьяконов и его дочь Мария Павловна вернулись на родину.
После нападения немецко-фашистских войск на Советский Союз генерал и его дочь как лица, недавно вернувшиеся из-за границы, были арестованы «по подозрению в поддержании связи с иностранными разведками и шпионаже против СССР». После первых допросов Дьяконов написал наркому внутренних дел:
«За 17 лет заграничной работы мне пришлось выполнить много ответственных заданий. За эту работу я получал только благодарности. В голове моей не укладывается, как могли меня всерьез подозревать в преступной деятельности против родины. Излишне говорить, какую нравственную боль мне причинило такое подозрение».
Неожиданно письмо нашло адресата. Им оказался начальник внешней разведки НКВД П. М. Фитин. В рапорте, направленном в следственные органы, говорилось: «Дьяконов и его дочь известны 1-му управлению НКВД. Управление считает необходимым их освободить». В октябре 1941 года Дьяконовы вышли на свободу.
Некоторое время они жили в эвакуации в Ташкенте, а затем переехали в киргизский город Кара-су. Павел Павлович работал там в Райпотребсоюзе.
В ноябре 1942 года Павел Павлович Дьяконов выехал с эшелоном в Москву, сопровождая грузы для Красной Армии. В дороге тяжело заболел и на станции Челкар (Казахстан) был помещен в больницу, где 28 января 1943 года скончался.
Тайна гибели С. Могилевского