Крыло базового Пе-2 содержало 8 бензобаков, существенно увеличить обьем которых не представлялось возможным без серьезных переделок конструкции, для чего просто не было времени. Поэтому дополнительные баки на 700 л горючего, необходимые для получения требуемой дальности полета 2000 км, были размещены в фюзеляже недалеко от центра тяжести: один из баков установили в бомбоотсеке, а два других – на месте кабины стрелка. Так самолет стал двухместным. Впрочем, нижний люк в хвостовой части фюзеляжа оставили, и при перебазировании техники самолетов улетали со своими машинами.

На истребителе несколько усилили наступательное вооружение, разместив в носовой части фюзеляжа дополнительный 12,7-мм пулемет БК с боезапасом 150 патронов. Таким образом, носовая стрелковая установка опытного Пе-3 состояла из двух пулеметов БК и одного ШКАСа с 750 патронами. На серийных Пе-3 ШКАС сняли, но зато увеличили боезапас у БК до 250 патронов на ствол. Конструкторы прекрасно сознавали недостаточность такого вооружения, но из-за дефицита времени наращивание огневой мощи нового истребителя решили произвести позднее, в ходе доработок. Верхнюю турельную установку штурмана с пулеметом ШКАС взяли без изменений от Пе-2. Поскольку вести огонь назад-вниз теперь было некому, вспомнили об отработанной еще для высотного истребителя «100» хвостовой неподвижной установке пулемета ШКАС с боекомплектом 250 патронов, которую и установили на Пе-3.

Бомбардировочное вооружение радикально упростили. От обычного Пе-2 остались лишь четыре бомбодержателя: два в бомболюках мотогондол и два наружных под фюзеляжем. Суммарная масса бомбовой нагрузки уменьшилась: нормальная – до 400 кг, а перегрузочная – до 700 кг (две бомбы по 250 кг и две по 100 кг). Электрическую систему управления сбрасыванием бомб демонтировали, оставив только аварийную механическую. Тормозные решетки под консолями вместе с приводами были ликвидированы, что в дальнейшем оказалось неоправданным, т.к. Пе-3 пришлось часто применять в качестве бомбардировщика.