Радикальным средством должно было стать вооружение ударных групп самолетов управляемыми ракетами с противорадиолокационными ГСН (тем более, что Дальняя Авиация такие ракеты уже имела). Соответствующее правительственное задание было выдано Постановлением ЦК КПСС и Совмина от 10 января 1963 года. Авиационный ракетный комплекс К-28П (П - пассивный, от способа наведения) получил свое наименование по типу носителя - фронтового бомбардировщика Як-28, как и его ракетная составляющая Х-28. Созданием ракеты занялся филиал ОКБ-2-155 в Дубне (позднее МКБ «Радуга») под руководством А.Я. Березняка, использовавший при ее разработке опыт конструирования крылатых ракет большей дальности. Х-28 имела традиционное для этого КБ сочетание ракетных и самолетных технологий: стрингерный фюзеляж, множество эксплуатационных и технологических разъемов и лючков, литое многолонжеронное крыло и крестообразное оперение. По номенклатуре КБ-28 именовалась Д8 (изделие 93).
ГСН ПРГ-28 для ракеты разработали в Омском ЦКБ-111 (позднее НПО «Автоматика») под руководством А.С. Кирчука. Она обеспечивала пеленгационное наведение в частотных диапазонах А, В и С, охватывая практически все существовавшие и перспективные РАС ПВО вероятного противника.
Поначалу Х-28 планировали оснастить твердотопливным двигателем, удобным в эксплуатации и хранении изделия, но в конце 1964 года заказчик потребовал использования ЖРД, обеспечивавшего большую дальность (до 120 км), соответствующую требованиям применения вне зоны поражения ПВО (имелись в виду ЗРК «Найк-Геркулес»). Предполагалось, что при подавлении ПВО применяться она будет с безопасных дистанций, а высокая скорость повысит живучесть ракеты.