Андрей Януарьевич Вышинский родился 28 ноября (10 декабря по н. с.) 1883 года в Одессе в семье преуспевающего провизора. В начале 1890-х годов его отец с семьей перебрался в Баку, где открыл собственную аптеку. В этом городе Андрей Вышинский поступил в первую мужскую классическую гимназию, которую блестяще окончил в семнадцатилетнем возрасте. Еще будучи гимназистом, страстно влюбился в красивую девушку — Капитолину Исидоровну Михайлову и сумел добиться ее расположения. Через несколько лет она стала его женой. Вместе они прожили полвека.

В гимназические годы Вышинский впервые приобщился к революционной среде, активно участвуя в антисамодержавных сходках. Еще более он проникся революционным духом, когда в 1901 году поступил на юридический факультет Киевского университета. В то время студенты активно выступали против так называемых «Временных правил» генерала Ванновского. Петр Семенович Ванновский, генерал от инфантерии, бывший военный министр, почетный член Петербургской академии наук, назначенный в 1901 году министром народного просвещения, стал проводить политику ужесточения дисциплины в вузах. По его предложению и были приняты «Временные правила», предусматривающие отдачу студентов в солдаты.