Шилой небезосновательно считал, что евреи могут найти себе друзей и «внутри» арабских стран, и на периферии арабского мира.

Работа в Ираке прошла успешно, опыт и идеи Шилоя стали пользоваться все большим вниманием в руководстве. В 1934 году «Хагана» поручила ему создание профессиональной разведывательной службы — «для защиты долгосрочных интересов еврейской общины» в Палестине. Эту работу он выполнял вместе с Эзрой Данином и Саулом Мейеровым (Авигуром), и вскоре они создали «Шаи». Официальной работой Шилоя в те годы считалось поддержание связи между Еврейским агентством Бен-Гуриона и британской администрацией в Палестине, отношения между которыми складывались далеко не безоблачно.

Когда он преподавал иврит новым иммигрантам из Америки, то стал ухаживать за активисткой социального обеспечения Бетти Борден из Нью-Йорка. В 1936 году они поженились. Те, кто его знал, говорят, что Шилой умел задавать вопросы, но сам редко давал ответы. Это был одинокий волк, который занимался своим делом, предпочитая оставаться за кулисами, пунктуальный и методичный аналитик, представлявший свои рекомендации без какой-либо эмоциональной окраски. Он был очень реалистичным, точным и прагматичным человеком, но в личной жизни предпочитал оставаться загадочным.

«Шилой любил в своих интервью и при заполнении всякого рода анкет сообщать о себе противоречивые сведения, даже когда эти детали не имели особого значения, словно хотел создать вокруг себя обстановку тотальной секретности» — отмечал его биограф Хагай Эшред.

«Когда Рувен Шилой садился в такси, — вспоминает его друг, выдающийся дипломат Абба Эбан, — он никогда не называл водителю адрес. Только лаконичный приказ: «Поехали». И когда водитель спрашивал: «Куда?», Шилой смотрел на него таким пронизывающим и недоверчивым взглядом, будто тот был опасным шпионом».

Когда началась Вторая мировая война, Шилой много сделал для улучшения и углубления еврейско-британских отношений.