Надо отметить, что даже в годы активного военного сотрудничества британского правительства и палестинских евреев признание хотя бы де-факто Хаганы не происходило и многие важнейшие действия предпринимались нелегально. Так, нелегально, в марте 1942 года была основана первая отчетливо структурализированная разведслужба "Шаи" (сокращенное от "Шерут едиот"). Возглавил её Эзра Амир, видная фигура в Хагане; арабский отдел по-прежнему возглавлял Данин. Отдел, который организовывал работу против английской контрразведки, возглавлял Борис Гуриель (Гурвич), уроженец Латвии, изведавший к тому времени прелести немецкого плена; ему удалось бежать из лагеря для военнопленных и спустя несколько недель добраться до Палестины. Вскоре руководителем Шаи стал, вместо Амира, который преимущественно занимался нелегальной доставкой оружия в Палестину (в том числе и лихими спецоперациями, когда удавалось перехватить оружие, предназначенное для арабов), Иссер Беери (Биренцвейг). Тогда же, в военные годы, впервые появилась знаменитая впоследствии аббревиатура "Моссад" совсем небольшая поначалу служба, которой заведовал Иссер Харел.
Во время войны Шилой не только учился действовать, но и приобретал влиятельных друзей, которые впоследствии будут помогать борьбе за контроль над Палестиной. Он также установил тесные отношения с представителями английской военной разведки в Иерусалиме и Каире. Еще важнее, что во время войны были установлены первые контакты между сионистским движением и американской разведкой. Именно Рувен Шилой сблизился с несколькими американскими офицерами, товарищами по оружию, союзниками в борьбе с нацизмом, представителями Управления стратегической службы, которые в 1947 году составили ядро Центрального разведывательного управления.