Несмотря на суровый климат и бедную растительность пустыни, на Аравийском полуострове издревле проживали арабы — гордый и гостеприимный народ. Арабы относятся к семитской семье и являются прямыми потомками Ибрахима (библ. Авраам). После того как стареющая жена патриарха Сара (библ. Сарра) родила ему мальчика Исхака (библ. Исаак), она потребовала отправить в Аравию его первенца — сына Исмаила, родившегося от Хаджар (библ. Агарь). Потомки Исмаила стали называться арабами. Словом «арабы» в древнесемитском языке обозначались народы, кочевавшие за реками на широких просторах пустыни. В течение многих веков арабы постепенно распространились по всей Аравии. Большинство из них стали кочевниками (по-арабски это звучит бадави, отсюда слово бедуин), но некоторые остались оседлыми и жили в оазисах и городах. Оседлые арабы создали крупную древнейеменскую цивилизацию на юге Аравийского полуострова. Государства Саба, Маин, Катабан и Хадрамаут, возникшие в конце II тысячелетия до н. э., обладали высокоразвитой культурой, сопоставимой с культурой древних египтян и ассирийцев, иудеев и персов. Древние йеменцы построили крупные города в руслах пересыхающих рек (вади), соорудили высокие плотины и огромные водохранилища, создали свой собственный пантеон богов, поклоняясь солнцу, луне и звёздам. Они научились вырезать надписи на больших известняковых плитах, используя древнее квадратное письмо, которое послужило прототипом эфиопского и армянского алфавитов. На севере Аравийского полуострова еще в первые века нашей эры были основаны арабские города-государства Пальмира и Набатея.

Однако подавляющее большинство арабов оставались бедуинами-кочевниками и занимались скотоводством и земледелием, перемещаясь по бескрайним просторам Аравийского полуострова. Лишь несколько десятков оазисов в центре полуострова превратились в небольшие поселения, где арабы жили оседло. Такими поселениями были Мекка, Ясриб, Таиф.