Med Muhammeds död stod det muslimska samfundet inför problemet att välja en efterträdare. Det fanns fyra personer som vara lämpliga för denna roll: Abu Bakr al-Siddeeq, som inte bara hade följt Muhammed till Medina tio år tidigare, men som också hade utsetts till att ta hans plats som böneledare under hans sista sjukdomstid. Umar ibn al-Khattab, en skicklig och pålitlig följeslagare till profeten. Uthman ibn ‘Affan, en respekterad tidig konvertit och ‘Ali ibn Abi Talib som var Muhammeds kusin och svärson. Deras renlärighet och förmåga att styra den islamiska nationen var enhetligt par excellence. Vid ett möte för att bestämma vem som skulle leda nationen tog Umar Abu Bakrs hand och gav sin lojalitet till honom och vid skymningen var alla eniga och Abu Bakr hade erkänts som khaliif och Muhammeds efterträdare. Khalif – på svenska kalif – betyder ”efterträdare” och att styra enligt Koranen och profetens (över honom vare Guds frid och välsignelser) ord.

Abu Bakrs kalifat var kort men spelade likväl en viktig roll. Som en exemplarisk ledare levde han ett enkelt liv, uppfyllde sina religiösa plikter och var tillgänglig inför folket. Men han agerade också kraftfullt mot vissa stammar som endast nominellt hade accepterat islam och som avsade sig tron efter profetens död. Senare konsoliderade han stammarnas stöd inom den arabiska halvön för att därefter rikta fokus mot de mäktiga imperierna i öst: sasaniderna i Persien och bysantinerna i Syrien, Palestina och Egypten.

Den andra kalifen, Umar – utsedd av Abu Bakr – fortsatte i den förstes fotspår. Under titeln Amiir al-Muminiin, eller de troendes befälhavare, utökade Umar islams styre över Syrien, Egypten, Irak och Persien i vad som, från en rent militär synvinkel, var häpnadsväckande segrar. Inom fyra år efter profetens död hade den muslimska staten utvidgat sitt inflytande över hela Syrien och hade vid det berömda slaget som utkämpades under en sandstorm nära floden Yarmuk kuvat bysantinerna vars härskare, Herakles, strax dessförinnan hade vägrat att anta islam.

Än mer överraskande så styrde den muslimska staten de erövrade områdena med en tolerans tidigare ej skådad. I Damaskus undertecknade muslimernas ledare, Khalid ibn al-Walid, följande fördrag:

Detta är vad Khalid ibn al-Walid skulle ge invånarna i Damaskus om han övertar staden: han lovar att säkra deras liv, egendom och kyrkor. Deras stadsmur får inte rivas och ej heller skall någon muslim kvarteras in i deras hem. Därtill ger vi dem Guds pakt och Hans profets, kalifers och troendes beskydd. Så länge de betalar skatt skall allt gå bra för dem.

Denna tolerans var typiskt för islam.

Ett år efter Yarmook tog Umar i det militära lägret vid al-Jabiyah på Golanhöjderna emot ett bud om att bysantinerna var redo att ge upp Jerusalem. Följaktligen red han dit för att personligen acceptera kapitulationen. Enligt en redogörelse red han in i staden ensam klädd i en enkel mantel inför en förvånad befolkning vana vid bysantinernas och persernas överdådiga dräkter och ceremonier. Han förvånade dem ytterligare när han lugnade dem genom att förhandla fram ett generöst fördrag i vilket han sade till dem:

I Guds namn… ni har fullständig säkerhet för era kyrkor som inte får ockuperas av muslimer eller förstöras.

Denna politik visade sig vara framgångsrik på alla platser. I Syrien där många kristna hade varit inblandade i bittra teologiska tvister med bysantierna välkomnades muslimerna som nya ledare. Och i Egypten, som Amr ibn al-As tog från bysantinerna efter en djärv marsch över Sinaihalvön, välkomnade inte bara de koptiska kristna araberna utan hjälpte även entusiastiskt dem.

Detta mönster upprepades genom hela det bysantinska riket. Konflikter mellan grekisk-ortodoxa, kristna i syrien, kopter och nestorianska kristna bidrog till bysantinerna misslyckandet – alltid betraktade som inkräktare – att utveckla folkligt stöd, medan den tolerans som muslimerna visade mot kristna och judar var den primära orsaken för att motsätta dem.

Umar antog likaså denna attityd i administrativa frågor. Även om han tillsatte muslimska guvernörer i de nya provinserna behölls de befintliga bysantinska och persiska förvaltningarna där det var möjligt. Under femtio år var grekiska kanslispråk i Syrien, Egypten och Palestina, medan pahlavi, sasanidernas språk, talades i Mesopotamien och Persien.

Umar, som var kalif i tio år, avslutade sitt styre med en betydande seger över det persiska imperiet. Kriget mot det sassanidiska riket hade börjat år 636 vid al-Qadisiyah, nära Ctesiphon i Irak, där det muslimska kavalleriet hade bemästrat de elefanter som perserna använde som en slags primitiv stridsvagn. Under slaget vid Nihavand, kallat ”erövringarnas av erövringar” besegrade Umar perserna som hädanefter skulle vara en av de viktigaste provinserna i det muslimska riket.

Hans kalifat var en höjdpunkt under islams tidiga historia. Han var känd för rättvisa, samhällsideal, administration och statsmannaskap. Hans innovationer lämnade ett bestående avtryck på social välfärd, skatter och den ekonomiska och administrativa strukturen i ett växande imperium.