في عام 634 ميلادي، تولى أمير المؤمنين عمر بن الخطاب رضي الله عنه الخلافة، بعد وفاة أبي بكر الصديق رضي الله عنه. وفي تلك الفترة، كان هرقل ملك الروم قد حاول استعادة الأراضي التي استولى عليها المسلمون، لكنه فشل في معركة اليرموك عام 636 ميلادي. أمر عمر بن الخطاب القائد المسلم أبو عبيدة بالتوجه نحو سوريا لفتحها، ومن ثم القدس.

بعد عدة سنوات من الحروب والفتوحات، تمكن المسلمون من تحقيق هدفهم في شهر شوال من السنة السادسة عشرة للهجرة، الموافق شهر أبريل عام 637 ميلادي. لم يكن فتح بيت المقدس سهلاً، حيث تحصنها ملك الروم هرقل بشدة بعد استرجاعها من الفرس. حاصرت القوات العربية الطرق الواصلة إلى بيت المقدس، وخاصة بعد استيلائهم على حصون قريبة منها مثل بيلا وبُصرى.

استعدت الجيوش الإسلامية في أريحا، وفي ذلك الوقت أرسل بطريرك القدس صفرونيوس بعض الآثار المقدسة، بما في ذلك الصليب الحقيقي، لتهريبها إلى القسطنطينية. فرض المسلمون حصاراً على المدينة لمدة أربعة أشهر لإرهاق كاهل البيزنطيين بنقص الإمدادات، مما أدى إلى استسلام صفرونيوس ورضوخه لشروط المسلمين ودفع الجزية.

وقع الطرفان اتفاقية يُقر بموجبها البيزنطيون تنازلهم عن مدينة القدس واستسلامهم للمسلمين. ومع ذلك، رفض بطريرك القدس التفاوض مع المسلمين، فأرسل أبو عبيدة إلى خالد بن الوليد ليبلغه بفشل مهمة التفاوض، ودعا الخليفة عمر بن الخطاب إلى الحضور إلى القدس لإقناعه بتسليم المدينة.

بهذا، تم فتح بيت المقدس في شهر شوال من السنة السادسة عشرة للهجرة، الموافق شهر أبريل عام 637 ميلادي، بعد حصار دام أربعة أشهر.