بعد أن تمكن عبدالملك بن مروان من إتمام سيطرته على أقاليم الدولة والتخلص من المشكلات التي واجهته صرف همه إلى القضاء على خلافة عبدالله بن الزبير في مكة المكرمة آخر عقبة في طريق انفراده بالخلافة، فوجه له حملة بقيادة الحجاج بن يوسف الثقفي الذي توجه فورًا إلى الطائف ولم يعرج على المدينة المنورة، إذ وصلها في أثناء موسم الحج سنة 73هـ / 692م فانتظر إلى نهاية الموسم، ثم بدأ بمناوشة قوات ابن الزبير في منطقة المشاعر خارج مكة المكرمة، وأخذ يقترب رويدًا رويدًا إلى مكة المكرمة لفرض الحصار وإضعاف قوة ابن الزبير قبل الدخول في المعركة النهائية حسب الخطة التي رسمها عبدالملك بن مروان، وكان لا ينتقل من مرحلة إلى أخرى إلا بأمر عبدالملك. ونجح الحجاج في فرض حصار محكم على مكة المكرمة، وكانت المناوشات التي تقع بين الجانبين في معظمها لصالح الحجاج. ولقد أثر الحصار في معنويات أهل مكة المكرمة، ولقي الأهالي والمدافعون عنها عنتًا شديدًا من انقطاع المؤن الواردة إليهم. وبقي ابن الزبير في قوة يسيرة حول الكعبة المشرفة، فنصب الحجاج المنجنيق على جبل أبي قبيس، ورمى به فأصاب الكعبة المشرفة حتى تضعضعت أركانها. وقد أبدى ابن الزبير مقاومة شديدة في صد حملات جيش الحجاج لدخول المسجد ولما أحس ابن الزبير بقرب نهايته ذهب إلى أمه أسماء بنت أبي بكر رضي الله عنه وكانت كفيفة فودعها وطلب منها الدعاء فشجعته على الثبات على المبدأ وعدم الاستسلام، والقتال حتى الموت، فخرج من عندها وقاتل حتى قتل في منتصف جمادى الأولى سنة 73هـ / 692م  .  وبمقتل عبدالله بن الزبير عادت مكة المكرمة إلى حكم الأمويين مرة أخرى