لم يكتف عمر بن عبد العزيز والي المدينة في خلافة الوليد بن عبد الملك بعمارة المسجد النبوي بالأحجار النحتية ولم يكتف أيضاً بما أدخله على هذه العمارة لأول مرة في تاريخ المسجد من عناصر معمارية وزخرفية، وإنما عمد فوق هذا كله إلى استخدام أنواع كثيرة من أساليب الزخرفة التي بدأت تزين المساجد ومنها الأشرطة الكتابية المدونة بماء الذهب بالخط الكوفي السائد في ذلك العصر في تحلية جدران المسجد الداخلية وكوشات العقود المطلة على الصحن، إلا أن ما وصلنا مما كان مكتوباً في عهده قليل جداً للأسباب التالية:
استخدمت الفسيفساء في زخرفة جدران المسجد النبوي الشريف في عمارة الوليد كما هو الحالي في المساجد التي عمرت في عهده، ومن المعروف أن هذه الفصوص الزجاجية مجلوبة من بلاد الشام، أرسلها الوليد إلى المدينة مع عمال مختصين في تركيبها، وقد أكدت على استقلال صناعة الفسيفساء في الشام وأن أهل الشام كانوا أصحاب مدرسة خاصة تتميز عن المدارس البيزنطية والرومانية السابقة والمعاصرة، وأكد فريد شافعي عروبة العمال الذين أرسلهم الوليد من الشام.
كما كان المرمر (الرخام) قد استخدم في تزيين جدران المسجد، كما أن قبو المحراب فيه دارات بعضها مذهبة وبعضها حمر وسود، وتحت القبو نقوش مذهبة وتحتها صفائح ذهب مثمنة فيها جزعة مثل جمجمة الصبي مسمرة، ثم تحتها إلى الأرض إزار رخام مخلق بالخلوق فيه الوتد الذي كان النبي (صلى الله هليه وسلم) يتوكأ عليه في الحراب الأول عند قيامه من السجود، وعن يمين المحراب باب يدخل ويخرج منه، وعن يساره باب صغير مشطرنج.