كان اليهود يعيشون في المدينة منذ سنوات طويلة بعد أن وفدوا إليها ، وأصبحت هناك ثلاثة قبائل يهودية في المدينة وهم يهود بنو النضير وبنو قريظة وبنو قينقاع ، وهناك أيضًا قبائل عربية كانت تحولت لليهودية بعد اختلاطهم باليهود مثل قبيلة بني عوف .

فلما خل الرسول عليه الصلاة والسلام وأصحابه المدينة ، حرص على عقد معاهدة مع اليهود وغيرهم من الطوائف غير المسلمة لتنظيم المعاملات معهم والواجبات نحوهم والتزاماتهم نحو المسلمين أيضًا حتى يعيشوا معًا في سلام ، فقام عليه الصلاة والسلام بعمل وثيقة المدينة والتي يعتبرها البعض أول دستور مدني مكتوب في تاريخ البشرية ، ولكن كعادة اليهود فقدوا نقضوا تلك الوثيقة وجميع المعاهدات الأخرى التي عقودها مع رسول الله صلى الله عليه وسلم .

وقد وصلت إلينا وثيقة المدينة بعدة روايات منها رواية ابن أبي حاتم وابن إسحاق وأبي عبيد القاسم بن سلام ، كما روى الإمام أحمد أجزاء منها وكذلك الإمام البيهقي .

ومما ورد في الوثيقة أن أنها كتاب من رسول الله صلى الله عليه وسلم ليعمل به كل المسلمين من المهاجرين والأنصار وكل ما يدخل في الإسلام أو يجاهد مع المسلمين ، وفي الوثيقة ذكر الرسول صلى الله عليه وسلم أن لكل طائفة تعيش  في المدينة أماكن الإقامة الموجودون فيها وأن عليهم أن يتناصرون فيما بينهم ويعملون على إنقاذ الأسير ونصرة الضعيف منهم بالعدل والمعروف الذي نص عليه الإسلام .

وقد ذكر الرسول صلى الله عليه وسلم جميع الطوائف التي تعيش في المدينة بأسمائها داخل الوثيقة ، وكانت أول تلك الطوائف هم المهاجرين حيث اعتبرهم النبي عليه الصلاة والسلام قبيلة واحدة ، وأيضًا قبيلة بني عوف وبني الحارث وبنو جشم وبنو عمرو بن عوف ، ولكن الوثيقة لم تذكر قبائل بنو النضير وبنو قريظة وبنو قينقاع ولكن النبي قد عقد مع تلك القبائل معاهدات أخرى منفصلة .

ومما ورد في الوثيقة أيضًا أن جميع المؤمنون يجب أن يتصدوا جميعًا لأي شص منهم يعتدي أو يظلم غيره من المؤمنين ، أو يرتكب أي آثم ، حتى لو كان بينه وبينهم صلة قرابة ، ومن بين نصوص الوثيقة أنه لا يجب أن يقتل مؤمن مؤمنًا أر لأنه قتل كافر ، وأن لا يقف المسلم أو يناصر الكافر ضد أخيه المسلم ، لأن المؤمنين جميعًا إخوة .

وأيضًا نصت الوثيقة على أن يهودي يدخل الإسلام يكون له كل حقوق المسلمين ويجب على المسلمين حمايته ، وأنه لا يجب أن يقوم أي قبيلة مسلمة بعقد معاهدات منفردة مع قبائل كافرة إلا بعد أن يوافق جماعة المسلمين ، وأن للمسلمين الأولية إذا أراد أي شخص أن يفتدي غيره ، وأن المسلمون الأوائل مفضلون على من دخلوا الإسلام متأخرًا ، وأن المسلمين إذا اختلفوا على أي أمر يجب أن يحكموا فيه .

وأنه إذا حدث معركة واشترك فيها اليهود مع المسلمين فيجب أن يتحمل اليهود جزء من نفقات القتال مع المسلمين ، وكان من أهم بنود وثيقة المدينة أن لكل طائفة ممن شملتهم الوثيقة دينها وكذلك العبيد ، وأن جميع اليهود في المدينة من مختلف القبائل (بني عوف وبني جشم والأوس ويهود بني ثعلبة وبني ساعدة ) متساوون .

وكان أيضًا من أهم بنود هذه الوثيقة أن تلك الوثيقة لا تحمي أي ظالم أو آثم في المدينة من أي قبيلة أو طائفة كانت .

وهذه الوثيقة هي أفضل رد على من أدعوا أن الإسلام قد انتشر بالسيف والعنف ، وتوضح شكل الدولة التي أسسها الرسول عليه الصلاة والسلام في المدينة ، والتي تعد أول دولة تتاح فيها حرية العبادة والتجارة وتكفل فيها جميع الحقوق لغير المسلمين .