חומות ירושלים נבנו כבר בתקופת הכנענים, אולם מאז, עם כל כובש שהגיע לאזור, הן נהרסו ונבנו מחדש. החומות הנוכחיות, שאנו מכירים כיום, נבנו בתקופה העות'מאנית בפקודת סולימאן הראשון, סולטאן האימפריה העות'מאנית, באמצע המאה ה-16.
עד למאה ה-19 התגוררו בתחומי העיר העתיקה בירושלים כ-9,000 יהודים (יחד עם קבוצות נוספות, מוסלמיות ונוצריות). החומות היו אמצעי ההגנה של התושבים מפני הסכנות שארבו להם בחוץ, בעיקר מפני כנופיות שודדים שנדדו בדרכים וחיות טרף משוטטות. מסיבה זו, שערי העיר היו ננעלים בלילות ונפתחים מחדש בבקרים. עם השנים, הלך וגדל מספר התושבים שגרו בתוך החומות והצפיפות הפכה בלתי נסבלת, בעיקר בגלל תנאי הרווחה והתברואה במקום (מחיר גבוה של דיור, מחלות, ביוב). בעקבות כך, החלו התושבים לחפש פתרונות ראשונים חוץ לחומות.