עכו הקדומה שכנה בראש גבעת כורכר שהתנשאה כ-20 מטר מעל הסביבה, כקילומטר וחצי ממזרח לנמל הדייגים של ימינו. התל הגדול משתרע בימינו על פני כ-200 דונם. בתקופת הברונזה הקדומה הוקם שם יישוב חקלאי; יישוב זה התקיים עד שנת 3000 לפנה"ס בערך וננטש.
היישוב התחדש בתקופת הברונזה התיכונה (2000-1500 לפנה"ס). עכו הייתה אז עיר מבוצרת, מוקפת בחומה ובסוללת מגן, וזו קבעה את צורתו של התל עד ימינו. העיר נזכרה בשמה כבר ב"כתבי המארות" – טקסטים בעלי אופי מאגי שנכתבו במצרים העתיקה באותם ימים. נראה כי המלך הכנעני של העיר, תרעמ שמו, הטריד את מושלי מצרים. עכו נזכרה גם בכתבים מצריים מאוחרים יותר.
עכו הכנענית פרחה בתקופת הברונזה המאוחרת (במאות ה-14 וה-13 לפנה"ס). העיר ניצלה עד תום את כל היתרונות שהעניק לה הטבע: נמל, מיקום על דרך הים ונקודת מוצא נוחה לדרך שיצאה מזרחה אל סוריה, קרקעות פוריות ושפע מים. עכו הייתה עיר הנמל המרכזית של ארץ ישראל באותם ימים, ותושביה קיימו קשרי מסחר עם קפריסין ועם ערי הים האגאי. ככל הנראה, עכו הייתה חשובה דיה לתחותמס השלישי, ועל כן נחקק שמהעל קירות מקדש אמון שבכרנךּ, ברשימת הערים שכבש.
בראשית תקופת הברזל (התקופה הישראלית הקדומה, המאה ה-12 לפנה"ס) התיישבה בעיר קבוצה אתנית חדשה מקרב גויי הים, המזוהה עם בני שרדנה. בתנ"ך נזכרת עכו כעיר בנחלת שבט אשר שלא נכבשה בידי הישראלים: "אשר לא הוריש את יושבי עכו ואת יושבי צידון..." (שופטים א 31).
היישוב בתל עכו שמר על מעמדו כעיר נמל חשובה עד אמצע המאה ה-7 לפנה"ס, בטרם חרבה ועלתה באש שוב ותושביה גלו ממנה. במאה ה-4 לפנה"ס (התקופה הפרסית) עוד התקיים יישוב גדול בתל, אך המרכז המסחרי של העיר עבר אל חוף הים, במקום שהעיר העתיקה נמצאת בו כיום. בתקופה ההלניסטית עברו גם התושבים להתגורר סמוך לחוף הים ותל עכו שמם. מאז נבנו בו בעיקר מצודות.
עכו התפרסמה כמקום שבו למד האדם לייצר זכוכית מחול קוורץ ובתעשיית הפקת צבע ארגמן מחלזונות ים. "חוף ארגמן", ממערב לתל, מנציח את התעשייה הקדמונית.