เริ่มสร้างเมื่อขึ้นปี พ.ศ. 2379 สมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว รัชกาลที่ 3 โดยกรุงเทพมหานครได้มีคำสั่งลงมาให้ดำเนินการสร้าง กำแพงเมือง และป้อมปราการ แต่การก่อสร้างยังไม่แล้วเสร็จ ในปี พ.ศ. 2381 หัวเมืองมลายูก่อกบฏมีการยกทัพมาเผาเมืองจะนะ และเข้ามาตี เมืองสงขลา พระยาวิเชียรคีรี (เถี้ยนเส้ง ณ สงขลา) เจ้าเมืองสงขลา ได้เข้ารักษาเมือง และ ทัพหลวงจากกรุงเทพฯ ได้ยกพลมาช่วยตีทัพกบฏมลายูกลับไป และช่วยก่อ กำแพงเมืองจนแล้วเสร็จเมื่อ พ.ศ. 2385 กำแพงเมืองมีลักษณะสี่เหลี่ยม ผืนผ้า ก่อด้วยหินศิลาแดงสอปูน สูง 5.5 เมตร หนา 4 เมตร ส่วนความยาว ด้านทิศเหนือ 400 เมตร ทิศใต้ยาว 500 เมตร ทิศตะวันออกและทิศตะวันตก ยาว 1,200 เมตร รวมทั้ง 4 ด้าน ยาวประมาณ 3,300 เมตร รูปแบบ สถาปัตยกรรมแบบจีน มีใบเสมา และป้อมประตู 8 ป้อม แต่ละป้อมมีปืนใหญ่ กระสุน 4 นิ้ว ป้อมละ 3-4 กระบอก ประตูเมืองเป็นซุ้มใหญ่ 10 ประตู มีประตูเล็ก 10 ประตูโดยรอบ ปัจจุบันกำแพงเมืองย่านเมืองเก่าสงขลา เหลือเพียงกำแพงด้าน ถนนจะนะ ตรงข้ามพิพิธภัณฑสถานแห่งชาติ กับบริเวณ ถนนนครในเท่านั้น