Desde ahí, la Puerta de Belén -que forma parte de las tres antiguas puertas de la muralla de la medina musulmana- conduce al corazón de la villa medieval, a las Caballerizas del Duque y a pocos metros, en la parte más elevada del Cerro, a las ruinas del Castillo y del Alcázar. Los restos arqueológicos indican la existencia de tres fortificaciones superpuestas: importantes restos de un castellum militarromano que ocupa la mayor parte de la cumbre del Cerro; algunas partes del alcázar árabe, del que todavía se conservan algunos tramos de las murallas; y buena parte del castillo que mandó construir el duque de Medina Sidonia.