En el casco Alto o antiguo de Torrox se conservan
restos de la muralla que perteneció al Castillo Alto. Debió estar situado en la
parte más alta y dominante de Torrox, más o menos junto a donde se eleva hoy la
Parroquia de la Encarnación (antigua mezquita). No hay documentos de la
demolición de Castillo Alto, pero era frecuente abandono de los castillos de
interior ya que después de reconquista no tenía utilidad práctica, sino que
había que fortificar la costa que era por donde venían los ataques de los
berberiscos, es decir, del «allén» de los mares. Las piedras de los castillos
eran, por general, tomados por los vecinos para construir sus casas como si de
una cantera se tratara.