Jimena de la frontera data de los tiempos romanos, cuando se conocía como Oba y usaba su propia moneda. A principios del siglo XIII fue habitado por los moros, los cuales le cambiaron el nombre en Xemina.
En el siglo XV Jimena se convirtío en ciudad fronteriza en las batallas entre moros y cristianos. Por última vez el lugar le fue arranquado a los moros por Enrique IV y fue recompensado por sus servicios a la corona, con el título de loyal. En 1879 el Rey Alfonso XII recompensó de nuevo al pueblo dándole el título de ciudad.
Los restos del castillo se encuentran en la cima del cerro, con vista sobre el pueblo hacía el lado éste y sobre el río Hozgarganta hacía el lado oeste.
A lo largo del río se encuentran las ruínas de una canalización de 650 metros de largura, la cual fue usada para transportar los productos de la fábrica de artillería real del Rey Carlos III, donde se produjo gran parte de la munición usada para la gran victoría sobre Gibraltar. La afluencia del río fue controlada por un dique, construído dentro del río.
El castillo existente fue construído en el lado del pueblo romano y el más temprano dato conocido de la fortaleza data del siglo VII, después de Cristo. No fue hasta la ocupación moruna en el siglo VIII, que el castillo cobró realmente importancia. En el lado oeste del castillo, labrado dentro de la roca, se encuentra una piscina, conocida como "el baño de la Reina Mora". De hecho se supone, que la piscina es parte de un templo moro.
Aunque fureon los romanos, los que construyeron aquí los primeros asentamientos, existen también cuevas con pinturas prehistóricas en los alrededores del pueblo. Otros puntos de interés son un santuarío del siglo XV , a 2 km del centro del pueblo, un convento del siglo XVI en la parte alta del pueblo, los restos de una iglesia de arquitéctura neoclásica en la plaza principal y, bajo del castillo, la primera iglesia construída trás la conquista de Jimena, datando ésta de la segunda parte del siglo XV.