Tiene sus orígenes en la Comisión Provincial de Monumentos creada en 1867, que entre otros, tomó como objetivo el crear un Museo Arqueológico que aglutinara todos aquellos vestigios que tanto en la ciudad como en la provincia, fueran descubriéndose.

Sus primeras instalaciones estuvieron situadas en el actual Palacio de la Diputación, contando con unos fondos muy escasos. En 1983 se traslada al edificio denominado “La Galera”, que es cedido para este fin por el Ayuntamiento y que estaba ubicado en la actual Plaza de Reloj, adosado a la torre de Espantaperros, dentro del recinto histórico Artístico de la ciudad.

En 1989 se abre el Museo en su ubicación actual; el Palacio de los Duques de la Roca. El Palacio está situado intramuros de la Alcazaba Musulmana, siendo residencia durante el s. XVI de los Duques de la Roca, y hoy, después de una restauración y adecuación de gran gusto, se ha convertido en sede del Museo Arqueológico Provincial. Este Museo destaca por la distribución didáctica y acertada de sus piezas así como la importancia de éstas, seleccionadas entre miles del total que custodia.