El Museo Lapidario se fundó en 1912, en el sótano del Palacio. Iniciativa novedosa que partía de la idea del obispo Grau de fundar un Museo Diocesano. La arquitectura del sótano recuerda a los modelos de la arquitectura romana, con el empleo de la piedra y el ladrillo, de una manera muy elemental. De todas las piezas que se pueden admirar en esta sala, destaca el Miliario romano, hito de granito que se colocaba al borde de las calzadas para marcar las distancias en los caminos.

Igualmente es oportuno detenerse ante la Estela dedicada a la Triada Capitolina y los sepulcros medievales.