Estamos ante una de las obras cúlmenes del gran arquitecto gallego Antonio Palacios, el templo de Veracruz de O Carballiño. Este arquitecto, aunque afincado en Madrid, no perdió el contacto con su tierra donde nos dejó grandes obras de arte de tipo religioso, como este templo o el Templo Votivo del Mar, en Nigrán. Para su construcción , Palacios brindó su ayuda en forma de la gratuidad del proyecto que fue financiado por suscripción popular. Este plan pretendía ser la piedra angular de un proyecto urbanístico destinado a transformar la villa de O Carballiño en un centro de peregrinaciones articulado en torno al fragmento de la Cruz de Cristo que cobija el templo.
Por ello, Antonio Palacios, comenzó las obras en 1943 en forma de una gran iglesia del tipo de peregrinación medieval, con girola y capillas radiales, mezclando artes como el románico y el gótico. Sin embargo el arquitecto no vio nunca acabada su obra pues falleció en 1945.
La descomunal torre se construye en 1949 acabándose en 1957, después de un largo parón. Sin embargo el templo ya había sido abierto al culto unos años antes, oficialmente el 17 de septiembre de 1952, con motivo de la celebración del patrono de la villa, San Cibrán. Esta obra nunca se llevaría a cabo sino fuera por el empuje y tesón del párroco que mantuvo su puesto durante treinta años, Luciano Evaristo Vaamonde da Cortiña, el cual falleció en 1961, con el templo ya concluido.
El templo de la Veracruz está construido sobre todo con granito y pizarra, piedras típicas del país.
Como decíamos, la iglesia alberga un supuesto pedazo de la reliquia de la Cruz, que llegó desde Tierra Santa a O Carballiño en 1901 como regalo del Patriarca de Jerusalén, Monseñor Ludovico Piave, reliquia que había llevado en su pectoral el sumo pontífice Pio IX sus últimos meses de vida.