При постройке каменных стен Архиерейского двора в 1671–1675 гг. святые врата были выстроены из камня в виде двух проемов: пешеходного узкого и широкого проезжего. Завершение ворот, как и у прежде существовавшей деревянной церкви, имело вид трех шатров с главками. В 1687 –1692 гг. при архиепископе Гаврииле шатровый верх святых врат был заменен существующей одноглавой каменной церковью, освященной в честь Воздвижения Креста Господня.
Сооруженные в начале XVIII в. крытые переходы соединяют его с Симоновским корпусом, а проход по второму ярусу крепостной стены – с Экономским корпусом и Воскресенским собором. Ярусная главка, венчающая церковь, относится к XVIII в.. В XIX в. на внешней стороне церкви в нише над проездной аркой размещалась фреска, защищенная металлическим козырьком на кронштейнах (Паспорт памятника ...).
В краеведческой литературе нет точных сведений, когда была упразднена церковь над святыми вратами. Известно, что с конца XVIII века помещение храма было проходным и пустовало, а в 1896 г. оно было занято учрежденным Епархиальным древлехранилищем. Инициатива устройства этого музея церковной старины принадлежала известному вологодскому историку-краеведу, редактору Вологодских епархиальных ведомостей Н. И. Суворову. В 1923 г. на основе коллекций древлехранилища и трех других музеев Вологды был создан Вологодский объединенный музей – ныне Вологодский государственный историко-архитектурный и художественный музей-заповедник. Здание храма, ставшее в 1960 г. памятником архитектуры республиканского (с 2012 г. – федерального) значения, по-прежнему, уже почти 120 лет, используется для размещения фондов музея.