История церкви восходит к середине XVI в., когда в Вологду был принесен список иконы Святителя Николая, почитавшейся явленной и чудотворной и по месту обретения названной Великорецкой. По преданию, икона была обретена в Вятской земле на реке Великой в 1383 г. В правление Ивана Грозного этот образ, почитавшийся на Русском Севере, получил широкую известность и стал общерусской святыней. В 1555 г. икона была торжественно принесена в Москву через недавно взятую Казань, а в следующем году возвращена через Вологду. Значительное число списков с иконы, почитавшихся наравне с оригиналом, было отправлено из столицы в разные города, в том числе и в Вологду. В 1555 г. в Вологде на Старом торгу возле Ильинского монастыря для такого списка была специально построена деревянная церковь в честь иконы Николы Великорецкого. В XVII в. храм перенесли на современное место «близ святыя соборныя церкви Премудрости Слова Божия, внутри града, на Извести у градской стены». Здесь, на берегу реки Вологды на Известной горе вблизи Вологодского кремля, впоследствии была построена каменная церковь. О времени ее постройки можно судить по документу 1760 г. (ВГИАХМЗ. Ф.2. Оп.1. Д.3. Л.118), хранящемуся в Вологодском государственном музее-заповеднике: «Церковь каменная Нерукотворенного образа, в трапезе с приделами Николая Чудотворца да преподобного Кирилла, Новоезерскаго чудотворца, зачата строить в 1747-м, а окончена и освящена в 1750-м годех, построена наместо деревянной».
С 1826 г. ставшая бесприходной церковь, приписанная к кафедральному собору, по ходатайству губернатора С.Ф.Хоминского в 1867–1869 г. была отремонтирована и торжественно переосвящена 25 мая 1869 г. во имя святого Александра Невского. Приделы в трапезе были упразднены. Сделано это было в память, как говорили тогда, чудесного спасения императора Александра II 4 апреля 1866 г. при покушении террориста Д.В.Каракозова. В 1910 г. храм был передан для богослужений 198-му пехотному Александро-Невскому полку, при котором с 1897 г. существовала походная церковь того же посвящения. Полк был создан 20 февраля 1910 г. сведением 198-го пехотного резервного Александро-Невского полка с Архангелогородским и 246-м Грязовецким резервными батальонами и летом того же года был расквартирован в Вологде. Священником здесь служил протоиерей Александр Успенский (1876–1916), в ходе Русско-японской и Первой мировой войн бесстрашно находившийся на полях боев, благословлявший бойцов и перевязывавший раненых, павший в бою возле города Броды в Галиции. В 1914 г. полк был передислоцирован в действующую армию и церковь снова оказалась невостребованной.
После революции здание было лишено креста, шпиля колокольни и использовалось в разное время как клуб, общежитие, склад, управление кинопроката, лыжная база. В 1980-е гг. здание было отреставрировано по проекту архитекторов Г.Г.Щапина и А.И.Сорокина и передано музею. 6 декабря 1997 г. храм вновь был освящен во имя святого благоверного князя Александра Невского. Ныне он действует как приходской. В нем возобновлены традиции воинского храма. В храме установлена мемориальная доска с именами вологжан, погибших в ходе боевых действий последних десятилетий. С 1998 г. к нему приписана часовня Александра Невского в Григорьевском.
