Строительство этого крупного здания в стиле классицизма началось в 1781 г. С 1785 г. работами руководил первый вологодский губернский архитектор Пётр Федотович Бортников, прибывший в это время из Москвы.

Первым владельцем здания был Приказ общественного призрения. В крыле здания по улице Большой Петровке (ныне Галкинская) размещались странноприимный дом (приют для престарелых и нетрудоспособных) и лазарет. В крыле по Парадной площади с 1786  г. находилось главное народное училище. Открытие четырёхклассного главного народного училища состоялось 22 сентября 1786 г., в день 24 годовщины вступления на престол императрицы Екатерины II. Современники вспоминали, что на торжественном открытии училища присутствовали ярославский и вологодский генерал-губернатор А.П. Мельгунов, представители губернских властей и высшего духовенства. На открытии выступил его первый директор Н.С. Левашов. Педагогический коллектив первоначально состоял из шести человек, которые преподавали Закон Божий, русский, латинский и «новые» иностранные языки, арифметику, географию, историю, основы физики и механики, геометрию, гражданскую архитектуру.

В 1804 г. по распоряжению министра народного образования главное народное училище было преобразовано в губернскую мужскую гимназию. В 1821 г. здание было передано Министерству духовных дел и народного просвещения. В классической гимназии обучались ученики не только из Вологодской губернии, но и из близлежащих уездов Костромской, Ярославской, Новгородской, Олонецкой губерний. Первоначально гимназия подчинялась Московскому, а с 1824 г. – Санкт-Петербургскому учебному округу.

Изменение программы позволило готовить учащихся к поступлению в университеты. Выросли количество преподаваемых дисциплин и качество их преподавания, педагогический коллектив пополнился выпускниками престижных учебных заведений Санкт-Петербурга и Москвы. Многие преподаватели ярко проявили себя в области краеведения. Вологодскую гимназию посещали российские императоры: в  1824  г. – Александр I, а в 1858 г. – Александр II.

Во второй половине XIX в. жизнь гимназии стала меняться: изменялось содержание преподаваемых дисциплин, внедрялись новые методы преподавания. Из учебно-воспитательного процесса исчезли унижающие достоинство учащихся телесные наказания. Вместо маршировок вводились танцы и хореография. Совместными усилиями педагогов и учащихся устраивались коллективные музыкальные вечера и спектакли.

В 1837–1918 гг. в зале угловой части здания существовала домовая церковь Сошествия Святого Духа.

История вологодской гимназии часто оказывалась связанной со значительными политическими событиями своего времени. Частью жизни гимназистов стало общение с находящимися в городе политическими ссыльными и радикально настроенными петербургскими студентами, которые вели пропаганду среди учащихся, снабжали их нелегальной литературой. Гимназисты обменивались мнениями по вопросам современности, устраивали домашние спектакли, издавали рукописные журналы и листовки. В атмосфере соперничества с официальной идеологией проходило становление нескольких поколений воспитанников гимназии.

Многих гимназистов отличали хорошие знания, стремление к нестандартным решениям. Из вологодской классической гимназии вышло немало деятелей отечественной науки и культуры. К числу наиболее известных относятся писатели П.В. Засодимский, В.А. Гиляровский, А.В. Круглов, В.Т. Шаламов; музыкант и композитор И.Г. Гинецинский; художники И.И. Варакин, Н.П. Дмитревский, историк и этнограф А.Е. Мерцалов, учёные М.М. Казанский, С.С. Перов, А.Н. Коркин, И.И. Черняев, А.Г. Гинецинский, А.Е. Фаворский, общественный деятель Х.С. Леденцов.

В первые годы советской власти в здании гимназии находились единая трудовая школа, школа второй ступени и ветеринарный институт. В 1930-х гг. в здании помещались средние школы № 22 и 27. Во время Великой Отечественной войны здесь размещался военный эвакуационный госпиталь №1184, а после войны – госпиталь для ветеранов войны. В 1953 г. его сменила областная больница, переехавшая в 1964 г. в здания на улице Лечебной.