Часовня построена над могилой местночтимого святого Николая Вологодского (в миру Николай Матвеевич Рынин, 1777–1837). Родился Николай 9 мая 1777 г. в Вологде в купеческой семье. Был крещен во Власиевской церкви, в приходе которой находился двухэтажный полукаменный дом и солодовенный завод его отца. В молодости он отверг унаследованное богатство, раздав имение неимущим, и сам стал нищим и бездомным. Вологжане почитали Рынина провидцем. Из уст в уста передавались рассказы о его сбывшихся предсказаниях и исцелениях после общения с ним. Скончался праведный в марте 1837 г. и был погребен при большом стечении народа. Этот вологодский юродивый почитался прозорливцем и целителем при жизни, его могила чтилась в XIX–XX вв.
Могила юродивого пользовалась почитанием. По завету Николая Матвеевича на ней некоторое время не было памятника, пока крестьянка из Кадниковского уезда в благодарность за свое исцеление не принесла на плечах крест, пройдя 52 версты до Вологды. В 1880-х гг. на средства купеческой вдовы Натальи Коровиной могила была обнесена перилами, над ней устроена крыша на четырех деревянных столбах. В 1899 г. на средства А.М.Крыловой была построена простая дощатая часовня с четырьмя окнами, увенчанная небольшой обитой железом главкой с железным крестом. На могиле поставили деревянный крест и покрыли ее парчовым покровом. В 1905 г. в часовне построили иконостас с золоченой резьбой с иконами Успения Божией Матери, Воскресения Христова, Николая Чудотворца. На стене висел и портрет Николая Матвеевича. В 1916 г. по проекту инженера Девяткова на могиле возведена существующая ныне одноглавая каменная часовня во имя Николая Чудотворца.
В 1938 г. часовню закрыли и обезглавили. Здание использовалось под склад. В 1988 г. территория кладбища с часовней была возвращена Рождество-Богородицкому кафедральному собору. Часовня была отремонтирована, восстановлена главка с крестом. 3 июля 1988 г. по благословению Святейшего Патриарха Пимена совершено местное прославление блаженного Николая Рынина под именем Николая Вологодского. В этот день была освящена отреставрированная часовня над местом погребения юродивого.