Здание из красного кирпича с богатым белокаменным убранством появилось на месте старого деревянного храма Казанской иконы Пресвятой Богородицы. Архитектором новой церкви во имя Всемилостивого Спаса стал Александр Бакарев, ученик знаменитого Михаила Казакова, а построена она была на деньги жены владельца полотняных и бумажных фабрик коллежской асессорши Баташовой. В 1938 году храм Всемилостивого Спаса закрыли, много лет он использовался под склад.
Кладбище при храме уничтожили. В 1970-х гг. храм отреставрировали для Городского историко-краеведческого музея, а 1989 году в стенах храма впервые был отслужен водосвятный молебен с акафистом Божией Матери.
До закрытия в храме находился особо чтимый Смоленский образ Пресвятой Богородицы, поэтому возвращенный православным храм освятили в честь этой иконы. Во дворе храма в 1992 году построили приходской дом с храмом-крестильней во имя святого Иоанна Крестителя. Восемнадцать лет, с 1903 по 1921 гг., в храме служил священник Виктор Петрович Горетовский. В 1921 году чекисты забрали все ценности и увезли священника, а вернулся он в храм в гробу с простреленной головой. Священник погребен около храма.
С марта 1937 года в храме в течение полугода служил священник Александр Андреевич Вершинский. Его арестовали вместе с двумя помощниками, а затем расстреляли на Бутовском полигоне. В храме собраны частицы святых мощей многих угодников Божиих. Здесь находится местночтимая чудотворная икона святителя Николая. Недавно в храм была возвращена Смоленская икона Богоматери, в годы гонений перенесенная в другой храм.