Храм «Малое Вознесение» построил царь Федор Иоаннович, сын Ивана Грозного, в память о дне своего венчания на русский престол — оно состоялось в праздник Вознесения Господня в 1584 году. В тот же год и сам храм стал впервые известен в истории. Он был выстроен по царскому повелению как приходской для слободы переселенцев из Новгорода и Великого Устюга, переведенных в Москву еще Иваном Грозным — отчего один из храмовых приделов освящен во имя св. Прокопия Устюжского. А затем Вознесенская церковь на время стала домовым храмом патриарха Филарета, который, вернувшись из плена, вскоре построил себе другое утешение в тех же местах — церковь Феодора Студита у Никитских ворот, дожившую до наших дней (см. нашу публикацию от 24 ноября 2002 г.)
Первоначально Вознесенский храм был деревянным, а каменный появился уже в середине XVII столетия и был сильно перестроен во второй половине XVIII века. В нем обрели покой представители многих родовитых русских фамилий — Собакины, Сверчковы, Таракановы. Здесь же был похоронен и сын русского поэта Александра Сумарокова.
Разумеется, что старомосковское имя «Малое Вознесение» церковь получила после того, как поблизости был построен грандиозный Вознесенский храм у Никитских ворот.