Для этих целей уже в 1813 г. была создана специальная «Комиссия для строений в Москве» под руководством архитектора Осипа Бове.
В 1813-1814 гг. Бове представил акварельный вид Красной площади и фасадов будущих лавок, а затем приступил к восстановительным работам, не дожидаясь утверждения проекта со стороны императора Александра I.
Из-за нехватки средств реконструировать удалось лишь двухэтажную аркаду Верхних торговых рядов, которая в результате приобрела двенадцатиколонный портик и треугольный фронтон с пологим монументальным куполом. По образу и подобию Верхних рядов перестроили Средние и Нижние торговые ряды, однако их построение было не таким упорядоченным ввиду сложного рельефа местности.
Ко второй половине XIX в. ансамбль, сложившийся на Красной площади, выглядел уже не так блестяще: старые торговые ряды, прикрытые фасадами Бове, обветшали, а сами фасады облепили рекламные вывески.
Кроме того, изменились взгляды на архитектуру — классицизму как общеевропейскому стилю противопоставлялись поиски стиля национального, новые здания должны были отражать самобытность русской культуры. В этот период происходит следующая реконструкция Красной площади: появляется Исторический музей, перестраиваются Верхние и Средние торговые ряды.
15 ноября 1888 г. был объявлен конкурс на проект новых зданий Верхних торговых рядов. На конкурс поступили 23 проекта «доставленные под различными девизами различными техниками из самой Москвы и других городов».
Здание Верхних торговых рядов было возведено в 1889-1893 гг. по проекту Александра Померанцева, здание Средних торговых рядов в 1891-1894 гг. построил Роман Клейн, получивший вторую премию конкурса на проект Верхних торговых рядов.
Возведением нового корпуса занимался архитектор Роман Клейн. При проектировании он столкнулся с различными сложностями.
Например, из-за необычной формы участка ему пришлось сделать два самостоятельных фасада, а для подвоза товаров к каждому отдельному торговому помещению по периметру владения был возведен главный корпус, во внутреннем дворе которого построили еще несколько корпусов с подвалами, все наземные проезды между корпусами дублировались подземными проездами.
Конструктивное несовершенство нового здания Средних торговых рядов обнаружилось уже к началу XX в. В лавки второго и третьего этажа попадало мало света, со временем здание в целом перестало соответствовать современным требованиям к помещениям, потому Правление Общества Средних торговых рядов дважды обращалось в Техническо-строительный комитет Министерства внутренних дел с предложениями о перестройке фасада, расширении оконных проемов и внутреннего пространства корпуса.
В конечном итоге был утвержден проект нового фасада в стиле французского Ренессанса. Свою лепту в процесс внесла Императорская Академия художеств и лично Великая княжна Мария Павловна, ее президент. К сожалению, этот замысел не был осуществлен – началась Первая мировая война.
После 1917 г. в здании Средних торговых рядов находился сначала Реввоенсовет, затем Военно-химическое управление с лабораториями и общежития, с 1930 по 2000 гг. оно принадлежало Министерству обороны.