Первый московский водопровод прослужил городу около 100 лет, но уже на первых порах стали видны ошибки, допущенные при его постройке. Из 330 тысяч ведер воды, поступавших в галерею в Мытищах, до города доходило едва 40 тысяч, да и те плохого качества. Отдельные участки галереи обваливались: вместо каменного фундамента строители первого водопровода понадеялись на деревянные лежни, и зря – балки стали подгнивать и оседать, а свод кирпичной галереи – раскалываться. Драгоценная ключевая вода вытекала и смешивалась с почвенной.
За всю историю своего существования Мытищинский водопровод неоднократно перестраивался. В 1826—1835 годах его усовершенствовал инженер Николай Иванович Яниш. По его проекту была построена Алексеевская водокачка с двумя паровыми машинами, установлен резервуар в Сухаревой башне и сооружены водоразборные фонтаны – Шереметевский (около Сухаревой башни), Никольский (на Лубянке), Петровский (на Театральной площади), Воскресенский (на нынешней площади Революции) и Варварский (на нынешней Славянской площади). Два из них сохранились и до наших дней: это фонтаны на Театральной площади и у здания Президиума Академии наук, перенесенный к бывшему Нескучному дворцу с Лубянки. Из этих элегантных фонтанов москвичи когда-то черпали ведрами воду – на ней готовили пищу и заваривали чай.
В 1853—1858 годах выдающийся инженер Андрей Дельвиг, двоюродный брат известного поэта и друга Пушкина Антона Дельвига, реконструировал водопровод еще раз, заменив верхнюю кирпичную галерею на чугунные трубы. Это позволило увеличить водоснабжение города в 10 раз: жители Москвы стали получать 500 тысяч ведер воды ежедневно. При Дельвиге на городских насосных станциях появились более совершенные паровые машины, а по всей Москве сооружены новые водоразборные фонтаны, бассейны и колонки, а также 15 пожарных колодцев. Так было положено начало современному пожарному делу: ведь до тех пор Москва горела, не переставая. Огонь раньше тушили «топором» – вырубали очаг пожара, чтобы не допустить его распространения. Такой способ борьбы с огнем не спасал город, который сгорал дотла много раз.
Следующую реконструкцию водопровода провел городской глава Николай Александрович Алексеев, двоюродный брат предпринимателя и создателя Художественного театра К.С. Станиславского (Алексеева). Всего за 2 года, с 1890 по 1892-й, энергичному градоначальнику удалось значительно обновить Мытищинский водопровод – и он разросся до 116 километров и подавал уже 1,5 миллиона ведер в сутки. Водопровод обошелся Москве дороже, чем рассчитывали городские власти: на его усовершенствование потребовалось почти 6 миллионов рублей. Однако все незапланированные издержки взял на себя сам градоначальник – Алексеев считал строительство водопровода одним из самых важных дел своей жизни.
И все-таки, несмотря на недостатки, Мытищинский водопровод оказался весьма прогрессивным решением для своего времени. Особая заслуга Бауэра, разработавшего проект первого московского водопровода, заключается в том, что он выбрал в качестве источника ключи за пределами города – это тогда, когда в Европе было принято брать для водопровода речную воду. Выбор Мытищинских ключей, расположенных в 25 километрах от центра города, был смелым шагом для гидротехнического дела того времени.