Часовня над колодцем в деревне Молочково упоминалась в летописях еще в 16 веке. «Метрах в 200 к юго-востоку от церкви, под горою, недалеко от речки Мильца стоит деревянная, крестообразная в плане, часовня, внутри которой находится колодец, заключенный в деревянный сруб...» Почитание колодца церковная летопись объясняла тем, что на нем явилась икона Успения, которая в настоящее время находится в Успенской церкви села Молочково . До революции к часовне совершались крестные ходы в Успенье и Вознесенье. Источник почитался не только в округе, но и был известен в других областях. До 1920-х годов на праздник Вознесения в Молочково устраивали ярмарки.
Религиозные гонения дошли до Молочкова после войны. 13 апреля 1959 года Солецкий райисполком принял решение № 122 - о закрытии часовни в Молочкове: "Учитывая пожелания и просьбы трудящихся о закрытии часовни в Молочкове, которая используется в корыстных целях и наносит вред народу, исполком решает удовлетворить просьбу трудящихся закрыть часовню в Молочкове и запретить в том месте сбор народа в религиозные праздники..."
Вновь построенная часовня освящена 07 сентября 2002г. во имя праведного воина Федора Ушакова.