Lietuvių dvasininko Martino Šimanovskio laikais buvo pastatyta dabartinė Balvų katalikų bažnyčia. Ivanas Jelaginas (Jekaterinos II neoficialus sekretorius) bažnyčios statybai skyrė lėšas ir darbininkus. Didžiausius bažnyčios perstatymo darbus organizavo lietuvių dvasininkas Antanas Rimovičius (1896–1914). Jis nugriovė tris mūrinius altorius ir jų vietoje pagamino medinius altorius. Didysis altorius imituoja Aušros Vartų altorių, šoniniuose altoriuose neogotikos stiliaus dekorą atliko 8 vietiniai staliai ir lietuvis drožėjas Antanaitis. Prie Balvų katalikų bažnyčios yra sukurtas A. Rimovičiui skirtas sakralinis centras. Dalis šio dvasininko ir drožėjo darbų yra išvežta į Rundalę, dalis darbų yra Šiauliuose.
