Nổi tiếng nhất ở Rostov là điện Kremlin nằm ở trung tâm thành phố, được xây dựng từ năm 1670 đến 1683. Mặc dù các bức tường kiên cố và 11 tòa tháp thực sự được dùng chủ yếu nhằm mục đích trang trí hơn là phòng thủ, tuy nhiên nơi đây vẫn có tên gọi là điện Kremlin.
Sau khi Rostov và Yaroslavl Eparchy được tái thiết lập với tên gọi Yaroslavl và Rostov Eparchy vào cuối thế kỷ 18, lãnh địa giáo đã chuyển đến Yaroslavl và điện Kremlin bắt đầu rơi vào tình trạng hư hỏng. Tình trạng này chỉ thực sự dừng lại vào năm 1883 khi một nhóm thương nhân quyết định thành lập Bảo tàng Cổ vật Giáo hội trên lãnh thổ của mình. Vào năm 1918, sau Cách mạng, Kremlin trở thành tài sản của nhà nước và một bảo tàng tồn tại dưới nhiều tên cho đến khi nó được biết đến với tên gọi là Khu bảo tồn Nhà nước Rostov Kremlin vào năm 1995. Ngày nay, nó vẫn được xem là tài sản của nhà nước mặc dù Patriarch Kirill đã kêu gọi trả lại cho Nhà thờ Chính thống Nga để được sử dụng như một tu viện.