El nombre que tiene la propiedad viene del francés y significa Bella Vista, aunque ahora se pronuncia totalmente diferente. Su origen está en la época de los normandos, que llegaron a Reino Unido en el siglo XI y sus batallas continuaron hasta el siglo XII.
Originalmente en este lugar se alzaba un castillo normando pero, tras pasar a manos de los duques de Rutland, fue pasto de las llamas en 1816 y reconstruido por la mujer del 5º duque, dando así lugar al castillo medieval que es ahora. El arquitecto James Wyatt fue el responsable de esta reconstrucción que incluye una torre central que recuerda especialmente la del Castillo de Windsor.
Como turista se puede visitar este castillo pagando entre 23 y 14 euros por persona en caso de los adultos y dependiendo de si se quiere visitar el interior o solo los jardines