Thời Lý – Trần, ở Vĩnh Phúc đã có nhiều tháp. Tháp là một bộ phận, một phần công trình nghệ thuật quan trọng của chùa. Cùng với chùa, tháp là nơi thờ Phật có tính chất tưởng niệm và là nơi để hài cốt các nhà sư. Các tầng của tháp tượng trưng cho từng bước tu hành để lên cõi Niết Bàn của các phật tử. Trong số tháp còn lại hiện nay chỉ có tháp Bình Sơn là cao nhất, tên chữ là tháp chùa Vĩnh Khánh, tục gọi là chùa Then ở xã Tam Sơn (Lập.