Đình, chùa Hoàng Lê thuộc địa phận thôn Hoàng Lê, xã Phan Đình Phùng. Tương truyền, đình, chùa được xây dựng trên thế đất là lưng rồng, phía Đông là đầu rồng, hai ao cạnh di tích là mắt rồng, phía Tây Nam là đuôi rồng.
Đình Hoàng Lê (Đình Thạt, Đình Nghè) là di tích thờ Thành Hoàng làng Lãng Lôi, người có công âm phù giúp Sơn Thánh chống giặc ngoại xâm thời kỳ Hùng Duệ Vương. Trong kháng chiến chống Pháp, đình là địa điểm hội họp, cơ sở hoạt động bí mật của các đồng chí lãnh đạo xã, huyện ủy, UBND huyện, là nơi tập trung lực lượng của địa phương tham gia cướp chính quyền, phá tề,… Chùa Hoàng Lê (Hoàng Vân tự, Hoàng Lê tự) là nơi thờ Phật, nơi giúp con người giải toả những phiền muộn lo âu để hướng tới một cuộc sống tốt đẹp hơn.
Cụm di tích được khởi dựng vào thời Lê. Trải qua thời gian, các hạng mục kiến trúc cũ đã không còn. Hiện nay, đình có kết cấu kiểu chữ Đinh gồm 03 gian 02 chái Đại bái và 02 gian Hậu cung. Chùa kiến trúc cấu kiểu chữ Đinh gồm Tiền đường và Thượng điện làm kiểu hai tầng tám mái. Các hạng mục công trình được làm theo lối giả cổ, rất đồng bộ và vững chắc.
Hiện nay, tại cụm di tích còn lưu giữ được một số hiện vật đồ thờ có giá trị như: hệ thống tượng tại chùa; bát hương, chóe sứ, đỉnh đồng, ngai thờ và đặc biệt là 13 đạo sắc phong thời Lê và Nguyễn được lưu giữ tại đình.
Hằng năm, lễ hội tại cụm di tích được tổ chức vào các ngày 12 tháng 02 (lễ tế xuân cầu phúc), ngày 11 tháng 04 (ngày Đản Thánh) và ngày 12 tháng 08 âm lịch. Trong đó, lễ hội chính là tháng 04 để tưởng nhớ công lao của Thành hoàng.
Đình, chùa Hoàng Lê được UBND tỉnh xếp hạng là di tích “Lịch sử” theo Quyết định số 755/QĐ-UBND ngày 01/4/2015.