Tương truyền, đình Yên Lịch được xây dựng trên thế đất “Quần long tụ hội” ở đầu thôn Yên Lịch, xã Dân Tiến. Mặt tiền đình quay về hướng Tây, phía trước có hồ nước lớn quanh năm xanh mát. Đình thờ Ngũ Nhạc Đại vương và Nàng Mây Công chúa dưới thời Lý. Các ngài có công giúp vua đánh giặc giữ nước, đem lại cuộc sống yên bình cho nhân dân. Sau khi mất, được nhân dân tôn làm thánh và phụng thờ ở nhiều nơi.
Đình Yên Lịch được khởi dựng từ sớm có kết cấu kiểu “Nội Công ngoại Quốc”. Hệ thống khung chịu lực được làm bằng gỗ lim vững chãi, với nhiều mảng chạm khắc hoa văn tinh xảo các đề tài tứ linh, tứ quý. Ngôi đình bị thực dân Pháp đốt phá năm 1950 và được phục dựng lại năm 1987. Gần đây, vào năm 2005 - 2008, đình được trùng tu với quy mô lớn với kiến trúc kiểu chữ Đinh gồm hai toà Đại bái 03 gian 02 chái và Hậu cung 02 gian. Các cấu kiện kiến trúc được làm theo lối giả cổ, đồng bộ, vững chắc.
Hiện nay, tại đình còn lưu giữ được 02 đạo sắc phong niên hiệu Khải Định thứ 09 (1924), bát hương sứ cổ, kiệu long đình, kiệu bát cống,... Đây là những cổ vật rất có giá trị về mặt lịch sử và mỹ thuật.
Hằng năm, vào ngày mồng 10 tháng Giêng âm lịch nhân dân tổ chức lễ hội để tưởng nhớ công lao của đức thánh. Xưa kia, lễ hội diễn ra trong 03 ngày từ ngày mồng 9 đến 11 với nhiều hoạt động như rước kiệu, múa rối nước, đi cầu kiều, bắt vịt,… Ngày nay, cứ 05 năm hai lần, lễ hội được tổ chức với quy mô lớn, những năm còn lại thì đơn giản hơn song vẫn đảm bảo sự trang trọng và các yếu tố truyền thống.
Với những giá trị còn hiện hữu, đình Yên Lịch được UBND tỉnh xếp hạng là di tích “Lịch sử - Văn hoá” cấp tỉnh theo Quyết định số 2571/QĐ-UBND ngày 24/12/2008.