Đình Hạ được xây dựng tại thôn An Chiểu 1 còn chùa Quốc toạ lạc tại thôn An Chiểu 2 thuộc xã Liên Phương, thành phố Hưng Yên.
Đình Hạ là nơi tôn thờ thành hoàng làng Hồng Như Hiến, sống vào thế kỷ XIII. Ông là người nước Tống được nhà vua cử đi sứ sang nước Đại Việt để thực hiện mối giao hảo với nhà Trần. Ông đã cùng quân dân nhà Trần đánh dẹp quân xâm lược Nguyên - Mông, lập được nhiều công lao với nước Việt nên được vua Trần phong thuởng, ban trang ấp và ruộng lộc điền tại vùng đất này nên được nhân dân địa phương tôn thờ.
Chùa Quốc (Phủ Nhà Bà, Báo Ân tự) thờ Đức Phật Thích Ca Mầu Ni, thờ Tổ, thờ Mẫu; là nơi khuyên răn con người sống hướng thiện, tu nhân tích đức để hướng tới một xã hội tốt đẹp hơn. Trong khuôn viên chùa còn có Phủ Quốc, thờ Hoàng Điện Thánh Chiêu Nghi mẫu Nguyễn Thị Ngọc Toản, cung phi triều nhà Mạc. Bà có tài năng và sắc đẹp, được vua sủng ái và giao cho việc dạy bảo các phi tần. Do không có con, nên bà xin nhà vua cho về tu tại chùa Quốc Sư (chùa Quốc ngày nay). Nhà vua ưng thuận và ban cho ruộng lộc điền, đồng thời miễn sưu thuế cho địa phương để làm nơi tĩnh dưỡng và thờ cúng Thánh mẫu sau này.
Cụm đình Hạ - chùa Quốc được khởi dựng từ khá sớm, trải qua thời gian và những biến động của lịch sử, đình Hạ - chùa Quốc đã được tu sửa, tôn tạo nhiều lần. Hiện nay, đình Hạ có kết cấu kiểu chữ Tam: gồm 07 gian 02 chái Đại bái, 05 gian Trung từ và 03 gian Hậu cung. Các bộ vì làm kiểu chồng rường con nhị đấu sen. Các cấu kiện kiến trúc được làm từ vật liệu gỗ chắc khỏe còn khá đồng bộ, mang đậm dấu ấn mỹ thuật thời Nguyễn. Chùa Quốc có kiến trúc chính kiểu chữ Đinh (丁) gồm: 05 gian Tiền đường và 02 gian Thượng điện cùng nhiều công trình phụ trợ như: Phủ Quốc, nhà Tổ,... Các hạng mục, cấu kiện kiến trúc được làm theo lối giả cổ.
Xưa kia, lễ hội tại cụm di tích được tổ chức long trọng vào ngày mồng 08 tháng Giêng âm lịch để tưởng nhớ đến công lao của Thánh mẫu Nguyễn Thị Ngọc Toản. Trong những ngày diễn ra lễ hội có tế lễ, rước kiệu đặc biệt là lễ rước nước từ sông Hồng về chùa và diễn ra nhiều trò chơi dân gian truyền thống. Ngày nay, lễ hội không còn được tổ chức nhưng trong tương lai địa phương mong muốn khôi phục lại lễ hội truyền thống của quê hương.
Từ những giá trị trên, đình Hạ - chùa Quốc xếp hạng là di tích “Lịch sử” cấp tỉnh theo Quyết định số 2205/QĐ-UBND ngày 21/12/2012.