Đình Thượng tọa lạc trên thế đất hình đầu rồng, trong không gian cảnh quan thoáng đãng tại địa phận thôn Tiền Phong, xã Tân Hưng. Mặt tiền đình hướng Tây, nhìn ra ao rộng.
Đình là nơi tôn thờ Linh Lang Đại vương, sống vào thời Lý. Ngài là một vị Hoàng tử con vua Lý Thánh Tông, có công lao to lớn trong cuộc kháng chiến chống quân xâm lược phương Bắc, bảo vệ nền độc lập tự chủ của đất nước và cuộc sống ấm no, hạnh phúc cho nhân dân.
Đình Thượng được khởi dựng từ sớm với quy mô kiến trúc tương đối lớn nhưng đến thời kỳ kháng chiến chống Pháp (1953), đình đã bị phá hủy. Sau này, đình được chính quyền và nhân dân phục dựng trên nền cũ với kiến trúc chính kiểu chữ Đinh gồm: 05 gian Đại bái và 03 gian Hậu cung, các hạng mục được làm theo lối giả cổ với bộ vì tạo tác kiểu chồng rường, mang phong cách kiến trúc truyền thống.
Tại đình còn lưu giữ được một số hiện vật tiêu biểu như: cuốn thần tích, ngai thờ, hoành phi, câu đối,… rất có giá trị.
Đình Thượng thường tổ chức lễ hội vào ba dịp trong năm là ngày 15 tháng 8 (ngày sinh); ngày mồng 10 tháng Giêng (ngày hóa) và ngày mồng 01 tháng 4 âm lịch là ngày lễ cầu mát. Ngoài phần lễ, nhân dân còn tổ chức hội làng. Xung quanh khu vực đình diễn ra các trò chơi dân gian truyền thống mang đặc trưng của vùng châu thổ Bắc Bộ như: tổ tôm điếm, chọi gà, đánh cờ, hát chèo ngoài nghi môn,...
Đình Thượng được UBND tỉnh xếp hạng là di tích “Lịch sử” theo Quyết định số 1726/ QĐ-UBND ngày 17/10/2014.