Đền Ủng tọa lạc tại khu đất cao ráo, rộng 617m2 trên đường Phạm Ngũ Lão, phường Quang Trung với mặt tiền đền quay hướng Nam.
Đền Ủng tôn thờ Phạm Ngũ Lão (1255 - 1320), một danh tướng văn võ song toàn, được Hưng Đạo Đại Vương Trần Quốc Tuấn hết sức tin cậy, rèn luyện, tiến cử với triều đình và trở thành vị tướng phò tá 3 đời vua nhà Trần. Ông sinh ra tại làng Phù Ủng, huyện Đường Hào, phủ Thượng Hồng, tỉnh Đông (nay là thôn Phù Ủng, xã Phù Ủng). Cuộc đời ông gắn liền với chiến trận và những chiến công vang dội, hiển hách góp phần cùng với quân dân nhà Trần đánh thắng giặc Nguyên Mông xâm lược, đem lại thái bình cho đất nước và cuộc sống ấm no, hạnh phúc cho nhân dân. Phạm Ngũ Lão mất tại phủ đệ vua ban ở Thăng Long và được nhà vua phong là “Thượng đẳng phúc thần”. Phối thờ là vợ và con gái của ngài là Quận Chúa Anh Nguyên và Cung Phi Tĩnh Huệ.
Đền Ủng được xây dựng vào thời Nguyễn (1923). Trải qua thời gian, ngôi đền bị xuống cấp một số hạng mục, cấu kiện. Sau đó, nhân dân địa phương đã tu sửa, tôn tạo vào năm 2005. Hiện nay, đền có kiến trúc gồm bốn tòa: Tiền tế, Thiên hương, Trung từ và Hậu cung. Các hạng mục còn tương đối đồng bộ và vững chắc. Kết cấu các bộ vì chủ yếu là vì kèo quá giang đơn giản, bào trơn đóng bén không trang trí hoa văn.
Tại đền còn bảo lưu được một số hiện vật có giá trị như: 03 đạo sắc phong thời Nguyễn, ngai, khám thờ, trâm thư, đại tự, câu đối,… Hằng năm, vào ngày 11 tháng Giêng và ngày mồng 01 tháng 11 âm lịch, nhân dân địa phương tổ chức lễ hội để kỷ niệm ngày Phạm Ngũ Lão ra quân và ngày mất của ngài nhằm ôn lại truyền thống của cha ông.
Ngày 17/4/2015, đền Ủng được UBND tỉnh ban hành Quyết định số 848/QĐ-UBND xếp hạng là di tích “Lịch sử” cấp tỉnh.