Chùa Bình Tân (Linh Quang tự) toạ lạc tại thôn Cộng Hoà, thị trấn Bần Yên Nhân. Tương truyền, chùa nằm trên thế đất “rồng cuốn thủy”, mặt tiền hướng Tây nhìn ra sông Bần.
Chùa thờ Phật, thờ Mẫu, thờ Tổ, nơi khuyên răn con người làm việc thiện, tu nhân tích đức.Thời kỳ kháng chiến chống Pháp chùa là nơi diễn ra nhiều sự kiện lịch sử. Ngay từ những năm 1942 - 1943, chùa là trạm liên lạc của Xứ uỷ Bắc Kỳ. Đồng chí Hoàng Quốc Việt, bà Trần Tử Bình cùng nhiều cán bộ của Xứ uỷ thường qua lại hoạt động.
Chùa được khởi dựng từ sớm, trùng tu vào thời Hậu Lê năm Vĩnh Thịnh thứ 03 (1707) và năm Vĩnh Thịnh thứ 04 (1708). Trải qua nhiều lần trùng tu, chùa Bình Tân vẫn giữ được nét kiến trúc đẹp, độc đáo vốn có. Hiện nay, chùa có kiến trúc hình chữ Đinh gồm: Tiền đường và Thượng điện. Tiền đường 05 gian, được làm kiểu tường hồi bít đốc mang phong cách kiến trúc thời Nguyễn. Các bộ vì được làm kiểu con chồng đấu sen. Nối với Tiền đường là 02 gian Thượng điện, các bộ vì làm đơn giản theo kiểu chồng rường đấu kê. Toà Tam bảo bài trí hệ thống tượng phật tương đối đầy đủ, phong phú. Ngoài khu thờ chính còn có nhà Tổ 03 gian 02 chái, kiến trúc kiểu vì kèo trụ trốn. Phía sau chùa là nhà Mẫu gồm 03 gian 02 chái kiến trúc đơn giản. Nhìn chung, chùa Bình Tân có quy mô không lớn nhưng các hạng mục được sắp xếp hài hoà. Chùa còn lưu giữ được một số hiện vật có giá trị như: Hai tấm bia cổ dựng năm 1707 và 1708 cùng hệ thống tượng có niên đại thời Nguyễn.
Chùa Bình Tân được Bộ Văn hóa - Thông tin xếp hạng là di tích “Lịch sử và nghệ thuật” cấp Quốc gia theo Quyết định số 2233-QĐ/BT ngày 26/6/1995.