Nhà thờ đầu tiên của giáo xứ Phú Ốc được lợp bằng lá theo kiểu nhà Nam nhưng dần trở nên chật chội cha già Phêrô Trần Ngọc Ninh (là Cha xứ tiên khởi) đã thương lượng với một số hộ gia đình xung quạnh chuyển đổi di dời để xứ đạo có được khu đất rộng rãi hơn, thuận tiện cho việc sinh mục vụ của bà con trong xứ đạo.
Khoảng năm 1912, cha đã cho khởi công xây dựng ngôi Thánh đường trên mảnh đất mới này. Sau 10 năm nỗ lực xây dựng, đến năm 1922 ngôi Thánh đường khang trạng với tháp chuông cao 25m đã được hoàn thành và được cung hiến, cũng trong năm này giáo xứ đã nhận Đức Mẹ Vô Nhiễm làm quan thày xứ đạo.
Năm 1960 cha Phaolô đã cho trùng tu để tiện lợi trong việc sinh hoạt của giáo xứ. Ngôi Thánh đường mới được trùng tu chưa sử dụng được bao lâu thì đêm 15/01/1968, trong một trận oanh tạc của máy bay Mỹ, một tiếng nổ lớn làm rung chuyển của làng Ốc, sức ép của quả bom đã làm sụp đổ hoàn toàn hai mái của Nhà thờ, chỉ còn lại cây tháp vẫn đứng hiên ngang như biểu tượng của niềm tin của dân làng Phú Ốc.
Tới mùa mưa năm 1972, một trận bão khủng khiếp đã giật đổ nốt cây tháp, từ đó bà con giáo dân họp lại đọc kinh chung tại ngôi nhà nguyện, thứ bảy và Chủ nhật, cả làng lại đi bộ khoảng 3 cây số tới giáo xứ Nam Định để tham dự thánh lễ.
Ngày 6 tháng 6 năm 1993, đúng ngày lễ Một Đức Chúa Trời Ba Ngôi, cha Phaolô Lê Đắc Trọng đã dâng Thánh lễ đặt viên đá đầu tiên của công trình xây dựng Nhà thờ mới và sau đúng 7 năm,
Ngày 6 tháng 6 năm 2000 Đức Hồng Y Phaolô Giuse Phạm Đình Tụng đã về cắt băng khánh thành và Cung hiến ngôi Thánh đường thân thương này cho Thiên Chúa Ba Ngôi Chí Thánh.
