Ngay sau khi chiếm Sài Gòn, Pháp đã cho lập nhà thờ để làm nơi hành lễ cho tín đồ Thiên Chúa giáo trong đoàn quân viễn chinh. Ngôi nhà thờ đầu tiên được lập ở đường số 5 (nay là Ngô Ðức Kế). Ðây là một ngôi chùa của người Việt. Vì chiến cuộc, vì quân xâm lăng đến trú đóng, người Việt đã bỏ chạy và cố đạo Lefebvre đã biến ngôi chùa này thành nhà thờ. Nhà thờ đầu tiên đó quá nhỏ nên Pháp đã lập ngôi nhà thờ thứ hai bên bờ "Kinh Lớn" (hay kinh.