Di chỉ văn hóa Óc Eo được nhà khảo cổ người Pháp Malleret phát hiện năm 1942. Sau đợt khảo sát các di tích lịch sử văn hóa từ 1985-1987, ở An Giang phát hiện thêm 2 di tích liên quan đến nền văn hóa Óc Eo là hai bia đá lộ thiên và tượng Phật bốn tay tại chùa Linh Sơn. Chùa được xây dựng trên nền đất cao, bao quanh có rất nhiều cây đại thụ, không gian quanh năm mát mẻ và xanh tươi.
Theo Địa chí An Giang, vào năm 1913, tại khu vực dân cư gần chợ Ba Thê, một nhóm người phát hiện tượng Phật ở độ sâu khoảng 2m. Họ dùng đòn bẩy và dây gánh tượng lên mặt đất và mang về địa điểm nay là chùa Linh Sơn.
Điều thú vị là tượng mang về đặt đứng rất ăn khớp với hai bia đá cổ. Mặt bia đá khắc chữ lạ chưa ai hiểu được nội dung. Sau đó người dân xây dựng mái che và nơi này trở thành ngôi chùa Linh Sơn.
Sau nhiều lần trùng tu, tôn tạo chùa, tượng Phật đứng được nghệ nhân đắp thêm phần chân ngồi kiết già,tô chỉnh phần mặt và thân, khiến tượng có dáng vóc là Phật Thích Ca Mâu Ni tọa thiền, nhưng lại có bốn tay.
Những viên gạch phủ rêu được khai quật cùng lúc với tượng Phật bốn tay, được di chuyển về chùa, ốp thành những dốc đá.
Chùa trở thành điểm tâm linh thu hút đông đảo người dân đến chiêm bái và cũng là nơi vui chơi yêu thích của trẻ con bởi không gian mát mẻ, yên bình.
Ngày 18/1/1988, Bộ Văn hóa - Thể thao và Du lịch công nhận hai bia đá và tượng Phật bốn tay là di tích kiến trúc nghệ thuật. Đây cũng là cơ sở nền tảng để các nhà khảo cổ học tiếp tục nghiên cứu, khảo sát và khai quật nhiều địa điểm khác quanh phạm vi trung tâm nền văn hóa Óc Eo ở xã Vọng Thê (huyện Thoại Sơn).