Theo các tài liệu lịch sử, đảo Cái Bầu là một trong những địa điểm mà chủ mỏ Pháp khai thác than sớm nhất ngay sau khi họ xâm chiếm vùng mỏ Quảng Ninh. Tại cửa Cái Bầu, lối vào thôn Cái Bầu ngày nay, người Pháp đã xây dựng cả một nhà máy sàng than quy mô, tới nay vẫn còn nguyên nền móng.

Cách đó khoảng 500m về phía chùa Cái Bầu là cầu tàu rót than. Chính từ đây, “vàng đen” được các chủ mỏ chuyển về “mẫu quốc” phục vụ nền công nghiệp của nước Pháp.

Từ chùa Cái Bầu đến mũi Vạn Hoa khoảng hơn 10km, người Pháp đã xây dựng gần 10 cây cầu sắt. Hơn nửa thế kỷ qua đến nay, cây cầu sắt này vẫn là lối đi lại chính của nhân dân thôn Cái Bầu, xã Hạ Long.

Trên đường vào xã Vạn Yên, một cây cầu mới đang được xây dựng bên cạnh cây cầu sắt cũ từ thời Pháp như thế.

Ngoài cầu, trên đường vào Vạn Hoa, người Pháp còn xây dựng 2 đường hầm xuyên qua núi, mỗi đường hầm dài khoảng hơn 100m, hầm cao khoảng 4,5m, rộng 4,5m, đến nay kết cấu vẫn rất tốt.

Để bảo vệ cho các chủ mỏ khai khác than trên đảo Cái Bầu và nhất là để khống chế Tiên Yên và Vịnh Bái Tử Long, tại Vạn Hoa, người Pháp đã xây dựng hệ thống boong-ke, lô cốt kiên cố. Tại đây vẫn còn dấu tích một dinh thự 2 tầng xây theo kiểu Pháp với vườn hoa bên đầu nhà...

Hơn nửa thế kỷ đã qua, các công trình kiến trúc của người Pháp ngày một nhuốm bụi thời gian nhưng chúng rất thích hợp cho ai muốn tìm hiểu về lịch sử của đảo Cái Bầu cũng như lịch sử khai thác than ở Quảng Ninh.