Theo lời kể của những người lớn tuổi, dinh Cậu đã có từ rất lâu, có thể từ thế kỷ 17. Dinh Cậu nằm trên một ghềnh đá vươn ra biển, có Thạch Sơn Điện với nét kiến trúc cổ mà người dân xưa gọi là miếu thờ Long Vương. Đây là nơi thể hiện văn hóa tín ngưỡng của người dân đảo Phú Quốc với mong muốn mưa thuận gió hòa, quốc thái dân an.