Đến Lạng Sơn mà không check-in núi Phai Vệ thì quả là một sai lầm cho dân mê xê dịch.
Bên trong thân núi Phai Vệ là hai di chỉ hang đá có niên đại cách đây khoảng 10.000 năm và 4.700 ~ 5.000 năm. Kết hợp với ánh đèn huyền ảo và những khối thạch nhũ đầy màu sắc, hang đá Phai Vệ càng trở nên lung linh và huyền bí hơn trong mắt khách du lịch. Không chỉ thế, vì mang tính lịch sử lâu đời, hang đá còn giàu giá trị khảo cổ.
Di tích khảo cổ học núi Phai Vệ hiện thuộc phường Vĩnh Trại, có vị trí trung tâm, phía Đông thành phố Lạng Sơn. Đây là một trong những di tích khảo cổ học được nhắc đến nhiều cùng với các di tích khảo cổ khác ở các huyện Bình Gia, Bắc Sơn, Văn Quan, Chi Lăng, Hữu Lũng,…
Nơi đây, các nhà khảo cổ đã tìm thấy dấu vết cổ sinh vật. Năm 1914, người Pháp đã từng đặt tên cho đường qua núi Phai Vệ là Đại lộ hang động. Hiện nay, du khách dễ dàng nhìn thấy di tích này khi đến tham quan, du lịch mua sắm ở chợ Đông Kinh.