Khá đơn giản (và ít đông đúc hơn) so với các cổng thành cổ khác, cổng Herod chỉ cách 100m về phía đông, nơi mà quân Thập tự chinh phá các bức tường thành phố vào ngày 15 tháng 7 năm 1099. Tên của cổng được lấy từ một niềm tin nhầm lẫn vào ngày 16 và những người hành hương thế kỷ 17 rằng một tòa nhà gần đó đã có lúc là cung điện của Herod Antipas.
Trong tiếng Do Thái, cổng được gọi là Sha Phụcar HaPrahim, và theo tiếng Ả Rập là Bab Al Zahra; cả 2 tên đều có nghĩa là cổng hoa (lưu ý thiết kế hoa ở gần đỉnh cổng).