Hắc Long Giang có nghĩa là "sông rồng đen", đây là tên tiếng Hán của sông Amur. Phiên âm tên tiếng Mãn của con sông là Sahaliyan ula (nghĩa là "sông đen"), và đây cũng là nguồn gốc tên gọi của đảo Sakhalin. Giản xưng của tỉnh Hắc Long Giang là "Hắc" (黑, Hēi). Tỉnh Hắc Long Giang giáp với tỉnh Cát Lâm ở phía nam và giáp với khu tự trị Nội Mông ở phía tây; tỉnh giáp với Nga ở phía bắc và phía đông.
Ở phía bắc tỉnh Hắc Long Giang, sông Amur tạo thành biên giới giữa Cộng hòa Nhân dân Trung Hoa và Nga. Tỉnh Hắc Long Giang sở hữu điểm cực bắc (tại huyện Mạc Hà dọc theo Amur) và điểm cực đông (nơi hợp lưu giữa sông Amur và sông Ussuri) của Trung Quốc. Tỉnh lị Hắc Long Giang là Cáp Nhĩ Tân.