Đền Kỳ Cùng nằm bên bờ tả ngạn sông Kỳ Cùng, ở phố Đầu Cầu, phường Vĩnh Trại (trước thuộc châu Thoát Lãng) Thành phố Lạng Sơn. Đền xây vào lúc nào đến nay chưa xác định được, theo hồi ức của những người già thì đền đã có từ rất lâu và được sửa chữa nhiều lần nhưng vẫn chỉ là một ngôi đền nhỏ làm bằng đất lợp ngói. Trước đền là bến đá Kỳ Cùng (Kỳ Cùng Thạch Lộ), từng được Ngô Thì Sỹ xếp hạng là 1 trong 8 thắng cảnh của xứ Lạng từ thế kỷ XVIII. Trước đây đền vốn thờ Thần Giao Long (thần sông Kỳ Cùng), Tương truyền có con Giao Long đào hang ở đây. Hang ăn sâu vào tận động Nhị Thanh. Trước đây các sứ bộ của ta trên đường qua lại đây đều vào đền yết lễ. Trong quá trình biến đổi của lịch sử, đền thay việc thờ Thần Giao Long bằng thờ Quan Tuần Tranh, một vị tướng nhà Trần. Theo truyền thuyết để lại: cuộc đời và sự nghiệp của ông gắn bó với khu di tích này. Kiến trúc đền theo kiểu chữ “đinh” (丁), đây là kiến trúc mới được phục hồi lại. Đền không làm nghinh môn riêng, mà ở đây nghinh môn gắn liền với không gian chính gồm ba cửa xây vòm cuốn với hai trụ gạch vuông bổ gờ xoi, phía trên đắp nổi hoa văn, trên cùng là bộ tam khí gồm đỉnh và lọ hoa thờ hai bên. Phía ngoài, phía tả hữu của đền đều có xây tháp chồng diêm kiểu gác chuông để treo chuông, trống. Hiện đền còn lưu giữ khá nhiều hiện vật quý như bia trùng tu đền (trùng tu từ bi) ghi lại quá trình trùng tu và lịch sử ngôi đền, được tạc tháng 2-1931. Các hoành phi - đại tự có niên đại đời Lê (1784) và Nguyễn (thời Khải Định, Bảo Đại) và nhiều đồ thờ tự: chuông, ngai, đỉnh rồng, tán lộng, bát bửu... và một số pho tượng cổ có giá trị mỹ thuật lớn và có niên đại cao. Hằng năm lễ hội đền Kỳ Cùng tổ chức vào các ngày 22 đến 27 tháng Giêng. Trong ngày lễ có rước kiệu từ đền Kỳ Cùng lên đền Tả Phủ để tạ ơn. Vì tương truyền rằng vị thần Tả Phủ có công trong việc minh oan cho Quan Tuần Tranh, khi đã bị kết tội oan, cho đến ngày 27 rước kiệu về. Đền Kỳ Cùng được xếp là di tích quốc gia.