Trong những năm đầu của thế kỷ XX, các phong trào yêu nước của nhân dân ta vẫn tiếp tục nổi lên chống thực dân Pháp đô hộ. Để đối phó với tình hình ấy, thực dân Pháp tiến hành xây dựng nhiều nhà tù trong cả nước để giam cầm những người yêu nước chống Pháp. Nhà tù Sơn La chính thức được xây vào năm 1908. Vào những năm sau khi Đảng Cộng sản Đông Dương ra đời, phong trào đấu tranh càng mạnh mẽ, thực dân Pháp cho mở rộng nhà tù Sơn La vào những năm 1930-1940. Lúc đầu mới xây dựng, chỉ là nhà tù nhỏ hàng tỉnh. Từ 1930-1945, nhà tù Sơn La, trở thành nơi giam cầm hàng ngàn người Việt Nam yêu nước, trong đó chủ yếu là các chiến sĩ cộng sản như đồng chí Tô Hiệu, Trường Chinh... Nhiều người bị giam cầm ở đây sau này trở thành cán bộ chủ chốt của cuộc cách mạng giải phóng dân tộc. Khu di tích nhà tù Sơn La, tuy đã bị phá hư hỏng nặng, nhưng khách tham quan vẫn nhận ra các xà lim ngầm, xà lim chéo, trại ba gian, trại lớn cũ cùng với hàng trăm hiện vật... Qua đó, du khách đã có thể nhìn thấy cuộc sống cơ cực, khổ sở của những tù nhân và khâm phục ý chí quật cường, khí phách anh hùng của họ trong cuộc chiến đấu chống kẻ thù của dân tộc. Nhà tù Sơn La được Bộ Văn hóa Thông tin xếp hạng di tích cách mạng năm 1962. Bên cạnh khu di tích là bảo tàng tổng hợp của tỉnh đang được mở rộng và bổ sung hoàn chỉnh các hiện vật.