Als sich Anfang April 1945 die US-amerikanischen Truppen näherten, ließ die SS die Mittelbau-Lager räumen. Zu Fuß oder per Eisenbahn wurden die Häftlinge vornehmlich in Richtung anderer Konzentrationslager wie Bergen-Belsen getrieben. Auf den Räumungstransporten und Todesmärschen starben noch tausende Häftlinge.
In Bahntransporten oder auf Fußmärschen sollten die Häftlinge in andere Lager gebracht werden. In aller Eile und mit großer Brutalität trieben die Wachmannschaften die Lagerinsassen in Güter- und Viehwaggons. Mehrere Züge mit Tausenden von Menschen verließen bis zum 6. April den Südharz in Richtung der Konzentrationslager Bergen-Belsen bei Celle, Sachsenhauen nördlich von Berlin und Ravensbrück an der Havel. Außerdem schleppten sich viele Kolonnen erschöpfter Häftlinge, angetrieben von den Wachmannschaften, zu Fuß über den Harz. Die Anwohner:innen in den Ortschaften wurden zu Zeugen der Todesmärsche.
Die Häftlinge waren völlig unzureichend gekleidet und wurden kaum mit Lebensmitteln versorgt. Diejenigen, die erschöpft am Wegesrand zusammenbrachen oder zu fliehen versuchten, wurden von SS- oder Wehrmachtangehörigen getötet. Teilweise waren Polizei, Volkssturm, Hitler-Jugend und auch Zivilist:innen an den Morden beteiligt. Nach vorsichtigen Schätzungen starben bis zu 10.000 Häftlinge aus dem KZ Mittelbau während der Todesmärsche und Räumungstransporte.
Anlässlich des 35. Jahrestages der DDR ließ der Rat des Kreises zur Erinnerung an die Todesmärsche aus dem KZ Mittelbau-Dora elf Gedenkstelen in der Region Nordhausen errichten. Am 1. Juli 1984 weihte Paul Greulich, Vorsitzender des Komitees der antifaschistischen Widerstandskämpfer, die Stele an der Dr.-Robert-Koch-Straße in Nordhausen-Nord ein. Entlang der Routen der Todesmärsche findet sich in Thüringen eine Vielzahl ähnlicher Gedenkzeichen.