Kapadokya belgelerinde Tegarama, Hitit kaynaklarında Tagarama ve Gurinian Asur kaynaklarında Tilgarimmu(yüksek mağaraların bulunduğu su yeri), Ermeni kaynaklarında Arabisios, Kimmer İskit tarihinde Tehaorma, Tevrat’ta Togarma, Bizans döneminde Gauraina ismiyle bilinen ve 1408 yılında Osmanlı topraklarına katılan, 1869 yılında kaza olan ilçenin, Gürün ismini ne zaman ve nasıl aldığı hakkında tarihi, coğrafi ve insani etkilere bağlı olarak, nesilden nesile aktarılan birçok rivayet bulunmaktadır.

Sivas'ın güneyinde il merkezine 137 km. uzaklıkta; Akdeniz Bölgesi, Doğu Anadolu Bölgesi ve İç Anadolu Bölgesinin kesiştiği; 37004'31" doğu boylamları ile 38043'05" - 38058'28" kuzey enlemleri arasında kilit bir noktada, üç bölgeyi birbirine açan "anahtar şehir" konumundaki Gürün, Tohma Havzası'nın da en önemli mevkiinde bulunmaktadır. Doğusunda Malatya'ya bağlı Darende ve Kuluncak, güneyinde Kahramanmaraş'a bağlı Elbistan ve Afşin, batısında Kayseri'ye bağlı Pınarbaşı ve Sarız, kuzeyinde ise Kangal ilçesi bulunmaktadır.

Rakımı 1250 m. olan ve 4. derece deprem kuşağında yer alan Gürün, yüzey şekilleri bakımından dağlık ve engebeli bir yapıya sahiptir. Batıda Gürün ile Pınarbaşı İlçesini ayıran Gövdeli (2700 m.), Kuzeyde Gürün ile Kangal İlçesini ayıran Sakaltutan (2200 m.), Güneyde Gürün ile Elbistan İlçesini ayıran Hezanlı Dağı (2283 m.) ve Kuzeydoğusunda Karadağ (2200 m.) yer almaktadır. Kuzeyden Terzioğlu Dağları, Güneyden Hezanlı dağlarının uzantısı Maşatın Çalı ve Karatepe Dağları ile çevrili olan ilçe merkezi Tohma Vadisi boyunca doğu-batı doğrultusunda uzanır.

Uzun Yayla ile Ziyaret Mevkiinde iki okyanusun sularının ikiye bölündüğü noktayı (su bölümü çizgisi) temsil eden Gürün, sadece karayolu ulaşım ağı ile değil, akarsu ağı ile de coğrafi konumuna değer katmaktadır. Gürün'de yere düşen iki damla yağmurun, bir damlası Fırat yoluyla Hint Okyanusu'na diğeri Kızılırmak ve Ceyhan ırmaklarıyla Atlas Okyanusu'na karışır. Suçatı beldesinde Gökpınar ve Sazcağız sularını da alarak, Malatya sınırında Kangal Tohması ile birleştikten sonra Fırat nehrine karışan Tohma Çayı ve Ceyhan nehrine karışan Akdere (Hurman) Çay'ı ilçenin en önemli akarsularıdır. Gökpınar, Aygır ve Uyuzpınar gölleri de ilçe sınırları içerisinde yer almaktadır. Etrafı dağlarla çevrili vadi şehir Gürün'de her ne kadar karasal iklim hakim olsa da Sivas genelinde mikro klime iklim özelliklerini göstermektedir. İlçede, arazi genel olarak çıplak bir görünümdedir. Susuzluğa dayanabilen keven, sığırkuyruğu, çoban döşeği, kekik, solucan çiçeği, kep ışkını (dağ muzu), yavşan ve kangal adı verilen bazı dikenli bitkiler yetişmektedir.  Akarsu boylarında ise kavak, söğüt ve meyve ağaçları görülür. Gürün ilçesi ve köyleri bir zamanlar ormanlarla kaplı iken bugün bazı köylerde, küçük gruplar halinde ardıç, alıç, meşe ve çam ağaçlarına rastlanmaktadır. Günümüzden 345 milyon yıl önce yaşanan birinci zaman (paleozoik)da deniz, 65 milyon yıl önce yaşanan 3. zaman (neozoik)da göller altında olan ilçe bugünkü coğrafi durumunu 2 milyon yıl önce (kuaterner) kavuşmuştur.