Elazığ'ın doğusunda yer alan ilçe il  merkezine yaklaşık 65 km.  uzaklıktadır. 1987 yılında ilçe olmuştur.  İlçeye bir teşkilatsız bucak ile 76 köy bağlıdır. Bingöl Elazığ karayolunun Tunceli karayolu ile kesiştiği kavşakta yer alan ilçe düz ve geniş bir ova üzerine kurulmuştur. Yerleşim alanı genellikle yol boyunca uzanmaktadır.

Palu ilçe merkeziyle birlikte batı, güney ve kuzeyi Keban Baraj Gölü ve Murat nehri ile çevrili olan KOVANCILAR ilçesi adeta bir yarımada görünümündedir. Kovancılar ilçesi temelinde alüvyonlar bulunmaktadır. 1. derecede riskli deprem bölgesinde yer alan ilçe Doğu Anadolu Fay Zonu üzerinde bulunmaktadır.

Ekonomisi genelde tarıma dayalı olan  ilçede,  son yıllarda endüstri bitkileri de yetiştirilmektedir. İlçe hudutları içerisinde ETİ Holding Genel Müdürlüğüne bağlı ETİ-KROM A.Ş. Genel Müdürlüğü bulunmaktadır.

Elazığ'ın büyük bir hızla gelişmekte olan bu ilçesinin bugün bulunduğu yer 1934 yılından önce boş ve çorak bir araziden ibaretti. 1934 yılında Romanya'dan 300 hanelik bir soydaş kafilesinin bu bölgede iskan edilmesi planlanmış, 1935 yılında Devlet tarafından mahalli tarzda evler yapılarak söz konusu göçmen kafilesi buraya yerleştirilmiştir. Buraya yerleştirilen göçmen kafilesi için 1934 yılında Romanya'nın 1941 den sonra Bulgaristan'ın Silistre vilayetinin Tutrakan ilçesi Kovancılar köyünden Anavatana göç kararı alındı. Köstence Limanından İstanbul'a gelen soydaş kafilesi bu günkü Kovancılar ovasına gönderilerek civar köylere misafir olarak dağıtıldı.1935 yılı baharında zamanın valisi Tevfik GÜR tarafından Kovancılar'ın temeli atıldı. Türk vatandaşlığına geçirilen Balkan Türkleri çevre köyler halkının desteği ile Kovancılar ovasının batı kısmında yapılan 280 haneli evlere yerleştirildiler. Bu dönemde Çakırkaş ve Şenova köylerine aynı bölgeden gelen Türkler yerleştirildi.Buraya yerleştirilen göçmenler Romanya'daki köylerinin ismini bu köye ad olarak vermişlerdir. Böylece bu yeni yerleşim yerinin adı KOVANCILAR olmuştur.  

T.C. tarihinin ilk planlı köyü olma özelliğine sahip olan bu yerleşim yeri çalışkan vatandaşlarımız sayesinde hızla gelişmiş ve 1967 yılında belediye teşkilatı kurularak 19.09.1988 tarihinde 3352 sayılı kanunla Elazığ'a bağlı bir ilçe olmuştur.