Çüngüş ilçesinde yörenin dağlık olması, verimli topraklarının bulunmaması ve ulaşım zorluğu gibi nedenlerle yerleşim tarihi çok eskilere uzanmamaktadır. Yörede ilk belirli hareket 1040 yılında Türkmen boyları tarafından yapılan akınlarda görülmeye başlanmıştır.

Çüngüş 1183 tarihinde Artukluların eline geçmiş ve Hindistan’a giden İpek Yolu güven altına alınmıştır. 1475 yılında ilçede Tekkale, Kömeağaç, Pegler adında üç mahalle kurulduğu ve manastır yapıldığı kayıtlardan anlaşılmaktadır.

Çüngüşte devlet otoritesini sağlayan Kapıkıran Mehmet Ali paşa yöreyi Çün-Guş tutarsız olarak nitelemiş ve yöreye bu adın verilmesine sebep olmuştur.Yörede daha çok Ermenilerin yaşadığı bilinmektedir. Ancak Ermeni isyanlarından sonra Ermenilerbölgeden ayrılarak Lübnan tarafına göç etmişlerdir.

İlçemiz 1880 tarihinde Elazığ İli Siverek Sancağına bağlı bir bucak yapılmıştır. 1883 tarihli Diyarbakır Salnamesindeki kayıtlardan Çüngüş'ün Ergani-Maden Sancağına bağlı Çermik ilçesinin bir bucağı olduğu anlaşılmaktadır.Daha sonraları Balkan ve Birinci Dünya Savaşları nedeni ile nüfus azalmasından dolayı köy durumuna düşen Çüngüş çevre şartları ve günün getirdiği ihtiyaçlar üzerine 1953 yılında ilçe haline getirilmiştir.

Diyarbakır, Malatya, Elazığ ve Adıyaman İllerinin sınır kesişim noktasında bulunan ilçe Diyarbakır'a 117 Km. uzaklıkta olup, köklü bir kültürel geçmişe sahiptir.

Çüngüş'ün tarihi Türklerin Anadolu'yu yurt edinmek için başlattıkları akınlarla başlar. Çünkü yörenin dağlık ve engebeli oluşu, ulaşım zorluğu ve verimli toprakların azlığı nedeniyle insanların ilgisini çekmemiş bu nedenle ilçe tarihinin çok eskilere gitmediği görülmektedir.

Türkiye tarihi kaynaklarına göre 1040 yıldan itibaren yapılan Türkmen boylarının akınlarından sonra Çüngüş yöresinde hareketlilik görülmüştür. Türkmenler Çüngüş bölgesine zamanla yerleşmiş burada bulunan yerli halkla bütünleşerek yaşamlarını sürdürmüşlerdir. (Süryani, Süryeli Misel Malatya Patriğidir. Anadolu'ya ve bilhassa Malatya, Adıyaman ve bugünkü Fırat havzasına yapılan Türk akınları hakkında yazdığı eserinde geniş yer vermiştir.)

Çüngüş 1085 Yılında Diyarbakır bölgesine egemen olan Büyük Selçuklu devletinin etki alanı içine girmiş daha sonra yöre Suriye Selçuklularının topraklarına katılmıştır. Bugünkü Çüngüş yöresi 1183 yılında Güneydoğuda hakimiyet kuran ve ilk Türk beyliklerinden sayılan Artukluların egemenliği altına girmiştir. Çüngüş bu sıradaki konumu nedeniyle ipek yolu üzerinde bulunduğundan gün geçtikçe önemi daha da artmıştır. Hatta Artuklular Çüngüş'ün konumu nedeniyle ipek yolunun önemli bir kısmım güvence altına almışlardır, İpek yolu üzerinde bulunması yöreyi cazip hale getirmiş yapılan İmar faaliyetleri, küçük çaplı imalathaneler sayesinde yöreye canlılık gelmiş nüfus artmıştır.

Çüngüş kasabasının Osmanlı Devletinin ilk dönemlerinde Kale, Pekler ve Kömağaç yerleşimlerinin birleştirilmesiyle kurulduğu tarihi kaynaklardan anlaşılmaktadır. Şemsettin Samı, Kamusül Alanı' da Çünguş'ten, Diyarbakır vilayetinin Ergani Madem sancağının Çermik kazasına bağlı bir bucak olarak söz eder.

1518’ de tutulan ilk Osmanlı tahrir defterinde Diyarbakır eyaletinin on iki sancağı kayıtlıdır. Ergani Madem Sancağı da bunlardan biridir.

1596 Yılında yanındaki maiyeti ile birlikte Çüngüş'e gelen Osmanlı Paşası Kapıkıran Mehmet Alı Paşa yörenin kalkınması için büyük çaba sarf etmiş dağınık Çüngüş yerleşmesine son vererek toplu bir şehir gömmüşü kazandırmıştır. Mehmet Alı Paşa yöredeki yerli ermeni ve Türklerle bütünleşmiş yaptığı çalışmalarla yörede içme suyu ve ulaşım şebekesinin temelini atmıştır.

Yöredeki bir çok yerleşim biriminin isminin Ermenice oluşu Ermenilerin Türklerle uzun süre beraber yaşadıklarını göstermektedir. (Eylos, Ağut, Arguna gibi)

Kurtuluş savaşı ve Cumhuriyetin ilk yıllarında nüfusu iyice azaldığı için köy statüsüne indirilen Çüngüş, 1934'te tekrar bucak statüsü kazanmış ve Diyarbakır iline bağlanmıştır. 3 Mart 1953 tarihli Resmi gazetede yayımlanan 6068 Sayılı Kanunla ilçe olmuştur.