12 Ağustos 1844'te İstanbul'da doğdu. Babası gümrük memuru Mustafa Ferhad Efendi'dir. 1863'te Harbiye ve Erkân-ı Harbiyye Mektebi'nden mülâzım-ı sânî olarak mezun oldu. Piyade mülâzımlığıyla askerî hizmete girdikten sonra II. Abdülhamid'in maiyeti arasında yer aldı; Harbiye nâzırı yaverliğinde bulundu. Rumeli ve Sırbistan'da çeşitli askerî görevler yaptı. 1876-1877 Osmanlı-Sırp Harbi'nin ardından 1877-1878 Osmanlı-Rus Savaşı'na miralay rütbesiyle katıldı ve Dubnik çatışmasında başından yaralandı. Plevne muharebeleri sırasında Griviça mevkii kumandanlığında bulundu ve yararlılıklarından dolayı rütbesi livâlığa yükseltildi.
1877-1878 Osmanlı-Rus Harbi'nden sonra ferik rütbesiyle Kosova ve Üsküp valiliklerine getirilen Edhem Paşa, Arnavutluk'ta çıkan karışıklıklar sırasındaki etkili tedbirleri ve icraatları ile dikkatleri üzerine topladı. Üsküp'ten sonra Beyrut valiliğine tayin edildi; ardından Adana ve havalisi umum kumandanlığına getirildiyse de padişahı öfkelendiren bir hareketi üzerine kumandan olarak Halep'e gönderildi. Havran Vak'ası'nda Dürzîler'e, Zeytun olayında ise Ermeniler'e karşı kullanılan askerî kuvvetin kumandanlığını yaptı. Girit'te kumandanlığı sırasındaki davranışlarıyla olayların yatıştırılmasında rol oynadı ve Kostaki Antopolo Paşa'nın adada asayişi sağlamasında yardımcı oldu. Burada gösterdiği hizmetlerinden dolayı rütbesi müşirliğe yükseltildi (1895).
1897 Osmanlı-Yunan savaşı başlayınca Alasonya ordu kumandanlığından Osmanlı ordusu başkumandanlığına getirildi. Diğer kıdemli paşalar dururken Edhem Paşa'nın başkumandanlığa tayini gerek yurt içinde gerekse yabancı ülkelerde hayretle karşılandı. Emrindeki Osmanlı ordusu ile, Yunanistan'a karşı savaş ilân edilmesinin ertesi günü (18 Nisan 1897) Milona Savaşı'nı kazanan Edhem Paşa 25 Nisan'da Yenişehir'i, 12 Mayıs'ta Tırhala'yı ele geçirdi. 17 Mayıs'ta Dömeke Meydan Muharebesi'nde Yunanlılar'ı büyük bir bozguna uğrattı. Alman kurmaylarının "altı ayda geçilemez" diye rapor verdikleri Termopil Geçidi'ni 24 saatte aşarak Atina yolunu açtı. Muharebenin başından beri elde ettiği başarıların yanında gösterdiği sadakat ve cesaretinden dolayı "gazi" unvanına lâyık görüldü ve padişahın bir ihsanı olarak kendisine murassa' imtiyaz nişanı verildi.
Bu başarılardan sonra askerî teftiş komisyonu başkanı iken II. Meşrutiyet'in ilânı ile 1908'de Âyan Meclisi âzalığına getirilen Gazi Edhem Paşa, hastalığına rağmen II. Abdülhamid tarafından Otuzbir Mart Vak'ası'ndan (13 Nisan 1909) bir gün sonra kurulan Tevfik Paşa kabinesinde Harbiye nâzırlığına tayin edildi. Askerlerin Hareket Ordusu'na karşılık vermeden silâhı bırakmalarında büyük gayretleri görüldü. Bu görevinde ancak iki hafta kalabildi. Sağlığı bozulduğundan Mısır'a gitti ve çok geçmeden 17 Aralık 1909'da orada vefat etti. Cenazesi İstanbul'a getirilerek Eyüp'te defnedildi.
