Güneybatı Gürcistan'daki Ahıska’da doğdu. Asıl adı; Ali Haydar’dır. 1926’da Ankara İstiklal Mahkemesi’ndeki sorgulaması sırasında altmış yaşında olduğunu belirtmesi dikkate alınarak 1866’da doğduğu söylenebilir. İki yaşında iken annesi, dört yaşında da babası Şerif Efendi vefat etti. İlk tahsilini o zaman Rusya'ya bağlı olan Ahıska’da yaptıktan sonra 1894’te Erzurum'a gidip Bakırcı Medresesi’nde bir süre ders gördü.
Daha sonra İstanbul’a gitti ve Beyazıt dersiâmlarından Çarşambalı Hoca Ahmed Efendi’nin Fâtih Camii’ndeki derslerine devam ederek icâzet aldı. Ders Vekâleti tarafından yapılan imtihanı kazanarak dersiâm oldu ve Fâtih Camii’nde ders vermeye başladı. 1905 yılında kendisine 95 kuruşluk müderrislik maaşı bağlandı. Bu yıllarda bir yandan da Mekteb-i Nüvvâb’a (bazı kaynaklarda Medresetü’l-kudât'a devam ederek dördüncü sınıf şehadetnâmesi aldı. 1909’da fetvahâne ikinci sınıf müsevvid ligine, ertesi yıl birinci sınıf müsevvid lige yükseltildi.
Yine aynı yıl İbtidâ-i Hâric Medresesi İstanbul müderrisliğine getirildi. 1914’te 400 kuruş maaşla Sahn Medresesi fıkıh müderrisliğine, ertesi yıl fetvahânede teşekkül eden Te’lîf-i Mesâil Heyeti reisliğine tayin edildi. Bu görevi esnasında Mecelle’yi tamamlamak için kurulan heyette görev alarak bu eserin “Kitabü’l-Büyuʿ” ve “Kitabü’l-İcâre” bölümlerinin hazırlanmasına katkıda bulundu. 1916-1919 ve 1922-1923 yılları arasında önce muhatap, daha sonra da baş muhatap olarak huzur derslerine katıldı.
Medresedeki tahsil döneminde tasavvufa karşı olan Haydar Efendi, bir ramazan ayında cer için gittiği Bandırma’da Şeyh Bezzâz Ali Efendi’yle tanışarak kendisine intisap etmek istemiş, o da İstanbul’da Hacı Ahmed Efendi’ye gitmesini tavsiye etmiştir. Hacı Ahmed Efendi ise onu Topkapı’da ikamet eden Ali Efendi’ye göndermiştir.
Tarikat silsilesi Ali Efendi, Halil Nurullah Efendi, Mustafa İsmet Yanyavî ve Abdullah Mekkî vasıtasıyla Hâlid el-Bağdâdi'ye ulaşan Haydar Efendi, 1914’te Ali Rıza Efendi’nin vefatı üzerine Sultan Selim Camii yakınında bulunan İsmetullah Efendi Dergâhı’na şeyh oldu. Ancak Meclis-i Meşayih, Tokat mebusu Şeyh Mustafa Hâki Efendi’yi bu göreve tayin etmişti. Bu durum karşısında Ali Rıza Efendi’nin Haydar Efendi’yi halife bıraktığını söyleyen müridler Mustafa Hâki Efendi’nin meşihatını kabul etmediler. Tekke mensuplarından Hâfız Halil Sami Efendi’nin 15 Muharrem 1338
(10 Ekim 1919) tarihli arızasının padişah tarafından gereğinin yapılması isteğiyle şeyhülislâma havale edilmesi üzerine beş yıl sonra tekkenin şeyhliği kendisine teslim edildi. Haydar Efendi’nin buradaki şeyhliği tekkeler kapatılıncaya kadar ''1925'' devam etti.
Cumhuriyet’in ilanından sonraki dönemi hapiste ve göz altında geçiren Haydar Efendi, İskilipli Mehmed Atıf Efendi ile birlikte İstiklal Mahkemesinde yargılandı.
Haydar Efendi, kısa süren bir rahatsızlıktan sonra 1 Ağustos 1960 tarihinde Fatih Çarşamba’daki evinde vefat etti. Fâtih dersiamlarından olduğu için Fâtih Camii hazîresine defnedilmek istendiyse de askeri yönetimce buna izin verilmedi. Cenaze namazı Yavuz Sultan Selim Camii’nde vasiyeti uyarınca Mahmut Sami Efendi tarafından kıldırıldı ve Edirnekapı’da Sakızağacı Mezarlığı’na defnedildi.
Hasib Efendi, Alvarlı Muhammed Lütfi Efendi, Mahmut Sami Ramazanoğlu ve Mehmet Zahit Kotku gibi Hâlidi şeyhlerinden hürmet gören Haydar Efendi’nin Hüsrev Efendi, İstanbul müftüsü Ömer Nasuhi Bilmen ve Şeyhülislâm Mustafa Sabri Efendi’yi sevip takdir ettiği belirtilmektedir. İlme ve ibadete önem veren Haydar Efendi, sert mizaçlı bir kişiliğe sahipti. Haydar Efendi'nin silsilesi halifelerinden Mahmut Ustaosmanoğlu tarafından sürdürülmektedir.
