Aslen Horasanlı'dır; Ebû Ca'fer el-Mansûr'un yeğeni Îsâ b. Mûsâ'nın yakın adamlarındandı. Halife Mehdî-Billâh döneminde (775-785) Musul'da ayaklanarak nüfuzunu el-Cezîre'nin geniş bir bölgesine yayan Hâricî Yâsîn el-Mevsılî et-Temîmî'nin üzerine gönderildi ve isyanı bastırdı. Daha sonra Halife Hâdî-İlelhakk'ın güvenilir adamlarından oldu. Rivayete göre Hâdî öz kardeşi Hârûn'u öldürmesi için Herseme'yi görevlendirdi; ancak bu girişim anneleri Hayzürân'ın müdahalesiyle önlendi.
Herseme, Hâdî'nin ölümünden (170/786) sonra hapisten çıkarılıp halife yapılmasında rol oynadığı Hârûnürreşîd'in güvenini kazandı ve bu sayede önemli görevlere getirildi. Önce Filistin valiliğine tayin edilen ve sahipleri tarafından çeşitli sebeplerle terkedilmiş toprakların yeniden işlenmesini sağlaması istenen Herseme, toprak sahiplerini ve kiracıları daha az haraç alacağını ve kendilerine iyi davranacağını söyleyerek ikna etti. Ardından Bizanslılar'ın Tarsus'a asker yerleştirdiklerini öğrenen halife onun kumandasındaki bir orduyu buraya gönderdi ve şehrin onarılmasını emretti (171/787-88); daha sonra da İfrîkıye valiliğine tayin ederek Berberî isyanlarını bastırmakla görevlendirdi (179/795). Bermekîler'in tutuklanmasında da rol oynayan Herseme böylece Hârûnürreşîd'in en önemli emîrlerinden biri oldu ve Buharalılar'ın 193'teki (809) isyanlarını bastırmasının ardından azledilen Râfi' b. Leys'in yerine Horasan valiliğine getirildi.
Herseme, Emîn ile Me'mûn arasındaki mücadelede Me'mûn'un tarafını tuttu. 196 (811-12) yılında Me'mûn'un emriyle Hulvân'a giderek Tâhir b. Hüseyin'den ele geçirdiği şehir ve bölgelerin idaresini teslim aldı. Aynı yılın zilhicce ayında, Ahvaz'da görevlendirilmiş olan Tâhir b. Hüseyin ve Züheyr b. Müseyyeb'le birlikte Emîn'i Bağdat'ta kuşattı. Şehrin mâruz kaldığı bu zorlu kuşatma sebebiyle Emîn'in durumu gittikçe kötüleşiyordu; nihayet halifelikten çekileceğini bildirerek kardeşi Me'mûn ile arasında uzlaşma sağlaması için Herseme'den arabuluculuk yapmasını istedi. Herseme bu teklifi kabul etti; Emîn de onunla buluşmak üzere yola çıktı. Ancak bunu haber alan Tâhir b. Hüseyin Emîn'i yakalatıp öldürttü (198/813).
Me'mûn döneminde devleti on ay kadar uğraştıran ve güçlü kumandanları yenilgiye uğratan Ebü's-Serâyâ eş-Şeybânî, Sarsar nehri kıyısında Herseme tarafından bozguna uğratıldıktan sonra Kûfe'de muhasara edildi ve 16 Muharrem 200 (26 Ağustos 815) tarihinde şehirden ayrılmak zorunda bırakıldı (İA, IX, 107). Ancak Herseme'nin bu başarısı Irak'ta huzuru sağlamaya yetmedi. Me'mûn'un hilâfet merkezi olarak Merv'i seçmesi ve İran asıllı kişilerin yönetimde etkili olmaları özellikle Bağdat halkının ve ordunun tepkilerine yol açmış ve yer yer ayaklanmaya dönüşen bu tepkiler ülkeyi bir iç savaşın eşiğine getirmişti. Merkezî otoritenin sarsıldığı açıkça görüldüğü halde Vezir Fazl b. Sehl ülkedeki karışıklıkları halifeden gizliyordu. Bütün bunların farkında olan Herseme, o sırada Suriye ve Arabistan valiliğine tayin edilmesine ve Mecûsî dediği Fazl b. Sehl'in kendisini engelleyebileceğinden endişe duymasına rağmen Me'mûn'a gerçekleri açıklamak üzere Merv'e gitti ve ona olup biteni anlattı. Ancak Fazl b. Sehl'in etkisi altında bulunan halife tarafından iyi karşılanmadı ve hakarete mâruz kalıp hapse atıldı; birkaç gün sonra da öldürüldü (Zilkade 200/Haziran 816).
Kaynak: Türkiye Diyanet Vakfı İslam Ansiklopedisi