Kuzey Afrika'da Kayrevan'a bağlı Kirkint köyünde doğdu. 130 yıl kadar yaşadığı ve 373'te (983) vefat ettiği dikkate alınırsa yaklaşık 243'te (857) doğduğu söylenebilir. Kayrevânî nisbesiyle de anılır. Babasının adı kaynaklarda Sellâm, Selâm, Sâlim, Selmân, Selâme gibi farklı şekillerde kaydedilir.
Tahsiline Mağrib'de başlayan, avcılık ve biniciliğe özel bir ilgi duyan Ebû Osman daha sonra Kahire ve Dımaşk'a giderek Habîb el-Mısrî, Ebü'l-Hayr el-Akta', İbnü's-Sâî ve Ebû Ali İbnü'l-Kâtib gibi ünlü sûfîlerin meclislerine katıldı. Bu şehirleri şeyhi Ebü'l-Hayr el-Akta' ile (ö. 342/953) birlikte gezmiş olması da muhtemeldir. Çünkü aslen Mağribli olan Ebü'l-Hayr da aynı yerlerde bulunmuştur.
Attâr, Ebû Osman'ın yirmi yıl süreyle çöllerde inzivâ hayatı yaşadığını, daha sonra Hak'tan gelen hitap üzerine Kâbe civarında yaşayan iyi insanlarla birlikte bulunmak için Mekke'ye gittiğini kaydeder.
Ebû Osman Mekke'de yaşayan şeyhlerle tanışıp sekr* ve sahv konularında onlarla sohbet etti. Burada mâruz kaldığı celâl* tecellîlerinin verdiği acıları yaşadı. Bu dönemde ona hâkim olan şey Allah korkusu olduğundan hiç yüzü gülmemiş, her zaman hüzünlü ve kederli görünmüştür. Bu arada Mekke'de hâkimiyet kuran Şiîler kendisine eziyet ve iftira etmiş, onu baskı altında tutmuştur. Mekke'den Şiîler tarafından sürülünce Bağdat'a giden Ebû Osman burada bir yıl kaldı. Bir süre Rey'de oturduktan sonra Nîşâbur'a yerleşti. Kaynaklarda açıkça zikredilmemekle beraber Mekke'den sonra gittiği yerlerden de ayrılmak zorunda bırakıldığını ima eden ifadeler mevcuttur. Ebû Osman'ın Ali el-Kavvâl'e, "Bizim kabz halimiz Hicaz'da idi, burada bast halindeyiz" demesinden Nîşâbur'da rahat bir hayat yaşadığı anlaşılmaktadır. Bununla beraber Nîşâbur'da iken de çok defa yalnızlığı tercih ettiğine, her zaman camiye gitmediğine bakılacak olursa kalabalıktan ve toplum hayatından fazla hoşlanmadığı anlaşılır.
Nîşâbur'da vefat eden Ebû Osman'ın cenaze namazı Eş'arî kelâm âlimi İbn Fûrek tarafından kıldırılmış ve ünlü sûfî Ebû Osman el-Hîrî'nin kabrinin yanına defnedilmiştir.
Kaynak: Türkiye Diyanet Vakfı İslam Ansiklopedisi