27 Mayıs 1332 tarihinde Tunus'ta doğdu. Asıl adı Abdurrahman, babasının adı Muhammed'dir. Genellikle dedesi Haldun'un adıyla İbni Haldun (Haldun oğlu) diye tanınmıştır. Yirmi yaşındayken, Tunus'un yönetimini elinde bulunduran Beni Hafs hanedanından Sultan Ebu lshak'ın kâtipliğine getirilmesiyle İbni Haldun'un çalkantılı siyasal yaşamı başlamış oldu. Bunu, Biskra, Fas, Gırnata, Bicaye, Tlemsen gibi merkezlerdeki benzer görevleri izledi.

Bir ara Fas Emin Ebu İnan onu bilim meclisine kabul etti. Bu görevdeyken siyasal bir nedenle hapsedildi. İki yıl sonra yönetime getirilen Ebu Salim onu önce sırkatibi, ardından da mezalim dairesi başkanı yaptı. 1362'de İspanya'ya geçerek eski bir dostu olan Gırnata Emiri Ebu Abdullah Muhammed'in hizmetine girdi. Bir yıl sonra emir onu Castilla Kralı Zalim Pedro nezdinde elçi olarak görevlendirdi. Bir süre sonra Gırnata emirinden izin alarak Kuzey Afrika'ya dönen İbni Haldun, Bicaye'de, çok istediği haciplik (başvezirlik) makamına kavuştu; bu arada bir yandan da öğretim faaliyetlerini sürdürdü.

Siyasal yaşamdan çekildiği dönemlerde adını tarihe geçiren 7 ciltlik dünya tarihi Kitâbu'l-İber ve onun giriş kitabı olarak düşündüğü Mukaddime'yi yazdı. Eseri, Arap dünyasında etki yaratmasa da Osmanlı tarih anlayışını derinden etkiledi. Başta Katip Çelebi, Naima ve Ahmet Cevdet Paşa olmak üzere Osmanlı tarihçileri Osmanlı Devleti'nin yükseliş ve çöküşünü pek çok defa onun teorileriyle analiz etti. Arap dünyasında yeniden keşfedilmesi ancak Arap milliyetçiliğinin gelişmeye başlaması ile oldu. 19. yüzyıldan itibaren ise Avrupalı tarihçiler tarafından keşfedildi ve eserleri büyük takdir gördü. Öyle ki Toynbee, aradan geçen yüzyıllardan sonra onun için şöyle dedi: "Herhangi bir zamanda, herhangi bir ülkede, herhangi bir zihin tarafından yaratılmış en büyük tarih felsefesinin sahibi".