Selânik'te doğdu. Avukat Mehmed Tayfur Bey'in oğludur. İlk öğrenimini Gümülcine'de, orta öğrenimini Selânik İdâdîsi'nde tamamladı. İstanbul Hukuk Mektebi'nden mezun olduktan sonra (1909) Selânik Hukuk Mektebi'nde devletler hukuku ve malî kanunlar derslerini okuttu. Bu arada yazı işleri müdürlüğü ve başmuharrirliğini yaptığı Zaman gazetesini çıkardı. Balkan Savaşı sonucunda Selânik'in kaybedilmesi üzerine İstanbul'a döndü (1913). 1913-1916 yılları arasında Dârüşşafaka, Vefa ve Davud Paşa liselerinde edebiyat öğretmenliği yaptı. 1917'de Dârülfünun Edebiyat Fakültesi'nde Ural-Altay Dilleri Kürsüsü'nde Giese'nin yanında müderris muavini oldu. Giese'nin Almanya'ya dönmesiyle Nazariyyât-ı Edebiyye Kürsüsü'nde Ali Ekrem Bolayır'ın muavinliğini yaptı. Daha sonra yeniden lise hocalığına döndü ve 1928 yılına kadar Galatasaray Lisesi ile Erkek Muallim Mektebi'nde edebiyat tarihi dersleri okuttu. Latin harflerinin kabulü üzerine birçok kurumda yeni Türk harfleriyle ilgili dersler verdi. Daha harf inkılâbının ilânından önce 1928 yılı Mayıs-Ekim ayları arasında bu konuda bir dizi makale yayımlamıştı. Milliyet gazetesindeki bu yazılarıyla harf inkılâbını savunanların önde gelen isimlerinden biri oldu.
Yeni alfabenin öğretilmesi ve yaygınlaştırılması faaliyetlerinin ardından gramer çalışmalarına ağırlık veren İbrahim Necmi, 1931'de Gazi Terbiye Enstitüsü ve Mûsiki Muallimliği Mektebi'nde edebiyat öğretmenliğine tayin edilerek Ankara'ya yerleşti. 26 Eylül 1932'de Dolmabahçe Sarayı'nda toplanan I. Türk Dil Kurultayı'ndan sonra Türk Dili Tetkik Cemiyeti'nin (Türk Dil Kurumu) merkez kuruluna üye seçildi. Bir süre sonra da kurumun genel sekreterliğine getirildi (1933). Yine aynı yıllarda Maarif Vekâleti umumi müfettişliğine tayin edildi. 1935'te Burdur milletvekili olarak Türkiye Büyük Millet Meclisi'ne girdi. Türk Dil Kurumu genel sekreterliğiyle milletvekilliği görevi ölümüne kadar devam etti.
Harf inkılâbına yaptığı hizmetlerden dolayı Atatürk tarafından kendisine Dilmen soyadı verilen İbrahim Necmi, 1936'da Dil ve Tarih-Coğrafya Fakültesi'ne profesör olarak tayin edildi ve 1941 yılına kadar burada Güneş-Dil teorisinin esasları ve Tanzimat edebiyatı üzerinde durdu. Geçirdiği bir kaza üzerine kaldırıldığı Ankara Numune Hastahanesi'nde öldü (5 Mart 1945). Cenazesi İstanbul'a getirilerek Büyükada Mezarlığı'na defnedildi.
Köklü bir dil öğrenimi görmeyen ve dil konularına sonradan ilgi duymaya başlayan İbrahim Necmi, harf inkılâbının ardından başlatılan dili sadeleştirme ve tasfiyecilik hareketlerini şiddetle savunmuştur. Tasfiyecilik hareketinin dili bir çıkmaza soktuğunu gören Atatürk, "dünya dillerinin Türk dilinden doğmuş olabileceği" varsayımına dayanan Güneş-Dil teorisini ortaya atınca devrinin pek çok dilcisi gibi İbrahim Necmi de çalışmalarının hemen hemen tamamını bu teorinin ana hatlarının açıklanması ve öğretilmesine hasretti. Ancak Güneş-Dil teorisi ilmî bir esasa dayanmadığından konuyla ilgili olarak yapılan çalışmaların ve bu arada Dilmen'in dille ilgili eserlerinin de ilmî bir değeri olmadığı bilinmektedir.
Kaynak: Türkiye Diyanet Vakfı İslam Ansiklopedisi