Mezuniyetinin ardından, yedi ay boyunca St. Louis'de bulunan bir akıl hastanesinde çalışan Ramis, 1976-1977 yılları arasında Second City TV adlı bir tv şovunda pek çok farklı karakteri canlandırarak şov dünyasına adım attı. 1981yılında, Russell Ziskey karakterini canlandırdığı Stripes adlı sinema filmi, oyuncunun ilk beyazperde deneyimi oldu.
Harold Ramis'e kariyerinin en büyük başarısını getiren yapım, 1984 tarihini taşıyan Ghostbusters oldu. Dr. Egon Spengler kariyerini canlandırdığı film, American Box Office tarafından yılın en çok kazandıran komedi filmi olarak gösterildi. Serinin devam filmi olan Ghostbusters II, 1989 yılında vizyona girdi.
Oyunculuğunun yanı sıra yönetmen ve senaryo yazarı olarak da başarılı bir kariyere sahipolan Ramis'in eleştirmenlerce baş yapıtı olarak görülen 1993 tarihli komedi filmi Groundhog Day, Bill Murray ve Andie MacDowell'ın başarılı oyunculukları ve senaryonun sürükleyiciliği sayesinde Bravo] dergisi tarafındanTarihin En Komik 100 Filmi listesinde 32. sırayı kazandı. Harold Ramis, filmde ufak bir sahnede rol alarak nörolog rolünü canlandırdı.
2000'li yıllarda Knocked Up, Orange County, Year One gibi pek çok filmde yan rollerde rol alan başarılı oyuncu, aynı zamanda başarılı televizyon komedisi The Office'in bazı bölümlerinin yönetmenliği yaptı ve 2009 yılında piyasaya çıkanGhostbusters: The Video Game adlı bilgisayar oyununun senaryosunu yazdı.
Anne Plotkin ile uzun yıllar evli kalan Harold Ramis, eski eşinden boşandıktan sonra, 7 Mart 1989 tarihinde Erica Mann ile dünya evine girdi. Çiftin Julian veDaniel adlı iki çocukları bulunuyor. Ünlü aktörün gelecekteki projeleri arasında,2011 yılında vizyona girmesi beklenen Ghostbusters III de bulunmakta.
