İlk ve orta öğrenimini Trabzon'da tamamlayarak 1944 yılında Trabzon Lisesi'nden mezun olan Karaduman, Ankara Üniversitesi Siyasal Bilgiler Fakültesi'nin İdari Şubesi'ni bitirdikten sonra kaymakamlık mesleğine girdi.

Necmettin Karaduman 1960 yılına kadar çeşitli ilçelerde kaymakamlık yaptı. Aynı yıl Mülkiye Müfettişliği'ne atandı. Bu görevi beş yıl sürdü. 1966 yılı Ocak ayında Kahramanmaraş Valiliği'ne atandı. Kahramanmaraş'tan sonra Erzurum ve İçel valiliklerinde bulunan Karaduman 1977 yılında kendi isteği ile emekliye ayrıldı.

Emekliye ayrıldıktan sonra İstanbul'da bir şirketin Yönetim Kurulu Üyeliği ve Genel Müdürlüğünü yürüten tecrübeli devlet adamı yaptı. 6 Kasım 1983 ve 29 Kasım 1987 tarihlerinde yapılan genel seçimlerde iki dönem Trabzon Milletvekili seçildi.

Necmettin Karaduman 4 Aralık 1983 ve 12 Eylül 1985 tarihlerinde de iki dönem TBMM başkanlığına seçildi.