Николай Кармалин родился в 1824 году в семье дворян Рязанской губернии.

Образование получил в 1-м Московском кадетском корпусе. После учебы ему было присвоено звание — прапорщик Московской лейб-гвардии полка.

В 1844 году был произведен в подпоручики. Чуть позже поступил в Николаевскую академию Генерального штаба и вскоре был пожалован чином поручика. В 1849 году окончил курс академии и за отличные успехи в науках получил чин штабс-капитана. После чего был командирован в главную квартиру действующей армии в Венгрии. Там, поступив в отряд генерал-адъютанта Граббе, принимал участие при осаде крепости Коморна.

В 1850 году был переведен в Гвардейский Генеральный штаб, а через год был назначен старшим адъютантом штаба Гвардейского пехотного корпуса по части Генерального штаба. В 1852 году был произведен в капитаны и переведен в штаб Главнокомандующего Гвардейским и Гренадерским корпусами наследника цесаревича Александра Николаевича.

Помимо основных должностных обязанностей, Кармалин дополнительно читал лекции по тактике для старших офицеров корпусов и состоял в должности адъюнкт-профессора Николаевской академии Генерального штаба.

Военная карьера Николая Кармалина развивалась достаточно стремительно:

1854 год — назначение дивизионным квартирмейстером 1-й легкой гвардейской кавалерийской дивизии. В то время Кармалин находился в составе войск, охранявших побережье Финского залива в Санкт-Петербургской губернии от возможной высадки англо-французского десанта.

1855 год — произведен в полковники, через год назначен исправляющим должность обер-квартирмейстера Гвардейского пехотного корпуса.

1857 год — вступление в должность начальника штаба 2-й гвардейской пехотной дивизии.

1859 год — перевод в Генеральный штаб с назначением исправляющим должность начальника штаба 3-го армейского корпуса.

1861 год — произведен в генерал-майоры.

В 1862 году, Николая Кармалина переводят на Кавказ в распоряжение командовавшего Кавказской армией. Там он временно

исправлял должность генерал-квартирмейстера действующей армии. Затем Николай Николаевич командовал войсками, расположенными на левом берегу реки Алазань, исправлял должность начальника Верхнего Дагестана. Вскоре

после этого Кармалин, за отличие в делах против горцев, был награжден орденом Святого Владимира 3-й степени с мечами. В 1865 году был утвержден в должности военного начальника Среднего Дагестана.

В 1869 году Кармалина назначают Эриванским военным губернатором и управляющим гражданской частью в губернии. Затем он был произведен в генерал-лейтенанты и награжден медалью и знаком отличия за участие в трудах по составлению и приведению в действие положения об освобождении зависимых сословий в горских обществах Дагестанской области.

14 июня 1873 года Николай Николаевич был назначен на должность начальника Кубанской области и наказного атамана Кубанского казачьего войска.

Во время русско-турецкой войны (1877-1878) Николай Кармалин командовал тыловыми войсками, расположенными в Кубанской области и Черноморском округе, пользуясь правами корпусного командира.

1882 год — становится членом Военного совета. Далее

произведен в генералы от инфантерии. В 1897 году получил бриллиантовый перстень при Высочайшем рескрипте с портретом Его Императорского Величества.

Не стало Николая Кармалина 23 июля 1900 года.

Николай Николаевич числился по Кубанскому казачьему войску и носил звание почетного старика станиц Полтавской, Брюховецкой и Баталпашинской. Помимо ордена Святого Владимира, Николай Кармалин был награжден орденами Святого Станислава 2-й, а затем и 1-й степени, орденом Святой Анны 1-й степени, Святого Владимира 2-й степени, Белого орла, Святого Александра Невского и Святого Владимира 1-й степени.