Родился в 1811 году.

Генерал-лейтенант, Костромской губернатор, наказной атаман Кавказского линейного казачьего войска, сын генерала от инфантерии А.Я. Рудзевича.

Первое образование будущий атаман получил в Ришельевском лицее. В 1825 году поступил на военную службу в армейскую кавалерию. В 1828 году был произведен в офицеры и сразу же принял участие в русско-турецкой войне. За боевые отличия и личные качества был награжден орденом Святой Анны 3-й степени с бантом.

В 1831 году, как и многие его предшественники, Николай Рудзевич сражался с мятежниками в Польше, получил орден святого Владимира 4-й степени с бантом и золотую шпагу с надписью «За храбрость».

В 1844 году — командир Варшавского жандармского дивизиона. В 1845 году произведен в полковники. Через годы честной службы «за беспорочную выслугу 25 лет» в офицерских чинах получил орден святого Георгия 4-ой степени.

В 1853-1855 годах участвовал в Крымской кампании и был награжден орденами святого Станислава 1-ой степени с мечами и

святой Анны 1-ой степени с мечами за отличие против англо-французов. В 1855 году был произведен в генерал-майоры.

В 1857 году назначен наказным атаманом Кавказского линейного казачьего войска. До 1860 года участвовал в походах против горцев. В феврале 1860 года был произведен в генерал-лейтенанты.

После преображения войска (образование из Кавказского и Черноморского войск двух новых областей — Кубанской и Терской), Рудзевич был назначен в распоряжение главнокомандующего войсками в царстве Польском из-за разногласий с князем Барятинским.

В 1861 году назначен Костромским губернатором. Спустя пять лет зачислен по армейской кавалерии, с состоянием по Министерству внутренних дел, при котором числился до начала 1885 года. После этого переведен в запас, получив в 1878 году орден Белого Орла.

Скончался Николай Александрович Рудзевич в 1889 году, похоронен в Симферополе. Сын Николай стал действительным статским советником.