Сергей Шереметев родился 24 марта 1836 года в семье бывшего декабриста Алексея Васильевича Шереметева и его супруги Екатерины Сергеевны.

Закончил школу гвардейских подпрапорщиков и кавалерийских юнкеров. В 1853 году поступил на службу корнетом в Гусарский Его Императорского Высочества Великого Князя Константина Николаевича полк. Спустя время Сергей Алексеевич был переведен в Нижегородский драгунский полк, в 1854 году назначен поручиком.

В 1855 году Сергей Шереметев состоит при Главнокомандующем Отдельным Кавказским корпусом и участвует в следующих делах и движениях главного Александропольского отряда: штурм русскими частями крепости Карса и сдача ее с полным вооружением, роспуск Александропольского отряда на зимние квартиры.

В 1856 году Сергей Алексеевич зачислен по армейской кавалерии, с назначением состоять для Особых поручений при Главнокомандующем Кавказской армией.

В 1858 году Шереметов находился в экспедиции Лезгинского отряда. За проявленные подвиги и мужество награжден орденом Святого Георгия 4-й степени. В 1859 году Сергей Шереметов

находился под личным начальством Главнокомандующего Кавказской армией в отряде на левом крыле Кавказской линии. Принимал участие в многочисленных движениях против горцев. В том же году назначен флигель-адъютантом к Его Императорскому Величеству и переведен в лейб-гвардейский Конно-гренадерский полк. С марта 1859 года становится штабс-ротмистром.

В 1860 году Сергей Алексеевич принимал участие в военных действиях главного Шапсугского отряда. Затем участвовал в занятиях по устройству Абадзехской кордонной линии. В том же году был переведен в Кубанское казачье войско подполковником. За отличие в действиях с горцами награжден золотым оружием с надписью «За храбрость» и орденом Святого Станислава 2-й степени с мечами.

Вскоре Сергей Шереметев был назначен командиром 13-го полка Кубанского казачьего войска, а в 1863 году назначен командующим. В 1864 году Шереметев — командир Собственного Его Величества конвоя с производством в полковники.

В апреле 1872 года Сергей Шереметев произведен в генерал-майоры, с назначением в Свиту Его Величества. В августе 1876 года назначается командующим Сводной казачьей дивизией. В 1877 году Сергей Алексеевич находится в составе действовавшего

корпуса на Кавказско-турецкой границе. За отличие, оказанное при взятии Ардагана, в мае награжден орденом Святой Анны 1 степени с мечами. А за особое отличие в делах против турок награжден орденом Святого Владимира 2 степени с мечами.

Спустя время, Шереметев назначен начальником Сарыкамышского, затем частей Эрзурумского отрядов, и, наконец, командующим 1-й Кавказской артиллерийской дивизией. В том же году за отличие в действиях против турок произведен в генерал-лейтенанты. В 1879 году назначен начальником 2-й Кавказской кавалерийской дивизии и генерал-адъютантом к Его Императорскому Величеству. В 1882 году назначен начальником Кубанской области и наказным атаманом Кубанского казачьего войска.

В 1884 году Сергей Шереметев был назначен помощником Главноначальствующего гражданской частью на Кавказе и командующего войсками Кавказского военного округа. В 1890 году занимает пост Главноначальствующего гражданской частью на Кавказе и командующего войсками Кавказского военного округа.

В декабре 1896 года по причине болезни Сергей Шереметев был уволен по прошению от занимаемых должностей и назначен членом Государственного совета.

Спустя неделю скончался на 61-м году жизни.

Сергей Шереметов был похоронен в крипте Троицкой церкви Саввино-Сторожевского монастыря в Звенигородском уезде Московской губернии.

Числился по гвардейской кавалерии, был почетным стариком по станицам Ессентукской (Терское казачье войско) и Баталпашинской (Кубанское казачье войско).

Сергей Алексеевич был женат на княжне Евдокии Борисовне Голицыной, дети — Борис и Алексей.