urodził się 2 marca 1930 roku w mieście Seredina-Buda w obwodzie sumskim Ukraińskiej Republiki Radzieckiej. Dysydent i obrońca Praw Człowieka.  Członek, a od 1990 wiceprezes Stowarzyszenia „Memoriał” zajmującego się pamięcią i rehabilitacją ofiar represji politycznych w ZSRR. Poseł do Dumy Państwowej Federacji Rosyjskiej pierwszych trzech kadencji (1993-95, 1995-99, 1999-2003).
W 1954 ukończył fakultet biologiczny Uniwersytetu Moskiewskiego (MGU) na kierunku „Fizjologia człowieka i zwierząt”. Kandydat nauk biologicznych, autor przeszło 60 publikacji naukowych. W latach 1954-60 pracownik naukowy katedry fizjologii Uniwersytetu Moskiewskiego, potem, w latach 1961-74, zatrudniony kolejno w Instytucie Biofizyki Akademii Nauk ZSRR, laboratoriach i stacjach naukowo-badawczych.
Działalność społeczną podjął w 1956, gdy w naukach biologicznych rozpoczął się opór wobec obowiązujących teorii Trofima Łysenki. Był jednym z sygnatariuszy listu do fakultetu biologicznego MGU o przywrócenie genetyce statusu dyscypliny naukowej. Od 1967 zaczął aktywnie działać w ruchu dysydenckim, stając się w 1969 członkiem Grupy Inicjatywnej dla  Obrony Praw Człowieka w ZSRR i bliskim przyjacielem Andrieja Sacharowa. W roku 1974
w wyniku nieustannych represji Grupa zmuszona została do zaprzestania działalności. Członkowie grupy byli twórcami i redaktorami biuletynu „Kronika Zdarzeń Bieżących”, wydawanego w podziemiu w latach 1968-82. Od września 1974 Siergiej Kowaljow jest członkiem radzieckiego oddziału Amnesty International.
W grudniu 1974 został aresztowany w Wilnie, a w rok później skazany za „propagandę i agitację antysowiecką” na siedem lat łagru o zaostrzonym reżimie i trzy lata zsyłki.
W więzieniu, obozach pracy w obwodzie permskim i na zesłaniu na Kołymie przebywał do roku 1984. W 1987 współtworzy Grupę Projektową Praw Człowieka przy Międzynarodowej Fundacji na Rzecz Przetrwania Rozwoju Ludzkości i klub prasowy „Głastnost”.
Po rozpadzie Związku Radzieckiego angażuje się w oficjalną politykę. W 1990 zostaje w pierwszej turze wybrany posłem Republiki Federacji Rosyjskiej. W latach 1990-94 przewodzi delegacji rosyjskiej w Komisji Praw Człowieka ONZ w Genewie. Współtworzy Deklarację Praw Człowieka i Obywatela. Od 1993 był członkiem Rady Prezydenckiej i delegacji rosyjskiej w Zgromadzeniu Parlamentarnym Rady Europy.
Jako przyszły doradca prezydenta Jelcyna przeciwstawiał się zaangażowaniu militarnemu Rosji w Czeczenii, a później tendencjom autorytarnym za rządów Borysa Jelcyna i Władimira Putina. W 1995 z kilkoma innymi posłami został dobrowolnym zakładnikiem oddziału Szamila Basajewa w czasie jego terrorystycznej akcji w Budionowsku, negocjując warunki uwolnienia ponad tysiąca zakładników.
Jest laureatem licznych międzynarodowych nagród i doktoratów honorowych. Jako obrońca praw człowieka był trzykrotnie nominowany do Pokojowej Nagrody Nobla. W Polsce w roku 2001 wyróżniony został przez „Gazetę Wyborczą” tytułem „Człowieka Roku”, a 2008 otrzymał Nagrodę Jana Nowaka-Jeziorańskiego.