Сергей Ковалев родился 15 августа 1919 года в Петрограде. В эвакуации окончил институт и был направлен в ЦКБ-18 (ныне ЦКБМТ "Рубин"), где работал конструктором, затем старшим конструктором. С 1948 по 1958 год в качестве помощника, затем заместителя и, наконец, главного конструктора руководил разработкой и постройкой подводной лодки проекта 617 с парогазовой турбинной установкой.
В 1958 г. Сергей Ковалев возглавил работы по созданию атомной подводной лодки проекта 658, и оставался главным, а с 1983 года - генеральным конструктором всех АПЛ и подводных крейсеров стратегического назначения, вооруженных баллистическими ракетами. В 1971 году приступил к проектированию тяжелого атомного подводного крейсера по проекту 941 "Акула". Всего по проектам С.Н. Ковалева построены 92 подводные лодки.