За яркий вокальный талант Сергей был направлен в ансамбль «Дружба» Дома Советской Армии. А в 1971 году он досрочно демобилизовался и отправился для дальнейшего обучения в Москву. В столице Сергей Захаров поступил в училище имени Гнесиных на курс Маргариты Ланда. В 1972 году он стал солистом Государственного эстрадного оркестра под управлением Леонида Утёсова.
В 1973 году певца пригласили в Ленинградский Мьюзик-холл, он был вынужден переехать в Ленинград и перевестись из училища Гнесиных в училище имени Римского-Корсакова.
В 1974 году Захаров стал лауреатом премии «Золотой Орфей».
А в 1976 году вышел мюзикл «Небесные ласточки» с участием Сергея Захарова. Артист сыграл в нём главную роль, а его партнёрами стали такие звёзды советского синематографа, как Андрей Миронов и Александр Ширвиндт.
1977 год стал чёрным в судьбе певца. По решению суда он был приговорён к одному году лишения свободы за драку, и Сергей отбывал свой срок в исправительном учреждении города Сланцы.
После выхода на свободу он продолжил работать в Ленинградском Мюзик-холле. В 1985 году Захаров стал сольным артистом, он исполнял свои песни под сопровождение инструментального ансамбля.
Сергей Захаров лауреат международных премий «Братиславская лира» и «Золотой соловей». Озвучивал персонажей таких фильмов, как «Пиаф», «Ты, песня моя» и «Клуб “Коттон”».
За свою карьеру артист посетил с гастролями сорок три страны с произведениями Мусоргского, Рахманинова, Чайковского и Глинки, а также с эстрадными песнями и романсами. Немало времени Сергей Захаров уделял и оперному искусству, он обладатель звучного баритона.
