В детстве Сергей посещал театральную студию «Романтик». Там и зародилась его страсть к лицедейству. После окончания школы Сергей подал заявки сразу в два театральных ВУЗа: Щукинское училище и в Казанское театральное училище. В московское училище его не приняли, зато из Казани пришёл утвердительный ответ.
На первом курсе Казанского театрального училища Угрюмов познакомился со своей будущей супругой Галиной, с которой они решили переехать в Москву, чтобы поступить в Школу-Студию МХАТ. Сергей и Галина сумели поступить на курс Олега Табакова в Школу-Студию МХАТ только с третьей попытки.
В 1994 году Сергей Угрюмов окончил МХАТ и стал работать в труппе театра Олега Табакова. Первой театральной работой молодого артиста стала роль в спектакле «Смертельный номер» режиссёра Владимира Машкова. Затем он принял участие в таких постановках, как «Бег», «Билокси-Блюз», «Болеро», «Идеальный муж», «На всякого мудреца довольно простоты», «Страсти по Бумбарашу», «На дне» и «Кукла для невесты».
Параллельно Сергей успевал работать в МХТ им. А. П. Чехова, на сцене которого сыграл в таких спектаклях, как «Вишнёвый сад», «№ 13», «Примадонны», «Осада» и «Лунное чудовище».
Кинокарьера Сергея Угрюмова началась в 2001 году, он сыграл в популярном телесериале «Дальнобойщики». Первой заметной киноработой актёра стало участие в военной картине Николая Лебедева «Звезда». Затем фильмография молодого артиста пополнилась ролями в таких фильмах и телесериалах, как «Главные роли», «Каменская: За всё надо платить», «Стилет 2» и «Время жестоких».
В 2004 году на экраны вышла драма Владимира Машкова «Папа», в которой актёр исполнил роль Мити Жучкова.
Позднее Сергей Угрюмов принял участие в таких лентах, как «Золотой телёнок», «Май», «Внук Гагарина», «Фонограмма страсти», «Воробей», «Тёмный мир в 3D», «Семь майских дней» и «Любовь, как мотив».