Алексей Смирнов родился 28 февраля 1920 года в городе Данилов Ярославской области, но через несколько лет после рождения сына семья переехала в Ленинград. С детства Алексей мечтал играть на сцене и в конце 30-х годов поступил в театральную студию при Театре музыкальной комедии. До войны он успел два года проработать на его сцене. В Великую Отечественную войну актер служил в войсковой разведке, был награжден медалями и орденами, в том числе и орденом Славы.
После окончания войны Алексей Смирнов продолжил работу в Ленинградском театре музкомедии. Но труппа много гастролировала, а актер не мог надолго оставлять больную мать одну. В 1952 году Смирнов был принят в «Ленгосэстраду». Алексей Смирнов всегда выделялся комплекцией и выразительной внешностью. Эти качества в совокупности с талантом перевоплощения оценили режиссеры, которые стали приглашать его на комедийные роли. Особенно большой любовью пользовался актер среди детей. Хотя сам он, как это часто бывает с замечательными комиками, всегда мечтал о драматических ролях.
В конце 50-х Алексея Смирнова стали приглашать на съемки в кино. После роли в картине «Кочубей» последовало еще шесть предложений. В 1961 году он стал актером киностудии «Ленфильм». Этот год принес ему съемки сразу в двух картинах, ставших классикой советского кинематографа. В комедии «Полосатый рейс» Алексей Смирнов сыграл матроса Кныша, а в сказочном фильме «Вечера на хуторе близ Диканьки» – посла. Оба персонажа сразу полюбились зрителям.
На всю страну прославила артиста роль Билла Дрисколла в фильме «Деловые люди» Леонида Гайдая. Алексей Смирнов перевоплотился в незадачливого похитителя бойкого и озорного мальчишки. Все трюки на съемках он выполнил самостоятельно. Но, пожалуй, самой известной киноработой Алексея Смирнова можно назвать фильм «Операция “Ы” и другие приключения Шурика», который вышел на экраны в 1965 году. Тунеядец Федя в его исполнении – собирательный персонаж, карикатура. Но именно его фразы ушли в народ и закрепились в обиходе нескольких поколений.
В 60-е годы без участия Алексея Смирнова не обходился практически не один фильм. Он сыграл пирата Бармалея в «Айболите-66», оперного певца Масленникова в комедии «Семь стариков и одна девушка», бандита Сметану в «Трех Толстяках», а также исполнил множество других замечательных ролей.
Серьезных драматических работ в кино у актера не было вплоть до 1967 года, когда его пригласили в Белоруссию участвовать в съемках фильма, который цензура так и не пропустила в широкий прокат. В 1974 году вышла лента «В бой идут одни «старики», где Алексей Смирнов сыграл вместе со своим другом Леонидом Быковым, который выступил и в качестве режиссера. Эта работа впервые открыла зрителям драматический талант артиста, но, по признанию самого Смирнова, своего режиссера он нашел слишком поздно. Алексей Смирнов скончался 7 мая 1979 года в больнице, куда попал после известия о гибели своего друга.