Сразу после окончания театрального учебного заведения Александр Карпов устроился в Театр миниатюр. В то время его художественным руководителем был легендарный Аркадий Райкин, который превратил среднестатистический театр в великолепный «Сатирикон». Впоследствии Александр Карпов сменил сцену лишь единожды, перейдя в 1987 году в труппу Театра «У Никитских ворот».
За долгую актерскую карьеру Александру Карпову посчастливилось сыграть множество блестящих театральных персонажей. Наиболее яркие из них: Король в «Золотом тюльпане Фанфана», Старый еврей в «Гамбринусе», Лобкович в «Майн кампф. Фарс», Доктор в «Кабаре, или Боб Фосс живет в Москве», пес-доктор и Бабушка в «Дне рождении кота Леопольда», Телегин в «Дяде Ване», Немец в «Крокодильне», Кувалдин и Санитар в «Докторе Чехове», Комиссар в «Скупом», Старый господин в «Носорогах», Князь Евгений Доломайнос в «Viva, парфюм!», Генерал в «Полиции».
Впервые в кино Александр Карпов появился в 1973 году — это стала картина «Люди и манекены». Однако следующей кинороли пришлось ждать 6 лет. В 1979 году Александр сыграл врача в фильме «Мнимый больной». Далее — новый перерыв, вплоть до 1987 года, когда актеру довелось поработать над съемками фильма-спектакля «Мир дому твоему». Однако после этой роли Александр не появлялся на съемочной площадке до 2000 года!
С наступлением нового тысячелетия на российских экранах стали популярны сериалы. Типаж и талант Александра Карпова оказались идеальными для исполнения ролей в таких многосерийных фильмах, как «Траектория бабочки», «Дружная семейка» (серии № 9 и 10), «Сыщики-1» (фильм первый — «Черт лысый»), «Агент национальной безопасности» (серии № 9 и 10), «Зона» (роль адвоката Лемке), «Моя прекрасная няня» (107 серия «Быть или не быть», роль Аристарха Эдмундовича Забубенского), «Счастливы вместе» (эпизод «Подарок без запарок»), «Атлантида», «Папины дочки», «Братья детективы», «Гуманоиды в Королеве», «Не родись красивым», «В погоне за счастьем», «Общая терапия», «Огни большого города» и «Школа для толстушек».