Родился 8 июля 1952 года в Краснодаре, в смешанной русско-армянской семье. Его отец Георгий Хосроевич Шахназаров, родившийся в Баку в семье адвоката, был известным советским политологом и сотрудником аппарата ЦК партии. В детстве Карен увлекался живописью, и должен был поступить на художественный факультет, но поступил на режиссерский во Всероссийский государственный университет кинематографии имени С.А.Герасимова (в мастерскую Игоря Таланкина), который успешно окончил в 1975 году. Позднее в одном из интервью Шахназаров вспоминал, как еще во время учебы он встретил на Московском кинофестивале Стэнли Крамера, и его мама, присутствовавшая рядом, попросила знаменитого режиссера написать для сына, начинающего режиссера, какое-нибудь пожелание. Он написал им только одно слово «терпение». Впоследствии Карен не раз признавал, что это качество, действительно, является одним из важных в работе.
Оно пригодилось уже в самом начале – Шахназаров ждал возможности снять первый собственный фильм около пяти лет, заполняя время практикой в других проектах. Так, он стал ассистентом своего преподавателя Игоря Таланкина на съемках исторической драмы «Выбор цели», рассказывающей историю создания атомной бомбы. Проект был масштабным, и в нем было задействовано большое количество известных актеров: Сергей Бондарчук, Георгий Жженов, Сергей Юрский, Олег Басилашвили, Алла Демидова и Иннокентий Смоктуновский. Первой самостоятельной полнометражной режиссерской работой Карена стала кинокомедия «Добряки». Главные роли в картине исполнили Георгий Бурков и Татьяна Васильева. Следующей работой стала музыкальная комедия «Мы из джаза», вышедшая на большие экраны в 1983 году. По оценкам зрителей, фильм был признан лучшей картиной года. Общий бюджет этого масштабного проекта составил 400 000 рублей. Помимо режиссуры, Карен также принял участие в создании сценария. Роли в комедии исполнили Игорь Скляр, Александр Панкратов-Черный и Евгений Евстигнеев. Многие актеры продолжили сотрудничество с Шахназаровым в его следующем фильме «Зимний вечер в Гаграх». Главный герой картины - мастер чечетки Алексей Беглов - встретил странного молодого человека Аркадия, который упорно хотел овладеть искусством стэпа. Прообразом Алексея стал популярный некогда чечеточник Алексей Быстров.
Уже через год плодовитый режиссер снял трагикомедию «Курьер». Основой для сценария стала его собственная повесть. Эта лента вновь избирается лучшим фильмом года, и получает Государственную премию РСФСР имени братьев Васильевых. На главную женскую роль была утверждена племянница известной актрисы Светланы Немоляевой Анастасия. А вот с главным мужским образом ситуация обстояла сложнее. Федор Дунаевский получил роль Ивана Мирошникова случайно. Он никак не был связан с кинематографом, и эта актерская работа стала для него дебютной. Режиссер выбрал Федора, увидев его на фотографии Настиных одноклассников. Следующей работой стала фантасмагория «Город Зеро», где главные роли исполнили Леонид Филатов и Владимир Меньшов.
В следующий проект - «Цареубийца» - Карен пригласил британского актера Малькольма МакДауэлла, а его российским партнером по съемкам стал Олег Янковский. Затем вышли драма «Американская дочь» с Владимиром Машковым, притча «День полнолуния» с Еленой Кореневой, комедия «Яды, или Всемирная история отравлений», историческая драма «Всадник по имени Смерть» с Андреем Паниным, драма «Палата № 6» с Владимиром Ильиным и военный фантастический фильм «Белый тигр» с Алексеем Вертковым.