Родился 20 августа 1937 года в Москве, в семье писателей Сергея Михалкова и Натальи Кончаловской. Его младший брат – Никита Михалков – не менее известный российский режиссер. В возрасте пятнадцати лет Андрей окончил Центральную музыкальную школу, а спустя пять лет стал выпускником музыкального училища при Московской консерватории. Последующие два года он учился уже в самой Московской консерватории по классу фортепьяно. А кинематографическое образование он получил лишь в двадцать восемь лет, окончив режиссерский факультет ВГИКа. В период обучения он сыграл в нескольких эпизодических ролях, вместе с Андреем Тарковским написал сценарий фильма «Иваново детство» и снял короткометражку «Мальчик и голубь», получившую главный приз на конкурсе дебютов Венецианского кинофестиваля для детей и юношества. В 1965-м Кончаловский под впечатлением от работ режиссера Акиры Куросавы снял ленту «Первый учитель», а в следующем году была снята мелодрама «История Аси Клячиной, которая любила, да не вышла замуж», полную версию которой зрители увидели лишь в 1988 году. В 1994-м Кончаловский снял продолжение “Аси..” – фильм «Курочка ряба». В 1969 году по произведению Тургенева Кончаловский ставит кинокартину «Дворянское гнездо», а в следующем году выходит новая картина режиссера, на этот раз основанная на произведении Чехова драма «Дядя Ваня», получившая нескольких престижных наград. Другими успешными работами Андрея стали картины «Романс о влюбленных» и «Сибириада», принесшая Кончаловскому специальный приз жюри Каннского кинофестиваля.
В 1980 году Кончаловский переехал жить в США и стал снимать кино в Голливуде. В тот период вышли такие заметные картины, как «Возлюбленные Марии» (1985), «Поезд-беглец» (1985), «Дуэт для солиста» (1986), «Стыдливые люди» (1987), «Танго и Кэш» (1989), «Гомер и Эдди» (1990). А в 90-х состоялось его возвращение на Родину, где он снял ленты «Ближний круг» (1991), «Курочка Ряба» (1994) и «Дом дураков» (2002), отмеченную наградой Венецианского кинофестиваля. В то же время режиссер продолжал работать и с зарубежными киностудиями. Он выпустил минисериал «Одиссея» на английском языке, удостоенный премии «Эмми», историческую драму по пьесе американского писателя Джеймса Голдмана «Лев зимой», фильм «Щелкунчик и Крысиный король», а также короткометражку для сборника «У каждого свое кино». Среди последних российских работ можно отметить комедийную драму «Глянец». Также Кончаловский выступил в роли сопродюсера иностранного фильма о последних днях писателя Льва Толстого «Последнее воскресение», удостоенного ряда престижных наград.
В 2003 году Андреем был основан «Продюсерский Центр Андрея Кончаловского», сотрудничающий с ведущими телеканалами России и выпустивший целый ряд телепередач. Параллельно с кинокарьерой, Кончаловский занимается и театральной деятельностью: за последние годы он принял участие в постановке ряда спектаклей. Также Андрей Кончаловский известен как автор множества статей и книг.