Родился 23 июля 1946 года в городе Ростов-на-Дону. Его родители развелись, и впоследствии он стал жить с отцом и мачехой. После окончания восьми классов средней школы Александр стал обучаться в сварочном техникуме, но профессия электросварщика пришлась ему не по душе, и он оставил учебу. В итоге юный Кайдановский поступил в Ростовское училище искусств, которое и окончил в 1965-м году, там он учился под руководством Михаила Бушнова. В период учебы Александр в первый раз женился и после окончания училища вместе с женой переехал в Москву, где благополучно поступил во МХАТ. Однако спустя какое-то время он перешел в театральное училище имени Щукина. Сразу же после окончания он был зачислен в труппу Театра имени Вахтангова, где ему выпадали лишь небольшие роли и он, разочаровавшись, покинул театр в 1972-м году.
Еще в период учебы в 1967-м году Кайдановский в эпизодической роли дебютировал в кино в картине «Таинственная стена», после чего снялся в драме «Анна Каренина». Спустя год с его участием вышла мелодрама «Первая любовь». Затем он снялся еще в нескольких фильмах, которые не принесли заметного успеха. Так, после ухода из театра казалось, что его жизнь зашла в тупик, тогда он жил в полуподвальном помещении с женой и ребенком без каких либо перспектив. Многие ему советовали возвращаться в Ростов и пытаться устроиться там. Вместо этого в 1973-м году Александр ушел в армию, при этом местом службы оказался кавалерийский полк при «Мосфильме».
В 1974-м году к Кайдановскому пришла первая широкая известность благодаря роли в картине Никиты Михалкова «Свой среди чужих, чужой среди своих». А уже к концу 70-х годов Александр, снявшись во множестве фильмов, стал достаточно популярным актером. Так, в тот период вышли такие ленты с его участием, как «Бриллианты для диктатуры пролетариата», «Пропавшая экспедиция», «Вперед, время!», «Золотая речка» и «Поворот». А в 1979-м году свет увидела знаменитая картина Андрея Тарковского «Сталкер», где Кайдановский исполнил одну из главных ролей, которая стала, возможно, самой знаменательной для актера. Кроме того, именно благодаря этой работе с Тарковским, в Александре проснулась тяга к режиссерской деятельности, в результате чего он поступил на высшие курсы сценаристов и режиссеров, где его учителем и был сам Тарковский. Легендарный режиссер впоследствии также прислал Кайдановскому приглашение сняться в его зарубежной ленте «Ностальгия», но Александру не разрешили выезд из страны.
Наиболее заметными режиссерскими работами Кайдановского стали фильмы «Простая смерть», «Гость» и «Жена керосинщика». В то же время продолжал Александр и актерскую деятельность. Он снялся в таких картинах, как «Рафферти», «Рассказ неизвестного человека», «Новые приключения янки при дворе короля Артура», «Десять негритят», польско-французской ленте «Листопад» и испанской картине «Дыхание дьявола». Среди последних работ актера можно отметить фильмы «Откровения незнакомцу» и «Прибытие поезда».
В 1995-м году у Кайдановского появился собственный курс на сценарном факультете ВГИКа, также он был приглашен в жюри Каннского фестиваля вместе с Катрин Денев и Клинтом Иствудом, но этому не суждено было осуществиться, так как утром 3 декабря 1995 года Александр скончался от инфаркта. При этом незадолго до смерти Кайдановский женился на молодой актрисе Инне Пиварс, также в тот период шла подготовка к съемкам во французской картине «Восхождение к Эрхарту».