Александр Яковлевич Розенбаум родился в Ленинграде 13 сентября 1951 года. Его отец Яков Розенбаум был главным врачом городской больницы. Мать Розенбаума - Софья Миляева, работала акушером-гинекологом. С 1968 по 1974 год Александр Розенбаум учился в Первом медицинском институте в Ленинграде. Позже Розенбаум учился в вечернем джазовом училище при Дворце культуры им. С. М. Кирова. С 1968 года во время учебы в институте Розенбаум начал писать песни для различных студенческих спектаклей, «капустников» и ВИА. С 1980 года Розенбаум начал профессионально заниматься музыкой и играть в разных группах.
В конце 80-х годов его песня «Вальс-бостон» получила всесоюзную популярность.
В 1985 году музыкант первый раз появился на киноэкране, выступив в качестве камео в музыкальном фильме «Начни сначала» режиссера Александра Стефановича, главную роль в котором исполнил Андрей Макаревич. В 1987 году Розенбаум сыграл в ленте «Два часа с бардами». В этом же году на экраны вышла советская мелодрама «Друг» Леонида Квинихидзе, в которой Александр Розенбаум выступил композитором.
В 1991 году артист снова снялся в роли камео в фильме «Афганский излом», а также сыграл в лентах «Побег на край света» и «Бессонница». В 1992 году Розенбаум исполнил роль героя Джафара в боевике режиссера Всеволода Плоткина «Чтобы выжить».
В 1996 году Розенбауму присвоили звание заслуженного артиста РФ, а в 2001 году он стал Народным артистом РФ.
В 2005 году Александр Розенбаум появился в роли Ростислава Петровича в фильме «Не хлебом единым» режиссера Станислава Говорухина по мотивам одноименного романа Владимира Дудинцева. В 2007 году Розенбаум получил премию ФСБ России в номинации «Музыкальное искусство», его наградили за цикл военно-патриотических песен. В 2008 году артист исполнил роль героя Георгия Шахова в фильме «Сайд-степ». В 2010 году вышел фильм жанра «концерт-исповедь» под названием «Мужчины не плачут», посвященный Александру Розенбауму. Позже, в 2011 году, об актере и музыканте была снята другая лента под названием «Мой удивительный сон…». В этом же году на экраны вышел сериал «Лучшее лето нашей жизни», в котором Александр Розенбаум сыграл в роли камео.
Александр Розенбаум рано женился, однако его первый брак продлился недолго, всего 9 месяцев.
Во второй раз артист женился через год после первого брака на своей однокурснице Елене Савшинской, и пара до сих пор вместе. В 1976 году у них родилась дочь Анна.
В настоящее время Александр Розенбаум живет и работает в Санкт-Петербурге. Как признавался сам актер, он считает себя счастливым человеком: «Я хожу на работу с огромной радостью. А когда ты работаешь с удовольствием и когда чувствуешь, что ты нужен людям, это счастье. Все остальное мелочи».
