Пётр Глебов имел дворянские корни. Дед актёра был предводителем дворянства Калужской губернии, отец – предводителем Каширского дворянства, а его двоюродный брат был внуком Л. Н. Толстого.
После окончания семи классов Пётр Глебов задумался над выбором ВУЗа и остановился на Басовском мелиоративно-дорожном техникуме. Затем продолжил учёбу в оперно-драматической студии им. К. Станиславского, позже перешёл в Театр киноактёра. Во время Великой Отечественной войны Театр киноактёра эвакуировали в Среднюю Азию, а Пётр Глебов и другие молодые актёры добровольцами ушли на фронт. Глебов служил в зенитно-артиллерийском полку, охраняющем западный сектор Подмосковья от фашистских самолётов. После окончания войны он поступил в труппу театра, где прослужил более двадцати лет. Участвовал в спектаклях «Салемские ведьмы», «Дни Турбиных», «Три сестры».
В кино Пётр Глебов начал сниматься в 1940 году в эпизодических ролях в кинофильмах «Любимая девушка», «Мечта», «Поезд идёт на восток», «Убийство на улице Данте». Однако настоящим дебютом актёра стала роль Григория Мелехова в знаменитой картине «Тихий Дон», снятой в 1957 году режиссёром Сергеем Герасимовым. На съёмках актёру очень пригодились его навыки – однажды он буквально потряс группу, с лёгкостью вскочив на коня. Роль Мелехова принесла Петру Глебову бешеную популярность.
На протяжении следующих тридцати лет актёр сыграл более чем в тридцати кинолентах, везде он создавал образы мужественных и сильных людей. Также Глебов известен ролями в кинофильмах «Царская невеста», «Моцарт и Сальери», «Кочующий фронт», «Морской характер» и других. К сожалению, успех «Тихого Дона» актёру повторить не удалось.
Умер актёр 17 апреля 2000 года. Похоронен на Ваганьковском кладбище в Москве.
