Джон родился 22 января 1940 года в Честерфилде. Его мать, Филлис Мэсси, была непрофессиональной актрисой, а основной заработок приносила специальность инженера, тогда как отец, Арнольд Герберт Херт, получил математическое образование, но поступил на церковную службу, став викарием в городке Ширбрук. Затем на протяжении нескольких лет он не раз менял приход и в конечном итоге обосновался в церкви Святого Стефана в Вудвилле, в графстве Дербишир. К воспитанию сына родители подходили ответственно и очень строго. Они были против его совместных игр с соседскими детьми и категорически запрещали многие развлечения. Так, например, Джону не разрешали посещать кинотеатр, который находился прямо напротив их дома. Когда Херту исполнилось восемь лет родители отдали его в подготовительную школу «Anglican St Michael's Preparatory School», расположенную в Отфорде. Именно там со временем мальчик приобрел любовь к актерской профессии.
Его первой работой была роль в школьной постановке пьесы-притчи бельгийского драматурга и философа Мориса Метерлинка «Синяя птица». Помимо положительных воспоминаний те годы были омрачены для Джона общением с одним из преподавателей, Дональдом Кормаком, который издевался над детьми и даже домогался некоторых из них, что у многих оставило отпечаток на психике на всю жизнь. В двенадцатилетнем возрасте Херт пытался поступить в школу, где уже учился его брат, но провалился на вступительных экзаменах и стал пансионером при отцовской церкви. Тогда Джон часто сопровождал мать в театр, где она участвовала в любительских постановках. Несмотря на собственное увлечение, родители никогда не одобряли стремлений сына. Вместо актерской карьеры они предлагали ему попробовать себя хотя бы в качестве преподавателя по искусству. Один из школьных преподавателей даже высмеял Джона, когда узнал о его мечте стать актером. Мистер Франклин заверил мальчика, что у него не было ни малейшего шанса на успешную карьеру по причине отсутствия таланта. Несмотря ни на что, когда Херту стукнуло семнадцать лет, он поступил в школу искусств «Grimsby Art School». В 1959 году он выиграл стипендию, которая позволила ему перебраться в Лондон и поступить в «Saint Martin's School of Art». Через год он поступил в Королевскую академию драматического искусства, где прошел двухлетний курс обучения актерскому мастерству. После ее окончания юноша начал получать свои первые небольшие роли в различных телевизионных проектах.
Дебютной работой была роль в мелодраме Ральфа Томаса «Дикие и жаждущие». Первой же заметной работой стал образ Ричарда Рича в исторической драме Фреда Циннеманна «Человек на все времена». Всего за свою продолжительную карьеру Херт исполнил порядка двухсот ролей. Наиболее заметными среди них стали появления в таких фильмах, как драма Алана Паркера «Полуночный экспресс», драма Дэвида Линча «Человек-слон», фантастический боевик Гильермо Дель Торо «Хеллбой: Герой из пекла», научно-фантастический триллер Ридли Скотта «Чужой», приключенческая лента Стивена Спилберга «Индиана Джонс и Королевство хрустального черепа», фантастическая антиутопия Джеймса Мактига «V – значит вендетта», детективный триллер Томаса Альфредсона «Шпион, выйди вон!», антиутопия Майкла Рэдфорда «1984», а также серия фильмов о Гарри Поттере.
