С детских лет Джон начал играть в школьных постановках, а в 1968 году он впервые вышел на большую сцену.
В 1970 году поступил в колледж, но через некоторое время переехал в Миссури и перевёлся в Юго-Западный университет. Окончив колледж в 1975 году, Джон Гудмен получил степень по актёрскому мастерству. Затем он переехал в Нью-Йорк, где первое время работал в театре поваром и участвовал в детских постановках.
В 1978 году молодой артист засветился в бродвейской постановке «Сон в летнюю ночь». Позднее, в девяностые годы, он довольно часто играл в бродвейских мюзиклах. Среди отмеченных критиками работ Джона на сцене – такие пьесы, как «Большая река» и «Теряя концы».
Кинокарьера Гудмена стартовала в 1977 году с роли в картине Джона Хэйеса «Jailbait Babysitter». Затем он принял участие в таких фильмах, как «The Face of Rage» («Опалённый яростью»), «Eddie Macon's Run» («Бегство Эдди Мэйкона»), «The Survivors» («Школа выживания») и «Revenge of the Nerds» («Месть придурков»).
Позднее на телеэкраны вышло несколько сериалов с участием актёра, в числе которых – «Chiefs» («Шерифы»), «Moonlighting» («Детективное агентство “Лунный свет”»), «Equalizer» («Уравнитель») и «Roseann» («Розанна»).
В 1987 году вышла комедия братьев Коэн «Raising Arizona» («Воспитывая Аризону»), которая сделала Джона Гудмэна популярным и известным. Творческий союз братьев Коэн и Гудмэна ещё не раз напомнил о себе.
Девяностые стали периодом расцвета кинокарьеры актёра. В 1990 году он сыграл в ужастике Фрэнка Маршалла «Arachnophobia» («Боязнь пауков»), а в 1991 он появился сразу в двух фильмах: комедии Дэвида Уорда «King Ralph» («Король Ральф») и в триллере Братьев Коэн «Barton Fink» («Бартон Финк»).
В 1998 году на экраны вышел легендарный фильм братьев Коэн «The Big Lebowski» («Большой Лебовски»), в котором Джон Гудмэн сыграл одну из лучших своих ролей – эксцентричного ветерана вьетнамской войны Уолтера Собчака.
Среди самых заметных лент двухтысячных с участием Гудмэна стоит отметить «You Don't Know Jack» («Вы не знаете Джека»), «Speed Racer» («Спиди Гонщик»), «Evan Almighty» («Эван Всемогущий»), «Beyond the Sea» («У моря») и «Monsters, Inc» («Корпорация монстров»).