После окончания школы Хилл перебрался в Нью-Йорк и поступил в университет «Новая школа», где изучал актерское мастерство. В студенческие годы Джона начал пробовать свои силы на поприще драматургии. Он сочинял небольшие рассказы и пьесы, которые потом проходили на сцене местного бара «Black and White». В 1989 году Джона Хилл работал в качестве актера озвучения над мультсериалом «Симпсоны», он подарил свой голос персонажу Энди Гамильтону. В 1993 году он снялся в детективном сериале «Полиция Нью-Йорка», а затем появился в ситкоме «Рено 911».
Свою первую роль в большом кино Джона Хилл получил благодаря дружбе с детьми популярного актера Дастина Хоффмана. В 2004 году он был приглашен принять участие в комедийной драме режиссера Дэвида О. Расселла «Взломщики сердец». Благодаря характерной внешности Хиллу часто доставались роли в многочисленных комедиях, включая «Сорокалетний девственник», «Клик: С пультом по жизни», «Мальчик на троих». В 2006 году он исполнил роль Шермана в картине Стива Пинка «Нас приняли!». За эту актерскую работу Jonah Hill был впервые номинирован на престижную молодежную премию «Teen Choice Awards».
2007 год был особенно богат на роли. В этот период Хилл снялся в комедиях «Эван Всемогущий», «Гранит науки», «Немножко беременна», «SuperПерцы», а также появился в ситкоме «Хулиганы». За роль Сета в картине «SuperПерцы» Джона Хилл был номинирован на «Teen Choice Awards» в категории «Лучший комедийный актер», а также на премию «MTV Movie Award» в категории «Прорыв года» и «Лучшая комедийная роль».
В 2008 году актер принял участие в съемках фильмов «Снежный человек», «В пролете» и «Просто добавь воды». В последние годы Хилл появился в комедиях «Приколисты», «Сайрус», «Изобретение лжи» и «Побег из Вегаса». За роль Аарона Грина в «Побеге из Вегаса» актер вновь был номинирован на «Teen Choice Award». На данный момент Хилл задействован в съемках картин «Джамп стрит, 21», «Соседский дозор» и «Старая добрая банда», которые выйдут на экраны в 2012 году.