Джимми Киммел родился 13 ноября 1967 года в Бруклине. Он старший из трех детей в семье Джоан Яконо и Джеймса Джона Киммела, который работал в компании American Express и занимал руководящую должность в IBM. В возрасте девяти лет Джимми вместе с семьей переехал в Лас-Вегас. Он учился в школе Эда В. Кларка, затем поступил в Невадский университет, а через год перевелся в Университет штата Аризона. Вдохновленный Дэвидом Леттерманом Джимми начала работать в радио индустрии еще со старших классов.
Первоначально Киммел не хотел работать на телевидении, но затем он начал работать на канале FOX. Он участвовал во многих телешоу в комедийном амплуа. А с 2003 года стал вести свое собственное шоу. Джимми появлялся в различных фильмах и сериалах в эпизодических комедийных ролях. Также он озвучивал персонажей в мультфильмах «Гарфилд» (2004), «Гриффины» (1999), «Робоцып» (2005), «Смурфики 2» (2013) и «Босс-молокосос» (2017). В 2016 году Джимми Киммел стал ведущим 89-й церемонии вручения премии «Оскар». А затем он вновь стал ведущим «Оскара» в 2018 году.