Родился 17 февраля 1974 года в Нью-Йорке, в семье преподавательницы искусства и художественного директора в рекламном агентстве. Дед по женской линии Чарльз Витковски – известный публичный деятель, занимал пост мэра Джерси-Сити. У актера ирландские, итальянские и польские корни. Джеремайя вырос на Манхэттене, учился в Профессиональной детской школе, заведении для отпрысков знаменитых творческих личностей, после окончания которой поступил в Нью-Йоркский университет. Он изучал профессию сценариста и выступал за команду по фехтованию. Карьера О’Конелла началась очень рано: еще ребенком он принял участие в съемках рекламного ролика печенья, а первую работу в кино получил в одиннадцать в драме Роба Райнера «Останься со мной», экранизации повести Стивена Кинга «Тело». Его партнером по съемочной площадке стал юный кумир подростков Ривер Феникс. Картина собрала в прокате пятьдесят миллионов долларов, была номинирована на соискание премий «Оскар» и «Золотой глобус». Через год Джерри исполнил небольшую роль в драме Стюарта Марголина «Комната наверху», а также появился в криминальном сериале «Уравнитель». С 1988 года он снимался в фантастическом сериале «Мое второе я» в качестве парня, обладающего супер-способностями: ему подвластны сверхскорость, полеты по воздуху и неуязвимость. В 1993 году О’Коннелл отметился в комедийной драме Джона Уайтселла «Девушка из календаря» (вместе с Джейсоном Пристли, звездой сериала «Беверли-Хиллз, 90210»). Еще через два года он отметился в драме Джона Кента Харрисона «Лесник, повар и дыра в небе» и в ленте Ларри Илайкэнна «Голубая река». Тогда же начались съемки научно-фантастического сериала «Скользящие», который выходил на экраны в течение пяти лет. В проекте принимал участие Джон Рис-Дэвис. В 1996 Джерри появился в комедии Джона Пейсона «Квартирка Джо», посвященной говорящим тараканам, и поработал с Томом Крузом над оскароносной спортивной драмой Кэмерона Кроу «Джерри Магуайер». Следующий год стал для актера не менее успешным: ему предложили роль в триллере Уэса Крэйвена «Крик 2», который был отмечен премией MTV Movie Award и собрал в мировом прокате почти двести миллионов долларов. В 1999 году на экраны вышла молодежная драма Майкла Кристофера «Обнаженные тела» о раскрепощенной молодежи, проводящей ночи в безудержном угаре. Кроме О’Коннелла, в проекте приняли участие Шон Патрик Флэнери, Аманда Пит и Тара Рейд.
Среди работ Джерри в новом тысячелетии следует отметить фантастический фильм Брайана Де Пальмы «Миссия на Марс», главную роль в комедии «Мартовские коты», приключенческую комедию «Кенгуру Джекпот» от продюсера Джерри Брукхаймера. В 2009-м О`Коннел снялся вместе с Бейонсе в триллере Стива Шилла «Одержимость», а через год закончил работу над лентой «Пираньи 3D», черной комедией с элементами ужастика.