Джоэл Дэвид Коэн родился 29 ноября 1954 года в Миннеаполисе штата Миннесота. Джоэл на три года старше своего брата Итана. Коэны – из семьи профессоров. Папа Джоэла работал экономистом, а мама специализировалась на истории искусств. Джоэл с детства был дружен со своим братом Итаном. Вместе братья учились в колледже для одарённых детей. Затем Джоэл учился в Нью-Йоркском университете на кинематографическом отделении. После окончания учёбы он недолго работал ассистентом режиссёра и кинооператора Барри Зонненфельда. В это время его брат заканчивал философский факультет Принстонского университета.
Первый собственный полнометражный фильм Джоэл снял в 29 лет. Вместе с братом они написали сценарий комедии «Просто кровь» и воплотили его на экране в 1983 году. Комедия полная недоразумений сразу подчеркнула неповторимый стиль режиссёров Коэнов – непосредственных и ироничных. С первой дебютной картины Коэны начали стремительное восхождение на голливудский олимп. Каждый их фильм срывал аплодисменты критиков и награды. Вторая картина Коэнов появилась спустя четыре года – фильм «Воспитание Аризоны» (1987) о странной бездетной парочке, похитившей ребёнка, собрала в прокате больше 22 миллионов долларов (при бюджете в 6 миллионов). Комедия прославила главного героя – актёра Николаса Кейджа, который тогда всё никак не мог пробиться «в люди», несмотря на дядю Копполу.
После комедии «Перекресток Миллера» (1990) братья сняли фильм, который принёс им первую престижную кинонаграду, это «Бартон Финк» (1991). История о молодом драматурге, терзающемся творческим кризисом, настолько покорила киноакадемиков, что они отдали ей три главных награды Каннского кинофестиваля, в том числе «Золотую пальмовую ветвь». Следующий фильм «Подручный Хадсакера» (1994) о безработном, случайно оказавшимся во влиятельной должности, вновь был номинирован на приз в Каннах. Комедия «Фарго» (1995) получила «Оскар» за лучший сценарий, а «Большой Лебовски» (1998) о самом счастливом неудачнике на свете удостоился номинации на Берлинском кинофестивале. Более того, лента стала культовой, Коэны впервые воспели в кино неудачника, породив массу подражаний. «Лебовски был срисован нами с человека, которого мы однажды встретили, - признаются Коэны. - Он был членом любительской команды по софтболу. Мы не сильно изменили его характер в фильме». Фильмы Коэнов неизменно сопровождают ирония, легкость и оригинальность повествования. Их смело можно называть независимыми, ведь братья присутствуют в своем кино на каждом этапе производства. В каждом их фильме преступники выглядят безумно милыми. «Основная причина, по которой все наши преступники изображены недотёпами, — это наш личный протест против голливудского штампа: плохой парень — это всегда профессионал, который контролирует каждый шаг. Но в жизни все иначе. Большинство преступников относятся к тем слоям общества, которые наиболее плохо приспособлены к жизни. Вот почему их так часто ловят», - говорят Коэны.
Джоэл женат на актрисе Фрэнсис МакДорманд, он усыновил ее сына от первого брака.
