Ефим Захарович родился 30 марта 1912 года в местечке Речица Гомельской области. От матери Марии Френкель и отца Залмана Копеляна мальчик унаследовал еврейские корни. Глава семьи был лесозаготовителем. Дед по материнской линии Мордух Френкель являлся одним из самых состоятельных людей города. Он владел заводом по обработке дерева, производящим основные поставки для военного ведомства, которое занималось строительством мостов. Семья будущего артиста была немаленькой. Кроме Ефима, родители воспитывали еще пятерых сыновей: Михаила, Абрама, Евгения, Исаака и Григория. Все они, за исключением последнего, приходились Ефиму старшими братьями. Позднее Абрам и Евгений погибли на фронте во время Великой отечественной войны.
Все члены семьи Копелян были творческими людьми с прекрасным образованием. Впоследствии двое братьев стали художниками, а сам Ефим с детства хотел овладеть профессией архитектора. После окончания школы он оставил родной город и переехал в Ленинград. Некоторое время ему приходилось работать токарем, а затем удалось поступить в Академию художеств. Свой выбор Копелян остановил на архитектурном факультете. Казалось, что его дальнейшая судьба предопределена. Все изменил заурядный случай. Однажды Ефим узнал о наборе в театральную массовку и, прельстившись дополнительным заработком, пришел в Большой драматический театр имени М. Горького. Царящая здесь атмосфера настолько впечатлила юношу, что вскоре тот принял решение заняться актерским ремеслом. На пару с приятелем Ефим поступил в театральную Студию при БДТ. Первые годы обучения преподаватели отказывались видеть в Копеляне серьезный талант. Раньше всех искру в нем разглядел требовательный педагог и художественный руководитель БДТ Константин Тверской. Единственную пятерку на выпускных экзаменах он поставил именно за выступление Ефима Захаровича.
После выпуска из вуза новоиспеченного актера пригласили присоединиться к труппе Большого драматического театра. Его дебютной работой на сцене стала роль кинооператора Буркова в постановке «Не сдадимся». С началом войны в Ленинграде был сформирован Театр народного ополчения. Желая поддержать моральный дух людей, Копелян не прекращал выступать на сцене. После окончания войны он вернулся в родной БДТ. Расцвет театральной карьеры артиста начался с приходом нового руководителя Георгия Товстоногова, разглядевшего в Копеляне мощный драматический потенциал.
Кинематографический дебют Ефима Захаровича состоялся еще в 1932 году в драме Эдуарда Иогансона «Ошибка героя». Однако активная работа на съемках началась только с конца сороковых. Иногда фильмы с участием Копеляна выходили по нескольку раз в год. Среди наиболее ярких работ актера следует выделить картины «Преступление и наказание», «Опасные гастроли», «Николай Бауман», «Неуловимые мстители», «Вечный зов» и «Даурия». В общей сложности за свою многолетнюю творческую карьеру Копелян исполнил порядка ста пятидесяти ролей в кино и на сцене. Актер скончался весной 1975 года после инфаркта в возрасте шестидесяти двух лет и был похоронен на Волковском кладбище в Ленинграде.
