Михаил Михайлович родился в Ленинграде 14 октября 1934 года. Его отец зарабатывал на жизнь писательским трудом, а происходил из еврейской семьи, стремящейся к ассимиляции в русской среде. Мать имела сербско-греческие корни и работала редактором «Издательства писателей в Ленинграде». Ее дважды арестовывали в периоды репрессий: в 1937 и в 1948 годах. Во время Великой Отечественной маленького Михаила вместе с другими ленинградскими детьми эвакуировали на Урал, где он находился с 1941 по 1944 год.
С раннего возраста будущий актер получал творческое образование. В 1945 году он записался в Ленинградское хореографическое училище, а в 1952-м поступил в Школу-студию МХАТ. Его дебют в кино состоялся на последнем курсе института (картина «Убийство на улице Данте»). В 1956-м, окончив Школу-студию, Козаков присоединился к труппе Театра имени В. Маяковского, где с блеском исполнял роль Гамлета. Через три года актер перешел в «Современник», с 1971-го по 1972-ой выступал во МХАТе, затем девять лет проработал в Театре на Малой Бронной, а с 1986-го играл в Ленкоме. Кроме того, по словам Козакова, он выступал на сцене Саратовского ТЮЗа в пьесе «Обыкновенная история». Актер утверждал, что уходил из театра лишь тогда, когда сам считал необходимым, успевая научиться чему-то важному у каждого их многочисленных руководителей.
Михаил Козаков активно снимался в кино, талантливо приноравливаясь к любым жанрам и типажам. В 1978 году он дебютировал в качестве режиссера, поставив двухсерийную картину «Безымянная звезда». Михаил Михайлович проникновенно читал стихотворения таких русских поэтов, как Тютчев и Пастернак, благодаря чему участвовал в записи пластинок «Страницы русской поэзии XVIII-XX вв.», наряду с другими мастерами художественного чтения. На всех горизонтах творческой деятельности Козаков добился завидных успехов.
В 1991 году актер вместе со всей семьей переехал в Израиль, где ему предложили высокооплачиваемую работу. Он четыре года выступал на сцене Тель-Авивского камерного театра и организовал русскую труппу, с которой поставил четыре спектакля. Впрочем, уже 1996 году Михаил Козаков вернулся на родину, где вновь собрал актерский коллектив и дал ему название «Русская антреприза Михаила Козакова».
Козаков издал сборник мемуаров под заголовком «Актерская книга», где рассказал о творческом пути, об окружающих людях и об искусстве. В 2003 году он начал выступать в Театре имени Моссовета. Одновременно актер продолжал художественное чтение стихотворений и записал компакт-диск с произведениями И. А. Бродского и А. А. Ахматовой, а также декламировал поэзию на телевидении и радио. До 2010 года артист выступал с моноспектаклями, среди которых – «Пушкин и о нем».
В 2010 году Михаилу Козакову поставили диагноз – рак легких. Лечебные процедуры проводились в Израиле, однако о спасении речи идти не могло. 22 апреля 2011 года актер скончался. Его похоронили согласно завещанию на Введенском кладбище, где он заранее приобрел участок.
На счету Михаила Михайловича Козакова более сотни ролей в кино и 20 режиссерских работ.
