Михаил Зимин родился 5 августа 1930 года в Нижнем Новгороде. Его отец, Николай Иванович Зимин работал на заводе, а мать, Александра Ивановна была домашней хозяйкой.

Свою трудовую жизнь он начал в 16 лет слесарем на военном заводе. Затем поступил в Горьковское театральное училище и окончив его в работал в Горьковском театре драмы. В 1952 году переехал в Москву и поступил на третий курс Школы-студии МХАТ (курс С. К. Блинникова и Г. А. Герасимова).

С 1954 года начался его творческий путь во МХАТе, где Михаил Николаевич играл центральные роли в репертуаре: Нил («Мещане» М. Горького), Бахирев («Битва в пути» Г. Е. Николаевой), Лопахин («Вишнёвый сад» А. П. Чехова), Крылов («Иду на грозу» Д. А. Гранина), Войницкий («Дядя Ваня» А. П. Чехова), Мышлаевский («Дни Турбиных» М. А. Булгакова), Ростанев («Село Степанчиково» Ф. М. Достоевского), Кола Брюньон («Кола Брюньон» Р. Роллана), Собакевич («Мёртвые души» Н. В. Гоголя), Батарцев («Заседание парткома» А. И. Гельмана), Курослепов («Горячее сердце» А. Н. Островского), Франсиско Гойя («Сон разума») и другие.

В 1957 году Михаил Зимин перешёл к О. Н. Ефремову в «Современник», где играл в спектакле «Вечно живые» В. С. Розова роль Бороздина-отца.

В кино Михаил Николаевич начал сниматься в 1959 году. Лучшие его фильмы: «Капроновые сети», «Пароль не нужен», «Цветы запоздалые», «Село Степанчиково и его обитатели», «Дым отечества», «Демидовы».

Михаил Николаевич очень много и плодотворно работал на радио, записал на пластинку сказку Киплинга «Рикки-Тикки-Тави».

В 1987 году состоялся раздел МХАТа. Михаил Зимин перешёл во МХАТ имени М. Горького под руководством Т. В. Дорониной, где им были сыграны роли: Симеонов-Пищик в «Вишнёвом саде» А. П. Чехова, Росс в «Макбете» У. Шекспира, Гусь в «Зойкиной квартире» М. А. Булгакова, Крутицкий в «На всякого мудреца довольно простоты» А. Н. Островского. В спектаклях «На дне» М. Горького (роль Бубнова) и «Мёртвые души» Н. В. Гоголя (роль Михаила Семёновича Собакевича) он играл со своей дочерью М. М. Зиминой.

Творчеству Михаила Николаевича Зимина была свойственна душевная щедрость, размах, сердечность.

Актёр очень тяжело переживал раздел МХАТа, его творческая жизнь пошла на убыль, и 30 декабря 1991 года он умер от болезни лёгких, (по другим источникам — рак печени). Похоронен на Востряковском кладбище рядом с родителями.

Со своей первой супругой Светланой Мизери он прожил 10 лет. В 1963 году у них родилась дочь Мария. Она окончила театральное училище имени М. С. Щепкина, работала в нескольких театрах, теперь Заслуженная артистка Российской Федерации.

Второй женой Михаила Николаевича стала актриса Светлана Семендяева, пришедшая во МХАТ в 1966 году. В 1968 году у супругов родился сын Михаил. Михаил Зимин-младший окончил факультет журналистики МГУ, в настоящее время директор рекламного агентства.