Родился в Москве в 1943 году в семье военного и актрисы. Отец художника был родом из Владикавказа, принадлежал к кабардинскому роду Кардановых, но носил фамилию Шемякин – она досталась от отчима, белогвардейца, погибшего в гражданскую войну.
Часть детства Михаила Шемякина прошла в Восточной Германии, занятой советскими войсками. В 1957 вернулся в СССР, в Ленинград, и сразу же пошел учиться в художественную школу при институте им. Репина. Оттуда его отчислили в 1961-м за нежелание следовать нормам соцреализма и за “эстетическое растление” соучеников. Уже через год прошла первая публичная выставка Шемякина.
Власти, раздраженные авангардным подходом художника к творчеству, начинают его преследования и травлю: арестовывают, принудительно лечат в психбольнице, конфискуют работы. Наконец в 1971-м Михаила Шемякина выдворяют из страны. Пожив до 1981-го в Париже, он переезжает в США. В 2007-м возвращается в Париж. Дружил с Владимиром Высоцким. Продолжает заниматься исследованием творчества разных народов, начатым еще в шестидесятых.
Среди известных монументальных работ Михаила Шемякина – мемориал жертвам политических репрессий (Санкт-Петербург), композиция "Дети – жертвы пороков взрослых" (Москва), памятник Высоцкому (Самара) и другие. Также известен своими театральными работами и перформансами. Сейчас работает над мультфильмом по сказкам Гофмана.
Живет в Париже. Лауреат Государственной премии России, Народный художник Кабардино-Балкарии и Адыгеи, почетный профессор университета в Сан-Франциско.
Женат вторым браком. Дочь (от первого брака) Доротея Шемякина – художник и книжный оформитель.