После отставки Хрущева предпринимал попытки восстановить членство в КПСС.
Умер Каганович в Москве25 июля 1991. Похоронен на Новодевичьем кладбище.