По уже цитированным нами воспоминаниям Г. О. Кононовича, «…зябким летом 1964 года на Мурманском рейде состоялось прощание с „дедушкой ледокольного флота“. Его убили и мертвым остовом былой славы поставили на корабельном кладбище. А 17 декабря в два часа дня над ним взвилось багровое пламя и загудело огненным смерчем – „Ермака“ сожгли прежде чем разрезать на металлолом». За разделку «Ермака» «Вторчермет» запросил приблизительно вдвое большую сумму, чем требовалось для ремонта ледокола в случае создания на нем музея. Начальник Мурманского высшего морского инженерного училища Минрыбхоза СССР Евгений Иванович Портнов предлагал посильную помощь: установить «Ермак» в сухом доке на территории Морского вокзала Мурманска. Затраты на это составили бы примерно 10 тыс. рублей. Но Мурманский обком КПСС не поддержал его инициативу, хотя Портнов являлся членом обкома.
IX. Память
Так нелепо закончил свой век ветеран Арктики. Память о нем осталась в экспозиции музеев, куда были переданы некоторые реликвии с «Ермака». В Центральном военно-морском музее в Санкт-Петербурге хранятся несколько картин художника Е. И. Столицы, написанных во время первых полярных плаваний «Ермака», и буквы бортовой надписи. Раздел, посвященный «Ермаку», существует в Российском государственном музее Арктики и Антарктики (г. Санкт-Петербург). В открытой экспозиции Центрального музея вооруженных сил в Москве находится якорь с «Ермака». Машинный телеграф оказался в одесском Музее морского флота. В экспозиции моковского Музея морского флота (в настоящее время располагается в здании Московской объединенной морской и радиотехнической школы (МОМРТШ) МГС РОСТО (ДОСААФ) находился орден Ленина с ледокола и полностью сохранена кают-компания «Ермака». В музее Мурманского морского пароходства находятся барометр, шлюпочный компас и ряд фотографий ледокола. В Мурманском областном краеведческом музее также имеется ряд реликвий: бортовая надпись, судовой колокол, штурвал, машинный телеграф, мегафон, термограф, флаг. Предметы с «Ермака» имеются и в составе экспозиций других музеев.
Стену музея в Мурманске украшает памятник «Ермаку» – якорь и установленное в 1965 г. мозаичное панно с изображением ледокола. Оно выполнено по проекту мурманского архитектора Н. П. Быстрякова мозаистом С. А. Николаевым и художником И. Д. Дьяченко в ленинградских мастерских Академии художеств СССР. Открытие памятника состоялось 3 ноября 1965 г. В нем приняли участие и члены команды ледокола. В последние годы в Мурманске стали появляться слухи о том, что якорь, установленный на памятнике «Ермаку», принадлежит не знаменитому ледоколу, а пароходу «С. А. Леваневский». Эту информацию опровергла заведующая музеем Мурманского морского пароходства В. И. Карепова в своей статье «Подлинный свидетель славного прошлого», опубликованной в газете пароходства «Арктическая звезда». Она пишет, что подлинность якоря подтверждается воспоминаниями Г. О. Кононовича и приводит его рассказ: «