История музея началась в 1913 году, когда ботаник и географ Ипполит Михайлович Крашенинников (на снимке) выступил с инициативой создания в городе естественно-исторического музея. 5 сентября 1913 года в Челябинском реальном училище собрались энтузиасты — двадцать два человека, среди которых был преподаватель и инспектор реального училища Я. Л. Борман, преподаватель учительской семинарии Дмитрий Валентинович Мошков и городской голова Василий Андреевич Семеин. Собравшиеся решили организовать в Челябинске естественно-исторический музей (тематическую ориентацию музея обусловили естественно-научные интересы организаторов) и местный филиал Уральского общества любителей естествознания. Для размещения экспозиции было решено использовать помещения реального училища, где начался сбор материалов, книг для библиотеки.
1 июля 1918 года члены общества открыли на Большой улице (ныне улица Цвиллинга), в доме В. М. Крашенинниковой, историко-этнографический и естественно-исторический музей для осмотра и приема коллекций. Осенью 1918 года Д. В. Мошков уехал в Омск. Вместо него председателем Приуральского общества изучения местного края стал Иван Гаврилович Горохов (на снимке). Позднее он возглавил краеведческий музей.
В 1982 году музей получил помещения в здании на проспекте Ленина, 49, где после ремонта началось строительство экспозиции, посвященной истории советского периода (была свернута на прежнем месте в 1979 году в связи с аварией). К 1988 году открылись три зала: «Октябрь и Гражданская война», «Первые пятилетки», «Отечественная война советского народа». Однако полностью экспозиция так и не была создана. В работе над ней принимали участие сотрудники музея В. С. Боже, Н. А. Ваганова, Э. Б. Иванова, Т. В. Палагина, А. И. Скориков, историки из вузов Челябинска.
В 2008 году открылся зал истории XX века. Экспозиция охватывает период с конца XIX века до начала 1990-х годов. Здесь посетители могут узнать о важнейших событиях в истории нашей страны и о том, как эти события отразились на нашем крае. Это революция и Гражданская война, индустриализация и коллективизация, Великая Отечественная война, послевоенная жизнь (начиная от промышленных строек и заканчивая идеологической составляющей).
Кроме того, в новом здании появилась возможность проводить масштабные выставки. Так, только за первые три года работы музея в новом здании прошло 105 выставок, в том числе «Сокровища Московского Кремля» (из фондов Кремлевского музея-заповедника), «Сергей и Павел Третьяковы» (из фондов Третьяковской галереи), «Сокровища государства Российского» (из фондов Государственного исторического музея).
За последние годы реорганизована структура музея, разработаны основные документы (устав, научная концепция, программа комплексного развития), осуществлен переход на учет фондов по системе КАМИС. Краеведческий музей, ставший в конце 2011 года государственным, является методическим центром для музеев Челябинской области, проводит курсы повышения квалификации музейных работников. Кроме того, ЧГКМ выпускает различные сборники, проводит семинары, научные конференции. Музей награжден золотыми медалями межрегиональных конкурсов «Музей года. Евразия-2007» (за проект «Детский музей») и «Музей года. Евразия-2008» (за два зала постоянной экспозиции).