История здания началась в 1908 году, когда Салтыковское волостное правление обратилось в Старооскольскую земскую управу к земскому собранию Курской губернии с просьбой выделить средства на строительство высшего начального училища. В 1913 году Салтыковское высшее начальное училище было открыто. Туда принимали детей, успешно учившихся в сельских земских и церковно-приходских школах. Последний выпуск состоялся в 1918 г.

В годы Гражданской войны здание сильно пострадало и до 1929 года было заброшено. В 1930 году в связи с развёртыванием геологоразведочных работ на КМА уездное руководство здание школы передало геологам. В связи с необходимостью решения вопроса о закладке разведочной шахты на место выехал начальник «Союзгеологоразведки» ВСНХ СССР, председатель Наблюдательного Совета по КМА академик И.М. Губкин, а также эксперт Академии наук СССР А.Д. Архангельский.

20-21 мая 1931 года академик И.М. Губкин и А.Д. Архангельский побывали на местах бурения разведочных скважин. Именно в этом здании И.М. Губкин написал письмо своей дочери Галине, в котором пророчески утверждал, что здесь будет шахтёрский город, на улицах которого будут цвести каштаны. Впоследствии, в 1933 г., когда в Старом Осколе было отремонтировано помещение для геологоразведочного треста КМА, здание было передано роно для открытия школы-семилетки. В этой школе учились будущие Герои Советского Союза вице-адмирал И.А. Хворостянов и полковник Г.Н. Найдин. В июле-августе 1943 года в школе размещался госпиталь №3349. С 1943 года здесь было семилетняя, а затем средняя школа. В конце 60-х годов располагалось медицинское училище.

С 1972 до 1989 гг. в здании размещалась средняя школа № 10. С 1989 года здание находилось в аварийном состоянии и постепенно разрушалось.

В 2011 году губернатор Белгородской области Е.С. Савченко выступил с инициативой организации в здании Музея истории КМА. Идею поддержали областное управление культуры, органы местного самоуправления и горнорудные предприятия области.

Было решено внешний облик двухэтажного кирпичного здания оставить прежним, чтобы не нарушить его архитектурную ценность.

В сентябре 2012 года Музей истории КМА принял первых посетителей. В экспозиции музея выделены два основных раздела - «Открытие и исследование КМА» и «Промышленное освоение КМА». Эти темы раскрываются в пяти залах.

В музее представлены уникальные документы начального периода исследования, макеты научных разработок ученых, образцы керна, демонстрируются рудные и нерудные породы КМА. В экспонатах залов, как на документальной ленте, зафиксирована история открытия и освоения КМА.

Портретный ряд дает представление об ученых, внесших вклад в изучение КМА, освоение железорудных богатств края, знакомит с биографией академика И.М. Губкина, возглавлявшего Особую комиссию по изучению КМА, инициатора строительства первой шахты у села Коробково.

В настоящее время музей ведет активную просветительскую и образовательную деятельность на материале по истории открытия и освоения железорудного бассейна КМА.