Музей основан 29 октября 1918 г. в Горно-Алтайске. История музея начинается с приобретения Каракорум-Алтайской земской управой коллекции известных сибирских краеведов С.И. и Н.С. Гуляевых. Одним из организаторов и первым заведующим музея стал А.В. Анохин.
Анохин Андрей Викторович (15 окт. 1867-31 авг. 1931 гг.), ученый-этнограф, композитор, чл.-кор. АН СССР (1923 г.). Родился в Тамбовской губернии, в крестьянской семье, с 1874 г. семья переехала в г. Бийск. Окончил Бийское катехизаторское и Московское синодальное училище. С 1900 г. жил и работал в г. Томске. В 1909-1912 гг. принял участие в этнографических экспедициях по Горному Алтаю, Северной Монголии, в результате которых собрал материал по фольклору и народной музыке тюркских племен. Записал 12 шаманских мистерий, более 100 телеутских песен. Впервые зафиксировал особый вид пения одного человека на два голоса «сыгыртыр». Экспедиционные материалы А.В. Анохина представляют большую ценность для изучения этногенеза и этнической истории тюркских народов.
А.В. Анохиным написано около ста вокальных произведений, сюита «Хан-Алтай» в пяти частях для хора и струнного квинтета, сценические поэмы «Хан-Эрлик», «Талай-Хан» и др.
Имя А.В. Анохина присвоено Национальному музею Республики Алтай в 1989 г.

Филиалы музея: Государственный музей-заповедник им. Н.К. и Е.И. Рерихов в с. Верхний Уймон Усть-Коксинского района (создан в 1981 г.); Музей алтайской традиционной культуры и быта в с. Мендус-Соккон Усть-Канского района (создан в 1993 г.); Музей казахов Алтая в с. Жана-Аул Кош-Агачского района (создан в 2003 г.), Музей-усадьба Г.И. Чорос-Гуркина в с. Анос Чемальского района (создан в 2005 г.).
Основной фонд музея – более 50 тыс. ед. хранения.