В Музее сосредоточены автографы, письма, разного рода документы, связанные с жизнью и творчеством деятелей русской и зарубежной музыкальной культуры.
Особое место занимает коллекция музыкальных инструментов народов мира. В мае 2010 года в состав Музея вошли предметы из Государственной коллекции уникальных музыкальных инструментов: крупнейшего собрания струнных инструментов мастеров разных стран и эпох, среди которых шедевры А. Страдивари, семей Гварнери, Амати.
Обширен музейный фонд аудио- и видеозаписей; собрание изобразительных материалов могло бы составить не одну экспозицию художественного музея.
Музей – не только крупное хранилище, но и авторитетный научный центр. Его сотрудники ведут исследовательскую работу, занимаются поиском, введением в научный и культурный обиход неизвестных, забытых или неатрибутированных произведений, автографов, музыкальных имен. Осуществляются публикации нотных и литературных рукописей, эпистолярного наследия музыкантов, иконографических материалов.
Музей располагает современной студией звукозаписи и концертным залом, где установлен орган немецкой фирмы «Schuke» (Потсдам). В фойе Главного здания представлен старейший российский орган работы немецкого мастера Фридриха Ладегаста, который также звучит в концертах.
Ни в одной стране мира нет музыкального музея подобного масштаба, и не случайно в начале 1995 года указом Президента Российской Федерации Музей был включен в Государственный свод особо ценных объектов культурного наследия народов Российской Федерации.
В Главном здании Музея работает постоянная экспозиция «Музыкальные инструменты народов мира». Проводятся абонементные циклы для взрослых и детей, а также по предварительным заявкам организуются экскурсии и концерты-беседы, вечера звукозаписи, проводятся интерактивные занятия и детские праздники. В выставочном зале и фойе звучат исторические музейные инструменты, в органном зале проводятся концерты и фестивали.
В состав Государственного центрального музея музыкальной культуры имени М.И. Глинки, помимо Главного здания на улице Фадеева, входят отделы (филиалы), расположенные в центре Москвы. Это Музей-квартира А.Б. Гольденвейзера, Музей-квартира Н.С. Голованова, Мемориальная усадьба Ф.И. Шаляпина, Музей С.С. Прокофьева, Музей «П.И. Чайковский и Москва» и Культурный центр им. П.И. Чайковского, Дом-музей С.И. Танеева (в стадии создания).
