Первые упоминания о музыке китайцев восходят к IV – III тысячелетиям до н.э., они отражены в легендах и мифах. Первые документальные свидетельства о музыке относятся к XVI – XI векам до н.э. В XI – VIII веках до н.э. складывается традиция ритуальных оркестров (литофоны бяньцинь, наборы бронзовых колоколов бяньчжун, различные виды колоколов – хун-чжун, гоудяо, юн, бо и др., барабаны гу, глиняные окарины сюань и т.д.). О развитых формах вокального творчества свидетельствует «Книга песен» («Шицзин», созданная в XI - VI веках до н.э.), в которой собраны магические песни, оды (чжэнъя, сяоя, и др.) и гимны суи.
В поздний период эпохи Чжоу (V-III вв. до н.э.) под воздействием конфуцианской доктрины формируется разработанная система придворных церемониалов, которые сопровождались музыкой и пением. Каждому этапу церемонии соответствовали установленные последовательности вокальных и инструментальных композиций. Во время правления династии Цинь (221-207 гг. до н.э.) при дворе было создано учреждение Дасыюэ, ведавшее государственными церемониями и музыкой.
Начиная с эпохи Хань до периода Северных и Южных царств (206 до н.э. – 581 н.э.) музыкальная культура переживает значительный подъём. Важнейшими видами придворного искусства становятся я-юэ – музыка официальных конфуцианских церемоний, и су-юэ – музыка светских увеселений, простонародная музыка, которая представлена многими локальными разновидностями. Чиновники специальной музыкальной палаты Юэфу, в том числе видные музыканты Сыма Сянжу и Цай Юн, занимались собиранием традиционных песен различных областей Китая.
В этот период развивается традиция оркестров большого состава - от 300 до 800 исполнителей, инструменты в которых делились на 8 групп по материалу изготовления. Подобные оркестры сохраняли важную роль на протяжении всей дальнейшей эволюции китайской музыки. В это же время складывается традиция сольного исполнительства на струнных инструментах – цине (особо в кругах учёной элиты) и пипе, в искусстве игры на которой сложилось несколько исполнительских школ (школы Су Чжипо, Цзи Ли, Ли Яньняня и др.)