Среди источников знания о традиционной музыке Японии необходимо назвать археологические памятники, китайские династийные хроники, японские исторические хроники, хроники императорского двора, буддийские и синтоистские религиозные записи, литературные памятники, драматические произведения, законодательные своды. Несомненно, ценными источниками являются нотные записи, исследование которых представляет особый интерес хотя бы потому, что они совершенно отличаются от европейской системы нотации. Только в конце XIX века японская музыка стала записываться в европейской нотации, а до этого использовалась система, заимствованная из Китая из значков, линий и разноообразных фигур справа или слева от текста для обозначения струны, табулатуры, ритма, темпа и оттенков. При этом, поскольку, в отличие от европейской системы, обозначалась не конкретная нота, а струна или расположение пальцев на флейте, а ритм прописывался не полностью, а задавался только ритмический рисунок, то, не зная мелодии заранее, сыграть по нотам было невозможно. Кроме того, значки и фигурки отличались в зависимости не только от музыкального инструмента, но также от школы в рамках одного жанра. Поэтому исследование японской музыки по нотным записям имеет ограничения и предполагает подробные знания той или иной системы обозначений. Также многие песенные и сказовые произведения передавались от поколения к поколению на слух и не записывались, поэтому, к сожалению, значительная часть фольклорной музыки утеряна.
Знания о древней музыке в Японии основаны почти исключительно на археологических свидетельствах, например, глиняные фигурки ханива дают представления об инструментах того времени: бамбуковой флейте ямато-буэ, древней лютне вагон или ямато-гото и других примитивных инструментах.
Первые письменные упоминания о японской музыке появляются в китайских хрониках. Так, в летописях 3 века китайской династии Вэй Чжи говорится о путешествии в Японию и о песнях и плясках ритуального обряда.
Существует сказание, датируемое III веком, о том, как корейские музыканты инструктируют японцев сохранять корабельную древесину, поскольку она идеально подходит для изготовления инструментов.
Далее музыка упоминается в японских хрониках «Кодзики» (712 г.) и «Нихон сёки» (720 г.). Так, в «Нихонсёки» сообщается, что в 454 г. 80 корейских музыкантов было послано в японскую столицу для исполнения музыки по случаю смерти императора Ингё.
В «Сёку Нихонги», исторической хронике VIII века, рассказывается о музыке для ритуальных посвящений в буддийских и синтоистских храмах.
Важным источником являются религиозные записи, поскольку музыка была неизменно связана с ритуалами синтоизма и буддизма.
В «Манъёсю», величайшей поэтической антологии VIII века, содержится более 4 тысяч стихотворений, многие из которых считаются народными песнями, переделанными в аристократическом стиле. Тема музыки появляется и в «Повести о Гэндзи», и в других литературных произведениях более позднего времени.
Законодательные своды и акты отражают институциональную основу музыкального развития: так, свод законов «Тайхорё» учреждает управление гагаку.
