Menurut Brandes, ada 10 butir local genius yang dimiliki oleh Masyarakat Indonesia jauh sebelum datangnya pengaruh India yakni wayang, ilmu irama sajak, batik, pengerjaan logam, sistem mata uang sendiri, ilmu teknologi pelayaran, astronomi, pertanian sawah, birokrasi, dan Gamelan. Hal tersebut membuktikan bahwa keberadaan gamelan sudah sangat lama dan seiring masuknya pengaruh Hindu, Budha dan Islam, gamelan tidak ditinggalkan dan terus dikembangkan hingga sekarang.
Masa Hindu Budha
Kebudayaan Hindu dan Budha yang bangkit setelah abad lima dianggap merangsang dan berpengaruh terhadap perkembangan kebudayaan Jawa. Selain berpengaruh dalam hal kehidupan keagaaman, sosial, dan politik, kebudayaan hindu juga mendorong perkembangan kesusastraan dan kesenian. Sejarah musik Jawa dapat ditelusuri dari periode awal kerajaan Hindu Jawa Tengah (abad ke-8 sampai abad ke-10).Namun, data-data musikal dari masa kerajaan sangat langka. Beberapa bukti pendukung kesenian yang berkembang pada masa itu dapat dijumpai pada dinding-dinding candi dan monumen, seperti yang terdapat di Candi Borobudur relief Karmawibhangga. Dalam relief Karmawibhangga digambarkan bahwa kehidupan sehari-hari pada masa itu tidak terlepas dari hiburan berupa kemeriahan seni pertunjukan. Dalam relief tersebut terdapat alat-alat musik petik, pukul dan gesek yang digunakan baik dalam upacara maupun pertunjukan. Alat musik tersebut antara lain kendang bertali yang dikalungkan di leher, kendang berbentuk seperti periuk, siter, kecapi, simbal suling, dan gambang.
Kehidupan musikal dalam periode hindu-budha dianggap penting seperti halnya kesenian lainnya. Sehingga, hampir semua anggota istana harus belajar kesenian baik musik, tari, maupun pembacaan puisi. Bahkan, pangeran yang ideal pun juga dinilai dari keterampilannya dalam seni atau bermain musik disamping ketampanan dan kecerdasannya. Berbagai hadiah juga diberikan kepada dayang-dayang yang mempraktekkan cabang-cabang kesenian. Oleh karena itu, dapat ditarik benang merah bahwa musik berfungsi untuk menciptakan susasana sosial yang akrab dalam masyarakat.
Dalam Negarakertagama, musik memiliki arti penting bagi para aristokrat, sehingga pada masanya, Kerajaan Majapahit memiliki lembaga khusus yang bertanggungjawab perihal program seni pertunjukan. Setiap ansambel pada masa itu dimainkan untuk keperluan tertentu baik untuk pentas musik itu sendiri, mengiringi teater, maupun mengiringi tari. Karya sastra Jawa kuna juga biasa disebut sebagai ansambel wayang. Tidak ada bukti yang jelas apakah wayang diiringi oleh alat musik gamelan yang ada seperti sekarang ini, tetapi keberadaan ansambel musik tidak dapat diabaikan. Sebab, dalam puisi Bharatayudha menyebut adanya salunding, instrumen berbilah metal atau bambu yang dianggap sebagai bentuk awal dari gender. Kemudian dalam kakawin Wretasancaya disebutkan tentang keberadaan salunding, suling, dan nyanyian. Dalam puisi Kidung Wangbang Wideya disebutkan bahwa dalam pentas wayang terdapat iringan ansambel musik dengan alat gender, rebab, dan gong. Dalam puisi Kidung Malat disebutkan bahwa adanya alat musik guntang yang difungsikan untuk mengiringi wayang. Pada masa itu, keanekaragaman ansambel iringan wayang tergantung dari jenis wayang yang dipertontonkan. Beberapa contoh diatas membuktikan bahwa musik gamelan jawa sudah ada pada masa itu baik untuk pentas musik itu sendiri, maupun untuk iringan kesenian lain seperti wayang.
Salah satu ciri sejarah Jawa adalah keterbukaan kepada semua kebudayaan yang berasal dari luar, termasuk dengan Bali. Musik Jawa dengan Bali berhubungan sebab pada abad ke-10, keduanya sudah menjalin hubungan sampai pada masa pemerintahan Erlangga di Kediri pada abad ke-12. Hubungan keduanya juga terlihat pada masa Kerajaan Majapahit. Latar belakang sejarah di atas menyiratkan bahwa ide mengenai musik dan instrumennya yang berkembang dali pada abad ke-14 berasal dari Jawa. Meskipun demikian, tidak dapat diketahui secara persis instrumen atau ansambel apa yang dibawa ke Bali pada masa itu karena instrumen atau ansambel yang dibawa dari Jawa ke Bali diduga mengalami perubahan dari bentuk semula menjadi bentuk yag berkembang sesuai selera lokal.
Adapun data yang memperkuat adanya hubungan antara musik Jawa dengan musik Bali adalah pernyataan Mantle Hoed yang berpendapat bahwa gamelan Gambuh dan empat macam ansambel keramat (selonding, caruk, gambang, dan luang) berasal dari Hindu Jawa. Hood menduga bahwa gamelan Gambuh merupakan kelanjutan dari ansambel gamelan Jawa Timur sebab memiliki tujuh nada dan sistem tujuh nada itu sendiri berasal dari Jawa Timur pada abad ke-12 atau sebelumnya. Selain itu ada pendapat yang menjelaskan bahwa Salunding berasal dari Jawa yakni pendapat dari Hood dan Colin MCPhee dengan alasan bahwa kata salunding pertama kali muncul pada abad ke-12 dalam karya sastra Jawa dan berdasar laporan lisan musisi gamelan Bali, gamelan Luang, bentuk saron, dan bonang mirip instrumen
Masa Islam
Pada abad ke-15, Islam mulai berkuasa di Jawa menggantikan kerajaan Hindu. Namun demikian, tradisi kebudayaan Hindu-Jawa tidak secara total hilang. Ada beberapa tradisi yang masih alami, selain itu pula ada beberapa tradisi yang bercampur dengan tradisi islam. Sebab penyebaran agama Islam salah satunya menggunakan media kesenian yang sudah ada sebelumnya. Contohnya gamelan. Gamelan sekaten merupakan salah satu sarana penyebaran agama Islam. Berdasar sejarah lisan yang berkembang dalam masyarakat, gamelan ini ada karena peran dari Kerajaan-kerajaan Islam yang ada. Sunan Kalijaga menjadi tokoh yang mengusulkan gamelan sebagai sarana penyebaran agana. Gamelan sekaten mulai digunakan ketika Kerajaan Demak mengalami pasang surut. Namun, setelah Demak runtuh, eksistensi gamelan pudar dan mulai berkembang kembali ketika Sultan Agung menjadi raja Mataram. Pada tahun 1566, Sultan Agung membuat gamelan sekaten baru yang diberi nama Kyai Guntur Sari. Pada tahun 1788-1820, Paku Buwana IV membuat gamelan sekateng dengan bentuk dan volume yang lebih besar. Gamelan ini dinamai Kanjeng Kyai Guntur Madu. Ide penggunaan sekaten Penggunaan gamelan sekaten sebenarnya merupakan jawaban dari kesusahan yang dirasakan oleh Para Wali pada saat menyebarkan agama. Jadi, pada prinsipnya gamelan digunakan sebagai sarana dakwah dan diperkirakan menarik dan efektif untuk mengumpulkan masyarakat dan kemudian melakukan proses islamisasi.
Pada tahap awal islam mulai berkembang di Indonesia, Islam mendorong kehidupan musik Islam maupun musik yang asli dari Jawa. Dalam penyajiannya, Serat Babad Nitik menyebutkan bahwa gamelan dipentaskan berdampingan atau bergantian dengan musik islam. Di luar lingkungan kraton, terjadi interaksi antara musik Jawa dan musik Islam yang menghasilkan musik sinkretis. Perwujudan musik sinkretis ini bisa ditemukan dalam Serat Centhini yakni penggunaan ansambel terbangan untuk mengiringi tayuban atau taledhekan dimana dalam serat lain disebutkan bahwa tayuban diiringi oleh musik gamelan. Alat musik ansambel sinkretis yang dipakai dalam tayuban ini terdiri dari terbang, angklung, kendhang, calung, dan calapita. Ada dinamika musikal yang terjadi ketika musik gamelan bertemu dengan musik terbang yakni menghasilkan gagasan-gagasan musikal baru dan pertukaran lagu. Ada juga praktek musikal yang mengkombinasikan alat-alat musik berlainan contohnya kesenian jathilan yang diirigi kendhang, slompret, angklung, kekemong, kempul, dan terbang.