El seu terme prové dels vocables grecs, xylon (fusta) i phone (so), significant així " so de fusta ". El xilòfon és un instrument musical de percussió format per una sèrie de làmines de fusta de diferents mides i ordenades horitzontalment a manera de tecles, que es colpegen amb baquetes per produir sons. L'origen de l'xilòfon prové de al Sud-est d'Àsia al segle XIV, un segle després va arribar a Àfrica, i el seu ús es va estendre per tot el continent, convertint-se en un instrument important per a la seva cultura.
Els esclaus africans el van introduir a Llatinoamèrica, on es coneix com marimba. En els anys 1500 aquest instrument va arribar a Europa, usant-se com a instrument folklòric a l'Europa Central, i va ser al segle XIX que intèrprets polonesos i russos van popularitzar el xilòfon a l'Europa Occidental. Aquest instrument té una gran rellevància en un nombre de peces clàssiques. La seva primera aparició orquestral va ser en la Dansa macabra (1874) de Camille Saint-Saëns; aquest compositor també ho va emprar en «Fòssils» de Carnival of the Animals (1886), a l'igual que Ígor Stravinski a Petrushka (1911).
El xilòfon requereix un gran virtuosisme per part de l'percussionista; seva tècnica actual és molt complexa i precisa d'un gran especialista. El seu paper en l'actual orquestra no és el d'oferir un toc exòtic a l'obra, sinó que és un timbre independent i molt important dins de el desenvolupament orquestral. Els instruments com el xilòfon, però amb làmines metàl·liques, es diuen metal·lòfons.