Le kyūjutsu était utilisé sur les champs de bataille bujutsu. L'arc était l'arme symbole du samouraï.
Une fois les armes à feu introduites au Japon au , le kyūjutsu a perdu son utilité et a muté pour devenir le kyūdō.
vignette|Archer à l'entrainement.
vignette|À l'époque de Muromachi.
Les origines du tir à l'arc au Japon remonte à la préhistoire comme dans le reste du monde. Les premières images dépeignant l'arc japonais asymétrique date de la période Yayoi. Le premier texte décrivant le tir à l'arc japonais est la chronique chinoise Weishu (vers l'an 297), qui explique que les habitants des îles japonaises utilisent "un arc en bois qui est court en bas et long en haut.".
Le changement de la société et des unités militaires (samouraï) prenant le pouvoir à la fin du premier millénaire crée une nécessité d'éduquer à l'art du tir à l'arc. Ceci amène donc à la naissance du premier kyujutsu, le Henmi-ryū, fondé par Henmi Kiyomitsu au . Le Takeda-ryū et l'école d'archerie montée Ogasawara-ryū ont été fondés par la suite par ses descendants. Le besoin d'archers est devenu essentiel par la suite durant la guerre de Genpei (1180–1185), le fondateur d'Ogasawara-ryū, Ogasawara Nagakiyo, commença donc à enseigner le yabusame (l'archerie montée).
Du , le Japon est ravagé par la guerre civile. Pendant la dernière partie du , révolutionne le tir à l'arc avec sa nouvelle approche plus efficace appelée hi, kan, chū (voler, transpercer, centre). Sa méthode de tir à l'arc à pied se répandit rapidement. De nombreuses écoles sont alors créées, dont certaines existent encore, par exemple : Heki-ryū Chikurin-ha, Heki-ryū Sekka-ha et Heki-ryū Insai-ha.
L'utilisation du yumi en tant qu'arme de guerre commence à se faire rare quand les portugais arrivent au Japon en 1543, apportant avec eux les armes à feux sous forme de platine à mèche. Les japonais commencèrent rapidement à produire leur propre version de l'arme appelée qui finit par devenir avec le yari (une lance) les armes de prédilection.