Connu pour être sans doute la plus ancienne race du Japon remontant à remontent à l'Ere Meiji, le Kiso est probablement issu des chevaux mongoles, mais ses origines ne sont pas bien connues.

Aux yeux de la population, c'était un cheval précieux qui avait un rôle important dans la culture et l'économie. Il était d'ailleurs considéré comme un membre de la famille.

Cette époque fructueuse où le Kiso était populaire et montrait un effectif de 6823 individus en 1899 est aujourd'hui révolue. En effet, la castration des mâles et les croisements des juments pour obtenir un cheval plus grand, a fortement menacé la race, qui fut proche de l'extinction.

Un étalon pur, nommé Shinmei, fut retrouvé après la seconde guerre mondiale, qui a eut lieu de 1939 à 1945. Son fils Daisan Haruyama, né en 1951, deviendra l'ancêtre de tous les Kiso qui subsistent de nos jours.

Cela n'empêchera aucunement les menaces qui pèse sur la race, ainsi en 1976 il ne restait que 32 sujets, et ceci, malgré les actions de conservation et de protection du « Groupe pour la conservation du poney Kiso » fondé en 1969. Le dernier effectif connu montre le chiffre inquiétant de 149 individus en 2008.