Les ancêtres du Konik ont vécu dans les zones forestières de la Pologne, de la Lituanie, et de la Prusse jusqu'à la fin du XVIIème siècle.
L'histoire du Konik est amorcée quand les chevaux qui étaient dans les environs de la forêt de Białowieza, ont été capturés et placés dans le zoo des comtes Zamoyski près du Gmina de Bilgoraj en 1780. Puis vers 1806, ils furent donnés aux paysans locaux, pour compenser leur pauvreté.
Les premières tentatives d'élevage du Konik, eurent lieu en Pologne en 1923, au haras d'État de Janow Podlaski et en 1928 à Folwark Dworzyszcze.
C'est le professeur Tadeusz Vetulani qui a proposé le nom de « Konik », et a émis l'hypothèse qu'il s'agissait d'une variété forestière du Tarpan.
Grâce à sa contribution, un cheval aux caractéristiques typiques du Tarpan été recréé dans la réserve de la forêt de Białowieża en 1936, après l'importation des chevaux élevés dans le Gmina de Bilgoraj.
En septembre 1939, le troupeau comptait 40 chevaux, mais pendant la Seconde Guerre Mondiale, la ferme d'élevage fut détruite, et une partie des chevaux fut volée, puis emmenée au Reich pour les besoins de recherches menées par des scientifiques allemands.
Après la fin de la guerre, l'élevage a commencé avec la participation de quelques chevaux dispersés dans tout le pays et récupérés en Allemagne, à l'exception de ceux présent à Białowieża.
En 1949, les chevaux survivants furent amenés au haras de Popielno pour reprendre leur élevage. Trois ans plus tard, en 1952, un groupe de chevaux de Białowieza est ajouté au troupeau.
En 1955, le haras de Popielno fut repris par l'Académie polonaise des sciences.
Le registre généalogique est fondé la même année, mais il ne sera publié, et véritablement en fonction, que 7 ans plus tard, en 1962.
La Pologne a ensuite élaboré un programme d'élevage conservatoire, qui sera en place en 1999.
L'engouement pour le Konik était directement lié aux besoins de conservation patrimonial de la nature. D'ailleurs, l'ethnologue Bernadette Lizet l'analysera comme une « fabrication du sauvage et une restauration des systèmes naturels disparus ».
Hors de son pays d'origine, la Pologne, le Konik est quelquefois nommé le « Tarpan », malgré que la race soit domestiquée contrairement au Tarpan qui est, quant à lui, totalement sauvage et surtout éteint. Toutefois le Konik a conservé un instinct grégaire particulièrement développé, sans doute parce qu'auparavant il était une proie.