A região correspondente à Mongólia atual foi ocupada por diversas tribos nômades, segundo relatos chineses que remontam a séculos antes de Cristo. Os hunos aparentemente migraram para o oeste a partir das estepes da Mongólia.
Por volta do século VII, os turcos surgem nos relatos chineses como nômades vindos do norte (da Mongólia).
Nos séculos seguintes, os turcos migrariam para o sudoeste, ocupando outras áreas da Ásia, mas algumas tribos permaneceram no leste da Mongólia até o século XIII.
Entre os séculos XI e XII, um líder tribal chamado Kabul Khan reuniu as tribos mongóis contra a China controlada pela Dinastia Jin, mas foi derrotado, e a unidade mongol foi desfeita. No final do século XII, um jovem chamado Temujin unificara algumas tribos mongóis e turcas, e venceria outras batalhas, sendo por seus feitos militares aclamado por todos os mongóis como Genghis Khan.
No início do século XX, a recém formada União Soviética instalou na jovem república mongol um líder com orientações bolcheviques, que lideraria um processo que levaria à instauração de um regime comunista, em 1925.
A República Popular da Mongólia só foi reconhecida pela China em 1946.
As dissenções entre Rússia e China fizeram com que as relações entre China e Mongólia fossem praticamente encerradas até a dissolução do Partido Comunista mongol e a queda do regime em 1990.