La geografia della Mongolia è varia con il deserto del Gobi a sud e regioni fredde e montuose a nord e ovest. Il terreno è composto da montagne e altipiani, con un rilievo elevato. In generale, il terreno degrada dalle alte montagne dell'Altai a ovest e nord fino alle pianure e depressioni a est e sud.

Il Monte Khuiten (talvolta chiamato Nairamdal, che significa amicizia in mongolo) raggiunge un'altitudine di 4.373 metri ed è situato all'estremo ovest del paese, dove i confini della Mongolia, della Cina e della Russia si incontrano.

Il punto più basso si trova a 560 metri di altitudine nella pianura della Mongolia orientale. Il paese ha un'altitudine media di 1.580 metri.

Il paese contiene uno dei più grandi laghi d'acqua dolce dell'Asia (Lago Khuvsgul), numerosi laghi salati, zone paludose, dune di sabbia, praterie ondulate, foreste alpine e la presenza permanente di ghiacciai montani.

Il nord e l'ovest della Mongolia sono zone di intensa attività sismica, con frequenti terremoti, numerose sorgenti termali e vulcani estinti.

La Mongolia possiede tre grandi catene montuose. La più massiccia è l'Altai, che si estende attraverso l'ovest e le regioni sud-occidentali del paese su un asse nord-ovest/sud-est. La catena del Khangai si estende anch'essa su un asse che va da nord-ovest a sud-est. Occupa una larga parte del centro e del centro-nord della Mongolia. Questa catena è più antica, con montagne meno elevate e più erose, con molte foreste e pascoli alpini. La catena del Khentii è composta da montagne lungo il confine con la Russia a nord-est di Ulan Bator ed è ancora meno elevata.

Gran parte della Mongolia orientale è occupata da una vasta pianura, la cui parte meno elevata è composta da una depressione che si estende da sud-ovest a nord-est, dal Gobi al confine con la Cina a est.

Le acque si versano in tre direzioni: a nord verso l'Oceano Artico, a est verso il Pacifico, o a sud nei deserti e nelle depressioni dell'Asia centrale. I fiumi sono più diffusi nel nord, e il principale sistema fluviale del paese è quello composto dai fiumi Selenga e Moron, che si gettano nel Lago Baikal. Alcuni affluenti del fiume Enisej in Siberia hanno anch'essi origine nelle montagne del nord-ovest della Mongolia. I fiumi del nord della Mongolia si versano nel Pacifico attraverso i fiumi Argon e Amur, mentre altri corsi d'acqua del sud e del sud-ovest della Mongolia non raggiungono il mare ma si versano nei laghi salati o si perdono nel deserto.

Il termine «Gobi» è una parola mongola per caratterizzare la steppa desertica, che solitamente si riferisce a una zona arida con una vegetazione insufficiente per nutrire le marmotte, ma con abbastanza erba per i cammelli. I mongoli distinguono il Gobi dal deserto vero e proprio, anche se la distinzione non è sempre evidente per gli stranieri poco familiari con i paesaggi mongoli. L'ecosistema del Gobi è fragile ed è facilmente danneggiato dal sovrapascolo, che porta a un aumento del vero deserto, un deserto pietroso dove nemmeno i cammelli battriani riescono a sopravvivere. Il Gobi si estende per più di 1.600 km da sud-ovest a nord-est e per 800 km da nord a sud, condiviso tra la Mongolia e la Cina. Occupa un arco di terre con una superficie di 1.300.000 km², il che lo rende uno dei deserti più vasti al mondo.

Contrariamente alle immagini spesso associate al deserto, gran parte del Gobi non è composta da sabbia ma è ricoperta di rocce.