耶律大石赶紧过去，想把皇帝给拉回来，劝谏说：“金军最初攻陷长春、辽阳的时候，陛下不驾幸广平淀，留在都城中京；上京陷落的时候，陛下迁都燕山；中京又沦陷了，陛下西迁到云中，又从云中迁到现在的夹山，从来不谋战备，几乎使全国之地都被金人所有。国势如此，现在再主动出战，时机已经错过了。当今之计，莫过于养兵待时而动，不可轻举妄动。”耶律大石这般的劝谏，刻薄是刻薄了点，可都是大实话。他直言了天祚帝之前在局势尚有可为的时候贪生怕死，一味逃避的丑态，指出现在辽朝只剩下点滴土地了，敌我实力对比悬殊。耶律大石反对冒险出战，认为应该“养兵待时而动”，也就是先壮大自己再借机复国。
天祚帝原本就对耶律大石不满，一直隐忍不发，现在见耶律大石说出这样激烈的言辞，桀骜不驯，终于发火了。两人矛盾激化。耶律大石见势不妙，干脆拉出二百左右骑兵，连夜离开天祚帝行营。出走前，耶律大石也杀了两个看起来就是奸臣的天祚帝亲信，彻底与天祚帝决裂。
那一边，天祚帝坚持出兵。他率领辽朝最后的主力杀出夹山，还真让他取得了几个小胜，但很快就被金军主力打败。将领散的散、降的降，不到半年天祚帝也在应州（今天的山西省应县，就是应县木塔的所在地）成为了金军的俘虏，辽朝宣告灭亡。
耶律大石和他的二百人则向西北方行进。他们已经成为了辽朝最后的有生力量了。
一行人进入蒙古高原后，就进入了各个游牧民族杂处的地区。在东南边辽朝和金朝的战火中，这一地区相对安定，没有落入金朝的统治范围。耶律大石向北渡过了黑水，沿途部族献马400匹，骆驼20头，羊若干。这些物资支撑他们到达了北方的可敦城（今蒙古哈达桑东北）。
二
蒙古高原中部的可敦城在行政区划上归属于辽朝的镇州。
镇州，顾名思义就是以镇压当地少数民族为目的而设立的州县。一百二十多年前，蒙古高原中部的各少数民族部落经常反叛辽朝，不服管教，契丹人就以可敦城为中心设立了镇州，选调了二万余骑兵来到镇州作为驻屯军，专门防御阻卜、室韦、敌烈、乌古、羽厥等部族的反叛和进攻。朝廷规定即使内地有征讨，也不得抽移这些军队，还不断将犯罪的渤海人、女真人和汉人配流到此地居住。镇州最后发展成了“因屯戍而立，务据形胜，不资丁赋”的西北边防重地。
耶律大石到达可敦城的时候，发现当地的驻屯军已经四散了，但还完好保存着十万匹战马。更有利的条件是，距离可敦城最近的金军驻扎在离此地三千余里的上京，中间隔着沙漠。
耶律大石就在可敦城竖起了兴复王朝的大旗，召集附近边地7州和大黄室韦、乌古、敌烈、达密里、阻卜、蔑儿乞、乃蛮等18部部众号召重建辽朝。他向这些对辽朝海心怀留恋的部族领袖们发表了“复国宣言”：“我们辽朝的祖宗艰难创业，到现在已经经过了九代国君，有两百年历史了。金国原本是我们的臣属，现在却逼我国家，残我黎庶，屠翦我州邑，使我天祚皇帝蒙尘于外。为此，我日夜痛心疾首。如今，我仗义西行，就是想向各部求援，希望大家帮我翦平仇敌，恢复疆域。你们当中有怀念旧国，担忧社稷，救济生民苦难的同道中人吗？”各部听从了耶律大石的慷慨陈词。难道他们依然对辽朝抱有感情，或者他们认定存在复国的希望？也许，这些发展阶段相对落后的高原民族认同耶律大石个人的斗志、决心和勇气。耶律大石凭借个人威望说动各部落提供兵马归自己指挥，很快就组织了上万人的军事力量。编成新军后，复兴辽朝还需要一面旗帜，以为代表皇室的贵族。耶律大石毫不犹豫地自立为王，设置了简单的官职。很快，一个王朝复辟的小政权粗具规模了，尽管像水中浮萍一样脆弱。
这一次，耶律大石第三次出于公心，做出了重大决策。
他用自己的无私、胆量和强大的精神力量聚拢了一批故国已经覆灭、仓皇北行的契丹贵族和依然效忠契丹的藩属部族，重新编组了辽军残部和西北边境的部族武装，在可敦城建立了休养恢复的根据地。天祚帝覆亡的消息传来后，在可敦城的耶律大石没有轻易出击，而是坚持休养生息、积蓄力量。他的存在很快引起了金朝的不安。此后的三四年，金廷得到奏报，耶律大石的势力不断壮大。尽管不安，但金朝的主力已经南下进攻北宋去了，无暇北伐契丹。耶律大石的力量也弱小，难以进攻金朝。
这样看来，喘息稍定的耶律大石离复国的目标还很遥远。
三
为了复国，耶律大石做出的最重要决策就是在1130年拔师西进。
耶律大石为什么向西发展呢？主要原因是女真人在东方和南方的统治逐渐巩固了，弱小的耶律大石还不具备挑战的实力。而西方传来了各政权发展停滞和统治者懦弱的消息，一比较，耶律大石决定去征服西方的土地和人口，壮大自己，实现“养兵待时而动”的战略，最终复国。
当年2月，耶律大石按契丹人的传统，用青牛白马祭告天地祖宗。他尽起可敦城的精兵，与人们挥手告别，踏上了西去的旅程。这一去，这群契丹最后的精血人才再也没有回到东方。
耶律大石选择的路线是横穿蒙古高原，经阿尔泰山南麓和天山北麓进入西域。
在从现在蒙古到塔吉克斯坦和吉尔吉斯斯坦的漫长途中，一支奇怪的队伍在缓慢行进。他们穿着长袍左衽、圆领窄袖的衣裳，把裤脚放到长长的靴筒里。最奇怪的是，这些男子在两鬓各留一绺头发，别处的头发全剃光。他们都是面目彪悍的战士，虽然衣衫并不严整，但紧握弓矛利刃，精神昂扬。尤其是领头的耶律大石，目光如炬，策马前引，充满着王者之气。沿途的部落和牧民见此，纷纷敬而远之，不敢近前。
即使全副现代装备的人们，长途跋涉蒙古高原，战胜漫长的戈壁沙漠和险峻的群山也不是一件轻松的事情。更何况是一支没有后方补给、前途未卜，要随时应付战斗的古代军队了。耶律大石走了过来，可惜没有留下任何文字资料，我们后人不知道其中的艰辛和见闻。近百年后，中原有一个全真教的道士，叫李志常。他陪着师傅长春真人丘处机去追寻西征的成吉思汗，走的就是耶律大石的西征路线。李志常一行得到了蒙古人的官方支持，并且准备充分，但走完全程也是九死一生的经历。李志常后来写了一本书，叫做《长春真人游记》。从中我们可以窥见当年的情景：
渡河而南，前经小山，石杂五色，其旁草木不生，首尾七十里。复有二红山当路，又三十里咸卤，地中有一小沙井，因驻程挹水为食。镇海公曰：前至白骨甸地，皆黑石，约行二百余里，达沙陀北边，颇有水草。更涉大沙陀百余里，东西广袤，不知其几千里。及回纥城，方得水草。师（丘处机）曰：何谓白骨甸？公曰：古之战场，凡疲兵至此十无一还，死地也。顷者，乃满大势亦败。于是，遇天晴昼行，人马往往困毙，唯暮起夜度可过其半。明日向午，得及水草矣。少憩，俟晡时即行，当度沙岭百余，若舟行巨浪然。又明日辰巳间，得达彼城矣。夜行良便，但恐天气黯黑，魑魅魍魉为祟，我辈常涂血马首以厌之。日暮，遂行，牛乏，皆道弃之驭以六马，自尔不复用牛矣。
我们从并不长时间之后的记载可以推测出耶律大石在征途中也经过了白骨茫茫的古战场，缺水的咸卤地和变化多端的天气。任何一处都可能成为人的葬身之地。其中最艰难的断然沿途的沙漠了。中亚的沙漠中有着数不清的细沙，一遇到风就“风起云涌”，如同洪水猛兽直接威胁着旅客的生命。数不清的细沙如果大海的波涛一样在沙漠中汹涌起伏，一座座沙丘忽前忽后、乍聚乍散；更可怕的是细沙裹挟着砾石碎骨，形成夺人心魄的沙尘暴。中亚掀起的沙尘暴猛烈到能将石头山都能侵蚀掉。陷入该地区沙漠中存在许多奇形怪状的风蚀石，若干百年都是规模惊人的石头山。其他的危险，譬如沿途寸草不生导致的补给困难，譬如车陷马滞行进困难，譬如昼夜行军难得休息，相比都是“毛毛雨”，司空见惯了。
逆境是最好的练军地，从满天风沙中冲出来的这支契丹新军似乎又重新成为了“镔铁”。
这支军队是来征服的。途经地方原先存在的那些部落和政权对耶律大石的军队，一开始是抵触的，出兵抵抗。耶律大石就地消灭抵挡者，安抚归顺者。随着契丹胜利信息的传播开来，有好多部族主动归附。
四
耶律大石西征的第一个立脚点是叶密立（今新疆额敏县）。
叶密立一带有着众多的突厥人部落，大约四万余口。耶律大石征服了这些突厥人，修建城池，将叶密立建设成为了可敦城之后第二个根据地。
叶密立在阴山地区。金朝的刘祁曾经出使西北，回来写了《北使记》，提到了耶律大石在阴山的情况：“大契丹大石者，在回纥中。昔大石林麻，辽族也，太祖（完颜阿骨打）爱其俊辩，赐之妻，而阴畜异志。因从西征，挈其孥亡入山后，鸠集群乣，径西北，逐水草居。行数载，抵阴山，雪石不得前，乃屏车，以驼负辎重入回纥，攘其地而国焉。”从中我们可以看出，耶律大石花费了好几年的时间才到达阴山。阴山高大又有积雪，关径崎岖似栈道，阻碍了契丹军队的前进道路。耶律大石下令放弃了车骑，用骆驼载着辎重才征服了阴山，进而占据了周边地区。阴山附近资源较为丰富，适时地给风尘仆仆而来的耶律大石一行人提供了庇护。若干年后，刘祁见到阴山一带种植着大麦和水稻，山岭上零星分布着柏树。但因为水分不足以支撑规模巨大的根系，柏树往往依托着山石艰难生长。阴山一带的城池规模可观，“城居肆囿，间错土屋，窗户皆琉璃……市井皆流水交贯，有诸果，唯瓜、蒲萄、石榴最佳……金银铜为钱，有文而无孔”。
民族杂处的人口组成也为契丹人成为新的统治者提供了便利条件。阴山一带“有磨里奚、磨可里、纥里迄斯、乃蛮、航里、瑰古、途马、合鲁诸番族居焉。”刘祁出使此地的时候，看到守关者中有汉族人。实际上，从唐朝中期开始，中原各大民族就开始西迁。突厥人、汉族人、党项人和契丹人都迁徙到西域。原住的回纥人和先后迁来各民族杂居，逐渐熟悉了东方的见闻。刘祁就用八个字形容阴山一带的风俗：“其俗渐染，颇似中国。”不只是阴山，整个西域地区都多少有点中国化。
特殊的地形和适当的风俗，为耶律大石提供了一把入住西域的钥匙。
耶律大石就在叶密立忙着修城池，扩军队。他招抚附近讲突厥语的各部族，聚拢零星的契丹移民，忙得惨淡，却是实实在在的壮大成长。阴山地区虽然是个不错的根据地，但物产毕竟有限，又是处于高山、沙漠包围之中的一块绿地，无法供应一支日益壮大的军队，离耶律大石的复国梦想还有一段距离。于是耶律大石决定继续西行，征服更多的领土和人口。他心中的不是一个小小的建立城邦国家的梦想，而是恢复伟大辉煌的辽朝。
叶密立的西边是高昌回纥王国。耶律大石出师前回纥王毕勒哥送去一信，先陈述了回纥和辽朝友好交往的传统，再说现在契丹大军西征“大食”（不是阿拉伯地区的大食，而是现在中亚地区）需要假道回纥国，要求毕勒哥让路。毕勒哥收到这封信还在犹豫，就接到报告说耶律大石的军队已经先斩后奏，进入本国，兵锋直指首都了。现在毕勒哥即使不想借道，也来不及调军处置了，干脆打开城门，客客气气地把耶律大石一行接进城中。毕勒哥好吃好喝招待了耶律大石三天，才将契丹大军送走。临行时，回纥国献上马600匹、骆驼100头、羊3000只，并表示愿意成为耶律大石的附庸。毕勒哥一直把耶律大石军队送到境外。
旗开得胜后，耶律大石继续奔向西去。