天祚帝在去往西夏途中，忽然得知西夏已向金人屈服稱藩，遂趕緊停下腳步。他覺得，西夏已不是安全之處，於是改變計劃，決定重新返回夾山大本營。
    1124年春天，經過一番輾轉跋涉，天祚帝終於轉回夾山。這時，他驚訝地發現，耶律大石也在這裏，而且隊伍又壯大起來了，他非常高興。
    天祚帝不知道耶律大石曾被金軍俘虜過。天祚帝更不知道的是，斡離不曾用繩索綁住耶律大石，牽在馬前，逼迫他帶路去襲擊天祚帝的行營，從而將秦王、許王、後妃、公主以及輜重車萬餘輛，全部俘獲。
    斡離不後來奉命調往平州平叛，便將耶律大石交給粘罕。粘罕覺得耶律大石是個人才，於是將他安置在自己營帳中，並許諾以後給他高官厚祿。為了感化他，粘罕還給他找了一名女子作妻子，並將之前俘獲的他的五子也還給了他。
    耶律大石其實是假投降，他身在金營心在遼，一直在尋找逃跑機會。他以其人格魅力，征服了那位原本可能是粘罕派來監視他的女子。那個女子甘心情願，為耶律大石脫逃進行掩護。
    九月的一天夜裏，乘看守不備，耶律大石帶著兒子逃出營帳。那個女子則自願留下來，與完顏粘罕進行周旋。
    粘罕得知耶律大石脫逃，派人將那個女子找來，向她詢問耶律大石下落。她始終沉默，一句話也不說。粘罕大怒，威脅她說：“你若是不說，便將你嫁給部落中最為貧賤者。”那位女子聞言，破口大罵，並表示抵死不從。粘罕令人取過弓來，一箭將她射死。
    耶律大石逃出金營後，一直向夾山奔去。一些潰散的遼軍殘餘隊伍得到消息後，紛紛前來歸附。耶律大石一邊走一邊收攏殘軍，很快收攏了七千多人馬。
    耶律大石來到夾山大本營一看，天祚帝不在這裏，也不知其所蹤。於是，他一邊訓練隊伍，一邊養精畜銳，等待時機。就這樣，不知不覺間半年多過去了。
    見天祚帝回到夾山，耶律大石心裏其實很複雜。一方麵他很高興，因為皇上身體與心情都還不錯，重建大遼大有希望。另一方麵他也很擔心，因為自己曾被迫帶領金軍襲擊過天祚帝行營。如果天祚帝知道實情，一定不會放過自己。耶律大石也時刻保持高度警惕，以防萬一。同時，他也在考慮下一步打算。
    天祚帝重新任命耶律大石為都統，讓他全麵負責軍事指揮。天祚帝打算在此積蓄力量，擇機再與金軍決戰，重整江山。
    不久，陰山韃靼首領毛割石率部也來到夾山，投靠天祚帝。有了耶律大石與毛割石這兩隻隊伍，天祚帝自謂得到天助，信心大增。1124年7月(遼保大四年)，他決定兵出夾山，進攻金軍，收複燕雲地區失地。
    耶律大石頭腦很清醒，他知道金軍戰鬥力很強。如果單憑這兩支隊伍出擊金軍，無異於以卵擊石，自取滅亡。他對天祚帝說：
    “自金人初陷長春、遼陽兩路，則車駕不幸廣平澱，而都中京。及陷上京，則都燕山。及陷中京，則都雲中。及陷雲中，則奔夾山。向以全師不謀戰備，以至舉國漢地全為金人所有。國勢微弱至此，而力求戰，非計也。當養兵待時而動，不可輕舉。”
    耶律大石這番話言簡意賅，內涵豐富。既嚴厲批評了天祚帝過去一味逃跑的錯誤路線，又對天祚帝現在冒險出戰的錯誤計劃做出了否定，同時也提出了正確的戰略方針即“養兵待時而動。”
    可是，天祚帝對耶律大石的直言勸諫“斥而不從”，一意孤行。
    耶律大石心裏清楚，如果繼續跟著天祚帝出戰，必將是死路一條。他思前想後，最終決定出走。
    一天夜裏，耶律大石殺死負責監視他的北樞密使蕭乙薛與坡裏括，率領親信鐵騎二百餘人，連夜出營，向西北挺進。
    西北一帶是遊牧族地區，在金軍滅遼過程中，仍然是遼國統治範圍，局勢相對來說是穩定的。
    耶律大石向北走了三天，渡過黑水河，來到了白達達詳穩床古兒管轄區。床古兒向他們進獻了四百匹馬、二十隻駱駝和若幹隻羊。耶律大石在此休息一天，然後又向西行進，十幾天後到達可敦城（今蒙古國布爾幹省青托羅蓋古城）。
    可敦城是遼國西北重鎮，是遼國西北路招討司及鎮州治所，駐有諸部族騎兵兩萬餘人。而且，附近還牧放著遼國禦馬數十萬匹，並擁有豐富的軍備物資資源。
    在可敦城，耶律大石召集成武、崇德、會蕃、新、大林、紫河、駝等七州長官，以及大黃室韋、敵剌、王紀剌、茶赤剌、也喜、鼻古德、尼刺、達剌乖、達密裏、密兒紀、合主、烏古裏、阻卜、普速完、唐古、忽母思、奚的、糺而畢等十八部首領開會，要求大家共同努力，滅金複遼。
    耶律大石對他們說：“我祖宗艱難創業，曆世九主，曆年二百。金以臣屬，逼我國家，殘我黎庶，屠翦我州邑，使我天祚皇帝蒙塵於外。每念至此，我日夜痛心疾首。我今仗義而西，欲借力諸蕃，翦我仇敵，複我疆宇。惟爾眾亦有軫我國家，憂我社稷，思救君父，濟生民於難者乎？”
    耶律大石慷慨激昂的演講，感動了所有與會者。在其感召下，很快就聚集起精兵萬餘，戰馬萬匹。
    耶律大石在此設置官吏，編列排甲，準備儀仗器具，政權很快初具規模，為後來西征打下了堅實基礎。